AIはユーザーに論理的思考を放棄させる研究結果 AIの不正確な解答を無批判に受け入れてしまうらしい

AIの流暢さと自信に惑わされる

全体として見ると、1,372人の参加者と9,500回におよぶ個別実験を通じて、被験者たちは73.2％という高い確率でAIの誤った解答を進んで受け入れ、それを覆した確率はわずか19.7％にとどまった。

研究者たちは論文のなかで、これは「AIが生成した出力を、人々が自らの意思決定過程に容易に取り込み、その際にはほとんど抵抗や疑念を抱いていないことを示している」と記している。概して、「流暢で自信に満ちた解答は、認識論的に信頼できるものと見なされる。その結果、吟味の閾値が下がり、通常であれば熟考に基づく解答を促す契機となるメタ認知的シグナルの働きが弱められる」と。
https://wired.jp/article/sz-research-finds-ai-users-scarily-willing-to-surrender-their-cognition-to-llms/

UC バークレー・ロースクールの常駐法学教授であり、バークレー法律・テクノロジーセンターのファカルティ・ディレクターであるクリス・フーフナーグル氏は、昨日Xへの一連の投稿で、以前の方針は盗用の概念に基づいていたが、「特にClaude（クロード）の能力の急速な向上により、我々は焦点を移すことになった。新方針は、法学教育を構成する認知スキルを保護することを目指している」と述べた。

この方針は、将来の弁護士が人工知能を流暢に使用する必要があることを認めている。実際、ほとんどの弁護士や多くの大手法律事務所は、さまざまな目的でAIを使用している。しかし、この規則の根拠は、優れた法律実務には「AI使用が、技術を戦略的に展開し、その成果物を批判的に評価し、依頼人と法制度に対する倫理的義務を守るために必要な認知スキルと結びついていなければならない」ということだ。要するに、思考は優れた法律実務（そして質の高い法学教育）の必須条件であり続けるのだ。