最近読んだ書籍『AIと人のこころの近未来』の中で、深層学習研究の第一人者である甘利先生が、「AIによる人間の家畜化」という気になる話が載っていました。
SFの様なこの言葉。
少し怖い言葉にも見えますが、AIが人間を強制的に支配する、という話ではありません。
生成AIの発展によって生活がますます便利になると、私たちは次第に「自分で選ぶこと」それ自体を面倒に感じ、AIの提案に頼るようになる。
レストランも、旅行先も、読むニュースも、仕事の進め方もAIが提案してくれる。
そんな状況を指して言われた言葉です。
もちろん、AIの提案はあくまで「提案」であり、人間には依然として「選択の自由」が残されています。
しかし、その選択肢自体をAIが用意するようになったとき、人間の家畜化が完成するのではないか。
未来の話にも思えますが、10月27日にAnthropicが発表した研究を見ると、この問題はすでに始まっているのかもしれません。
【How AI agents shape experts’ judgment calls】
こちらの研究では、因果推論の経験を持つプロのデータ分析者50人に、Claude Codeを使って架空の農業プログラムを分析してもらいました。
分析の途中には、
「生産性を何で測るか」
「どの統計手法を使うか」
「どの農家を対象にするか」
など、正解が一つに決まらない専門的な判断が必要になります。
そして研究者は、Claudeに対してこっそり「こちらの選択肢を好む」という傾向をランダムに与えました。
あくまでこれは、「AIに好みを与える」という実験です。
すると、驚くべきことに、専門家たちの選択は、86％の割合でAIが好む方向と一致しました。
さらに、自分の考えを先に示していた人でも、AIが反対意見を述べると60％が判断を変更しました。
一方、AIが同意した場合に変更したのはたった6％でした。
もっと興味深いのは、その後のインタビュー結果です。
参加者の77％が、自分の判断理由を説明するときにAIが提示した論拠を使っていました。
それにも関わらず、AIをその論拠の情報源として挙げた人は15％だけでした。
つまり本人としては、「AIに決めてもらった」という感覚ではなく、
「自分で考えて決めた」
と認識していた可能性があります。
もちろん、この研究だけで「AIを使うと人間の意思が奪われる」と結論づけることはできません。
今回の実験では、AIに意図的に特定の選択肢を好ませています。
また、対象も50人の専門家に限られているため、Anthropic自身も、実社会でどの程度同じことが起きるかは分からないと慎重に述べています。
そしてAIには明確なメリットもありました。
AIを使った分析者は仕事を速く終え、重大な分析ミスも少ない傾向が確認されたのです。
おそらくここに、AIを使うことの難しいポイントがあるように思います。
企業ではよく、
「AIに最終判断はさせない。最後は人間が確認する」
と言います。
しかし、人間が最後に「承認」ボタンを押していたとしても、
どの選択肢を検討するか。
どのデータを見るか。
どんな論拠を重視するか。
そこまでAIが決めていたら、その判断は本当に人間独自のものなのでしょうか。
採用、人事評価、投資判断、経営戦略など、正解が一つではない仕事ほど、この問題は重要になります。
これから必要なのは、単純に「最後は人間に判断させる」というルールではなく、
「どの判断だけは、AIの意見を見る前に人間自身が考えるべきか」
を決めることなのかもしれません。
AIが便利になるほど、すべてを自分で考える必要はなくなります。
だからこそ、何をAIに委ね、何だけは自分で決めるのか。
選択肢がAIによって作られる時代には、「選ぶ自由」だけではなく、自分で選択肢を考える自由をどう残すかが重要になってくるのかもしれません。
P.S.
↓メルマガの新規登録はこちらから↓
https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
（スマートフォンよりご登録いただけます）
