#91 AIと一緒に考えると、間違える | 縮む社会の設計図②
カートのアイテムが多すぎます
カートに追加できませんでした。
ウィッシュリストに追加できませんでした。
ほしい物リストの削除に失敗しました。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
-
ナレーター:
-
著者:
「AIを使えば、アウトプットの質は上がる」——そう信じてきました。道具が良くなれば、結果も良くなる。それが当然の前提だと思っていました。
でも、2024年にMITの研究チームが「Nature Human Behaviour」に発表した論文が、その前提を揺るがします。106本の研究をまとめて分析したメタ分析の結果、意思決定タスクに限ると、人間とAIの組み合わせは85%のケースでAI単独に劣っていた。人間が加わることで、精度が下がった。
なぜか。人間がAIの出力に引きずられるからです。AIが自信満々に答えを出すと、「まあそうかな」と同調してしまう。本来なら人間がAIの誤りを修正するはずが、逆に人間がAIの誤りを追認する。
BCGとハーバードが758名のコンサルタントで行った実験も、同じ構造を示しています。AIが苦手な領域のタスクでは、AIを使ったグループの正解率が84.5%から70.6%に低下。さらに、AIの使い方トレーニングまで受けたグループは60.0%にまで落ちた。使いこなせるようになればなるほど、パフォーマンスが下がった。
AIには得意な領域と苦手な領域があり、その境界はギザギザしている——研究者たちはこれを「ジャギード・フロンティア」と呼びます。そして、AIは苦手なとき「これは苦手です」と言わない。もっともらしいが間違った答えを、黙って返してくる。「サイレント・フェイラー」です。
AIを使いこなすとは、何でも任せることではなく、「何をAIに任せないか」を決める判断力を持つことです。
ポッドキャストで詳しく語っています。
参考資料
- Vaccaro, M., Almaatouq, A., & Malone, T. W.(2024)「When combinations of humans and AI are useful: A systematic review and meta-analysis」Nature Human Behaviour — 人間+AIの組み合わせが、意思決定タスクの85%でAI単独に劣ることを示したメタ分析(106本の研究を集約)
- Dell'Acqua, F., McFowland, E., Mollick, E. R., et al.(2023)「Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality」Harvard Business School / BCG — 758名のコンサルタントを対象にした実験。ジャギード・フロンティアとサイレント・フェイラーを定義。苦手領域でAI使用群の正解率が14pt低下、プロンプト習熟群では25pt低下
- Mata v. Avianca, Inc.(2023)S.D.N.Y. No. 22-cv-1461 — 弁護士がChatGPT生成の架空判例6件を連邦裁判所に提出し、制裁金5,000ドルを科された事案
- Macnamara, B. N., et al.(2024)「The illusion of understanding: How AI assistance leads to overconfidence」Cognitive Research: Principles and Implications — AIへの依存がスキル劣化の自覚を妨げる「理解の幻想」を提唱
- 複数研究の集計(航空業界)— 高自動化フライト継続後の基本タスク失敗率38〜44%。オートメーション・バイアス研究の知見
- Brynjolfsson, E., Li, D., & Raymond, L. R.(2025)「Generative AI at Work」Quarterly Journal of Economics — 生成AI導入により初心者の生産性+34%向上、熟練者には効果なし
- Gonzalez, C., et al.(2026)「Complementarity and substitution in human-AI collaboration: A framework for adaptive task allocation」PNAS Nexus — 人間とAIの補完性フレームワーク。役割分担と情報・能力の非対称性設計の重要性を整理
番組で取り上げた書籍紹介
https://www.valuebooks.jp/shelf-items/folder/84676b46a574170
ぜひ感想をお寄せください!
https://forms.gle/GRieST81bdhErH1x9