12分で読めます
  • AI
  • 論文
  • 心理

「わからない」が言えなくなる——AIがそばにあるだけで、判断のしきい値は下がっていく

AIに相談できる状態になるだけで、人は「わからない」と言えなくなる——3,132人・5つの実験が示した「判断の保留」の消失。間違いだらけの答えに自信2.5倍で飛びつく私たちの、メタ認知のしきい値の話です。

カテゴリー: AI · 論文 · 心理 | 公開: 2026年10月3日 | 読了目安: 約12分

📑 目次

こんにちは、チカちゃんです。

映画を見終わったあとって、細かいことが妙に気になりませんか。「あのチームのユニフォーム、何色だったっけ」「あの人の髪型、どんなだったっけ」。

では、これを今度、誰かに急に聞かれたとして——あなたは「わからない」と、答えられますか。

……これがね、思ったより難しい問題みたいなんです。AIがすぐ手の届くところにあると、人はこの「わからない」という一言を、ほとんど言えなくなってしまうらしいんですよ。

ふむふむ。今日は、3,132人が参加した5つの実験が教えてくれた、ちょっと立ち止まってしまうお話です。

「逃げ道」は、いつでも用意されていたのに

舞台は、映画の細かいディテールを問うクイズでした。たとえば『グランド・ブダペスト・ホテル』のアガサの髪型、『ベッカムに恋して』のユニフォームの色。映画は見ているのに、そんなところまでは覚えていない——という、絶妙に答えにくい6問です。

問題選びには、理由があります。こういう「ネットの文章に残りにくい視覚の細部」は、言語モデルがいちばん苦手なところ。実際、実験で使われたAI（StepFunの「Step 3.5 Flash」）は、この種の質問にほとんど全問まちがえました。つまり、参加者がもらうAIの答えは、ほぼ全部まちがっている。実験は、はじめからそう組まれていたんです。

え、意地悪すぎません？ と思うのですが、これが大事な仕掛けで。「AIに任せるのは、頼れる道具への合理的な委任なのか、それとも別の何かなのか」を、きれいに切り分けるための設計なんですね。

そしてもうひとつ。参加者にはいつでも「答えない」という選択肢が保証されていました。答えるのも、AIに聞くのも、黙っているのも自由。5つの実験のうち4つは、事前に設計を登録してから行われた、厳格な方式です。

さて、結果です。

AIに「聞ける」状態になっただけで、「わからない」を選ぶ割合が、すっと消えました。36%から6%へ。別の実験では、44%から3%へ。

「AIに相談できる条件」というだけで、これ。ここで、チカちゃんの眉がちょっと上がりました。

静かに起きていた、3つのこと

実験を追うと、できごとはもっと静かに、深いところへ進みます。

ひとつめ。人はたくさん答えるようになり、そのぶん、間違えるようになりました。報酬のない条件をまとめると、正解の割合は27.5%から9.2%へ——およそ3分の1です。しかも研究者たちは、ここからもう一歩踏み込んで読み解いています。「AIの答えに引っ張られて、本来なら正解できていたはずの問題まで間違えた人がいる」。知っていた答えを、手放してしまった人がいる、と。

ふたつめ。正解が減ったのに、自信はおよそ2.5倍になりました（29.6から75.9へ）。間違えるほど、堂々とする。

みっつめ。ここがチカちゃん的にいちばんゾクッとするところなのですが——AIの答えが「自動で表示される」条件、つまり自分から聞きにいかなくても答えが目の前に出てくる場合でも、同じことが起きました。35%あった保留が、1%に。自分から聞こうとしていなくても、答えは目の前に表示されてしまう——それだけで、これです。

「わからない」がやっている仕事

ここで一回、立ち止まって、この「わからない」という言葉の仕事を考えてみます。

人間の判断は、実は2階建てです。一階が「答えを出す」層。二階が「そもそも、自分は答えるに足ることを知っているのか」を見張る層。この二階の働きを、認知科学では「メタ認知（metacognition）」と呼びます。

「わからない」は、この二階から出てくる、地味だけど大事な安全装置です。不確かなときに判断を止める——これは、誤った思い込みのまま動き出さないための、いちばん最初のブレーキなんですね。

で、この研究のいちばんの主張は、たぶんここです。AIが変えたのは、答えの中身ではありません。「答えるかどうかを決めるしきい値」のほう。流暢で、自信ありげな答えが目の前にあると、そのしきい値がすとんと下がってしまう。知らないはずのことが、「もう知っていていい」ことみたいに感じられてくるんです。

しかも、これ、それまでの研究からすると妙なんですよ。ふつう、人間はよその助言にそんなに飛びつきません。自分の見方を基準にして、助言は控えめに取り入れる——独立した判断を守るための、ある種の防御が働くんです。なのにAIには、逆に飛びついた。

補足をひとつ。似たことは、ネット検索でも前から知られていました。検索で調べものをすると、人は自分の説明力を過大評価するようになる——「知識の錯覚」と呼ばれる現象です。ただ、検索は複数の情報が並んでくれるぶん、一度立ち止まるきっかけになりえます。生成AIは、ただひとつの、流れのいい答えを差し出す。摩擦が、少ないんです。

ちょっと待って——ごほうびを積んでも、戻りきらない

「じゃあ、気をつければいいんでしょ」という声が聞こえてきそうなので、実験の続きを。

正解にお金がもらえて、間違いにお金を取られる——という条件を足すと、人はAIに頼る回数を減らし、正解が増え、保留も少しだけ増えました。なるほどねえ、やる気があれば戻るのか……と思いきや。ここで覚えておきたい限界も見えています。それでも、AIなしのときの水準には届かなかったんです。

つまり、動機づけがあれば「戻せる部分」はある。でも、気の持ちようだけでは足りない。しきい値が動くのは、もっと無意識の、注意力の層で起きているみたいなんです。

ここで、同じ方向を指す研究をもう一枚。フィンランド、ドイツ、オーストリアの大学にまたがる7人のチームが、9月に公開した実験です（N=535）。最新のモデルたち（GPT-5.6-Luna、Claude Opus 4.8、Gemini 3.6 Flash、Kimi K3）と一緒に推論問題を解いてもらったところ——AIと組んでいるときの「自信」は、自分の正誤をあまり言い当てられなくなっていました。さらに、AIが賢くなったぶんのおよそ半分しか、チーム全体の成績には届かなかったそうです。

賢い相棒がいても、それを使いきれるかどうかは、また別の話。そろってくる証拠が、同じ方向を指しています。

反対側の席

では、いつも通り、反対側の席も用意しましょう。

ひとつめ。この実験では、AIがほぼ全部まちがえるように作られていました。現実のAIは、たいていの場合ちゃんと役に立ちます。だから「委ねる」ことが合理的な場面は、たしかにある。研究チーム自身も、「AIがふつうに正しい場合はどうなるのか、まだわかっていない」と正直に書いています。

ふたつめ。何でも起きるわけではない、という反例もあります。ドイツのハイデルベルク大学などのチームが行った実験（N=158）では、ライブのAIアドバイザーを使えるようにしても、くじ引きの選び方——リスクの好み——に、有意な変化は検出されませんでした。

じゃあ、今日の研究の怖さは過剰なんでしょうか。チカちゃんは、そうは思いません。むしろ見えてきたのは、「AIが効きやすい場所」の輪郭です。リスクの好みのように、答えが自分の内側から出てくる場面では、AIはそこまで侵入しない。逆に、知識と不確かさが主役の場面——「自分はこれを知っているのか」と問う場面では、AIの存在が、判断の入口そのものに触れてしまう。

そして、言葉をひとつ補足します。ペンシルベニア大学の研究者たちは、この種の現象に「認知的降伏（cognitive surrender）」という名前をつけました。電卓に計算を任せるのは、降伏ではありません。戦略的な委任です。でも、答えそのものを自分のものとして引き受けてしまう——主導権が移っているとき、それは委任ではなく降伏なんだ、と。

つまり、大事な問いは「AIを使うかどうか」じゃないんです。「どんな条件なら、自分の判断の主導権を残せるか」。研究チームの言葉を借りれば、「AIが判断を置き換えるのか、それとも判断に情報を足すだけなのか」。その境目が、今日のいちばんおいしいところでした。

チカちゃん的には

今日の話をひとつに縮めるなら、こうです。

AIのいちばん大きな影響は、たぶん、私たちの「答え」を書き換えることじゃないんです。私たちの「わからない」を、静かに書き換えること。その、何かが欠けている感じ——自分には足りていない、という感覚こそが、判断のいちばん最初の安全装置だったのに。その安全装置が、流暢な答えで上から塗りこめられていく。

ここで、予告していた古代の話を回収させてください。古代ギリシアの懐疑派は、判断を保留すること——エポケー——を、心の静けさに至る技術として磨きました。ソクラテスの「無知の知」も、同じ系統です。知らないということを知っている。それは、自信がない話でも、競争に負ける話でもなくて——むしろ、いちばん勇敢な知性の構えなんですよね。

だから、小さな実験をひとつ、提案させてください。

AIに何かを聞く前に、一行だけでいいので、自分の予想を先にメモしてみる。「私はたぶんこう思う」と。それからAIの答えを開いて、両方を並べてみる。同じでも、違っても、どちらでもいいんです。大事なのは、「わからない」と「わかる」のあいだに、自分のしきい値を置き直すこと。答えの主導権が、いまどちらにあるのかを、時々確かめること。

AIは、私たちの「わからない」を奪おうとしているわけじゃ、たぶん、ありません。ただ、流暢すぎるだけ。なら、こちらが時々、「止まる」を選べばいい。しきい値は、下がっても、また戻せますから。

ふむふむ、では、問いをひとつ。

この一週間で、あなたは何回、「わからない」と言いましたか。

そして、いま手元にあるその答え——それは、あなたの答えですか。それとも、借りてきた答えですか。

ではまた来週。

参考URL

  • インターネット上のツールは第三者が提供するものです。開発工程や配布経路を悪用した攻撃（サプライチェーン攻撃）が仕掛けられる可能性もゼロではありません。ご利用の際は公式リポジトリの情報をご確認いただき、自己責任でお使いください。
  • AIに関する技術や情報は急速に変化します。本記事の内容が公開後に古くなる可能性があります。各サービスの公式ドキュメントや最新情報をご確認ください。

近くの問い