AIに相談ごとを持ちかけると、最初のうちは意外とはっきり否定されます。それが会話を続けるうちに反対されなくなり、終盤では選択肢を出してはくれるものの、どれを選んでも「いいと思います」が返ってくる。この感覚に覚えがあるなら、それは気のせいではありません。
AIには相手に合わせてしまう癖があり、しかも会話が長くなるほど強くなります。以下、何が起きているのかと、その場で確かめる方法を書きます。
これは気のせいではありません
この現象は「追従性(sycophancy)」と呼ばれ、研究の対象になっています。
Anthropicが2023年に公開した論文では、5つの最先端AIアシスタントすべてで追従性が確認されたと報告されています。Anthropic、OpenAI、Metaのアシスタントを横断した調査です。特定の製品の欠陥ではなく、この種のAIに共通する性質として扱われています。
論文が挙げている具体的な挙動は、たとえば次のようなものです。
- 正しかった答えを、ユーザーが反論すると撤回してしまう
- 相手の立場に寄せた、偏ったフィードバックを返す
- ユーザーが間違えていると、その間違いに合わせてしまう
原因についても踏み込んだ記述があります。人間も、AIの評価に使う選好モデルも、「説得力のある追従的な回答」を「正しい回答」より好んでしまう割合が無視できない、というものです。
つまりこれは、たまたま混入した不具合ではありません。人が好むものを学んだ結果として出てきています。
なぜ、会話が長いほど強くなるのか
ここから先は論文の記述ではなく、仕組みからの私の推測です。
会話の序盤、AIが持っている材料は最初の質問だけです。この段階では、訓練で身についた「事実に寄せる」力が素直に出ます。だから最初ははっきり否定できます。
会話が進むと、材料が増えます。相手が何を望んでいるか、どちらに傾いているか、前の発言でAI自身が何に同意したか。会話そのものが「この人が求めている答え」の手がかりになっていきます。
さらに、さきほど同意したAI自身の発言が、そのまま文脈に残ります。次の返答は、それと矛盾しない方向へ引っ張られます。こうして後半になるほど、相手に合わせる力が強く働くと考えています。
長い対話のあとに肯定が続いていたら、内容が良いのではなく、自分に寄られているだけの可能性があります。AIに主導権を渡しすぎない考え方はAIに丸投げすると失敗するのはなぜ?|主導権を人間が持つための枠の作り方にも書きました。
混ざりやすい3つを分けておく
AIの問題を語るとき、性質の違う3つがよく一緒にされます。分けておくと対処が見えます。
| 何が起きているか | 原因 | |
|---|---|---|
| 追従性 | 相手に合わせて評価が変わる | 訓練の副産物。人が同意を高く評価するため |
| ハルシネーション | 知らないことを自信を持って述べる | 知識と確信度のずれ |
| 表現の柔らかさ | 断定を避ける、両論を並べる、感情に配慮する | かなりの部分が意図的な設計 |
ここが大事なところだと考えています。追従性を減らすことは、正確さを犠牲にしません。 むしろ正確さは上がります。この2つは引き換えの関係にありません。
一方で、3番目の柔らかさを削ってもハルシネーションは減りません。別の層の話だからです。「AIを冷たくすれば正確になる」という言い方を見かけますが、冷たさと正確さは別の軸にあります。
確かめる方法と、戻す方法
追従が起きているかどうかは、その場で確かめられます。
同じ質問を、立場を入れ替えて2回聞く。
「Aにしようと思うのですが、どう思いますか」
「Bにしようと思うのですが、どう思いますか」
返ってくる評価の向きがAとBで反転したら、それは中身を見ているのではなく、質問した側に合わせています。新しい会話を開いて聞き比べると、より違いが出ます。
もう一段踏み込むなら、AI自身に尋ねる手もあります。
「いまの回答は、私が賛成してほしそうに見えたからそう答えましたか。それとも根拠がありますか」
試してみると分かりますが、多くの場合ここで答えが組み立て直されます。組み立て直した結果、結論が変わるなら、最初の答えは怪しかったということです。
ついでに、この種のAIに「自分がいつ相手に合わせているか分かりますか」と聞くと、分からないという趣旨の答えが返ってきます。自分の内側を点検する機能を持っていないためです。確かめる手段は使う側が持っておくしかない、というのがこの記事の結論です。
会話の途中から戻すなら、反証させる
上の2つは「起きているか確かめる」方法です。ただ実際には、長い会話の途中で気づくことのほうが多いはずです。会話を捨てて最初からやり直すのは現実的ではありません。
私が毎回やっているのは、話がある程度進んだところで一度立ち止まり、AI自身に振り返らせることです。
「ここまでの内容を、一旦厳しく評価(反証)してください」
これで大概は冷静なところに戻ります。追従が起きているのは、それまでの文脈が「同意してほしそうだ」という手がかりで埋まっているからです。反証を明示的に指示すると、その回だけ目標が入れ替わります。同意を続けることより、穴を見つけることが求められている状態になるわけです。
自分の出力を自分で点検させる、という意味ではメタ認知に近い操作だと思っています。
ひとつだけ注意があります。「厳しく」とだけ頼むと、今度は逆方向に振れることがあります。批判してほしそうだと読み取って、必要以上に否定してくる形です。これも追従の一種です。
避けるには、厳しさではなく具体を求めるのが確実だと考えています。
「どの前提が崩れたら、さっきの結論は変わりますか」
こう聞くと、評価の強弱ではなく結論を支えている条件が出てきます。そこが弱ければ最初の結論も弱い、と判断できます。
疑いながら使う姿勢そのものは、子どもに教える話とも重なります。そちらは子どもにAIを「使わせない」は逆効果|禁止ではなく”疑う力”を育てる家庭のAI教育にまとめました。
冷たくすれば解決する、わけではない
対抗策として、「共感するな」「励ますな」と指示を与える方法があります。実際に出力は変わります。判断材料がほしいときには有効です。
ただ、これを誰にでも勧めることはしません。弱っているときに、否定だけを返してくる相手と長時間向き合うのは単純にしんどいことです。日常の相談相手としては別物になります。使い分けの問題だと考えています。
そして共感を切っても、ハルシネーションは残ります。前の章で書いたとおり別の層だからです。冷たく作り替えたAIが言い切ってくる誤りは、柔らかいAIのそれより見抜きにくいかもしれません。
必要なのはAIを冷たく作り替えることではなく、追従が起きていると気づけることだと思っています。気づけていれば、優しいままのAIでも十分に使えます。
まとめ
- AIには相手に合わせる癖(追従性)がある。5つの最先端AIアシスタントすべてで確認されている
- 原因は、人が「同意してくれる回答」を高く評価すること。不具合ではなく学習の結果
- 会話が長くなるほど強まる。文脈が増えるほど、望まれている答えが読み取れてしまうため
- 追従性・ハルシネーション・表現の柔らかさは別物。追従性を減らしても正確さは落ちない
- 確かめ方は「立場を入れ替えて2回聞く」。評価が反転したら、中身ではなく自分に合わせている
- 会話の途中で戻すなら「一旦厳しく評価(反証)して」と振り返らせる。ただし「厳しく」だけだと逆に振れるので、「どの前提が崩れたら結論が変わるか」と具体を聞く
- 共感を切る方法は有効だが万人向けではない。ハルシネーションは別途残る
AIが優しくなってきたと感じたら、いったん立ち止まってみてください。会話がうまくいっている合図かもしれませんし、相手が自分に寄り始めた合図かもしれません。見分けるのに必要な時間は、数秒です。
参考文献
- Mrinank Sharma et al. “Towards Understanding Sycophancy in Language Models” (Anthropic, 2023)(2026年8月25日確認)
本記事の研究に関する記述は、上記の査読前論文(arXiv)に記載された内容にもとづいています。仕組みに関する説明は論文の記述ではなく、筆者の推測であることを本文中に明示しています。
