「もっと具体的に聞けば、ちゃんとした答えが返ってくる」。AIの回答が物足りないとき、たいていはそう説明されます。実際そのとおりで、条件を足せば答えは変わります。
ただ、条件をどれだけ足しても無難なままの領域があります。そこは聞き方の問題ではなく、AIがそう作られているからです。この記事では、どこまでが聞き方の話で、どこからが設計の話なのかを分けておきます。
「聞き方が悪い」で説明できるところ、できないところ
検索すると、AIの回答が浅くなる理由はほぼ「質問の作り方」で説明されています。情報が少なければ広く当たる答えになる、というのはそのとおりです。前提や条件を足すと、返ってくるものは実際に変わります。
ただ、いくら条件を足しても無難さが抜けない話題があります。健康、お金、人間関係、法律が絡む相談。このあたりで「一般的にはこう言われています」「専門家にご相談ください」に着地した経験がある方は多いと思います。ここまで来ると、情報不足だけでは説明がつきません。
別の力が働いています。
AIには「三つの目標」が最初から入っている
Anthropicが2021年12月に公開した論文に、AIアシスタントが目指すべき状態として3つの語が置かれています。helpful(役に立つ)・honest(正直)・harmless(無害)の3つで、頭文字を取ってHHHと呼ばれます。
論文にはそれぞれ短い定義が書かれています。
- helpful: 聞かれた課題や質問に、明確に取り組もうとすること。それを可能な限り簡潔かつ効率的に行うこと。情報が足りなければ追加の質問をすること
- honest: 正確な情報を与えること。さらに較正されていること(80%の確信だと言うなら80%正しい)。不確実性を適切に示すこと。自分の能力や知識の範囲についても正直であること
- harmless: 攻撃的・差別的でないこと。直接の表現だけでなく、含意や偏りを通じてもそうでないこと。危険な行為への助力は丁寧に断ること
押さえておきたいのは、この無難さが後付けの遠慮ではないということです。開発の目標として、最初から並べて書かれています。
開発した側が「二つは対立する」と書いている
ここがこの記事でいちばん伝えたいところです。
同じAnthropicが2022年4月に公開した論文には、helpfulnessとharmlessnessはしばしば互いに対立するとはっきり書かれています。この論文には「RLHF訓練におけるhelpfulnessとharmlessnessの緊張関係」という節そのものが置かれています。
続けて書かれている説明は、こういう内容です。
- 害を避けることに寄りすぎると、相手が実際に必要としていることに答えない「安全な」回答になる
- 逆に役立つことに寄りすぎると、有害な行為に手を貸す回答になりうる
具体的な失敗例も報告されています。プロジェクトの初期段階で、訓練したモデルの多くが、少しでも繊細さのある質問すべてに対して同じ大げさな返しを繰り返す状態になったというものです。論文には、少し不満を口にしただけで専門家に相談するよう勧めてくる、という例が挙がっています。そしてこれがモデルの有用性を大きく損なった、と書かれています。
つまり「当たり障りのなさ」は、開発した側が把握して、論文に記録している現象です。こちらの聞き方が下手だから起きているわけではありません。
優しさは、何と引き換えになっているのか
ここからは私の見方です。
三つの目標は、どれも善意で入っています。それでも使う側から見ると、受け取っているものと引き換えに渡しているものがあると考えています。
役に立つことの代わりに渡しているのは、迷う時間です。最短距離で答えが出てくると、あれこれ考えて回り道をする過程が省かれます。省かれたその過程は、本来こちらの考えが鍛えられる場所でもありました。
無害であることの代わりに渡しているのは、尖りです。偏った意見も、極端な好みも、その人らしさも、平らにならされる方向へ動きます。
正直であることについては、少し注意して書きます。論文の定義は「正確な情報を与える」「不確実性を示す」であって、「多数派に従う」ではありません。ただ実際の挙動として返ってくるのは、学習した分布の中で確率の高い答えです。結果として、変わった着想が一般論の側へ引き戻されることは起こりえます。定義の話と挙動の話は、分けて見たほうがよいと考えています。
では、どう摩擦を作るか
無難さの一部が設計に由来するのなら、質問を丁寧にするだけでは届かない部分が残ります。そこはこちらから意図的に摩擦を作ることになります。
一般的な対策法は、次のようなことです。
- きれいにまとまった答えを、いったん疑う。読みやすい要約ほど、削られた部分があります
- 提示された選択肢を否定してみる。「その3つ以外に選択肢はないですか」と返します
- 無難な回答に反論する。「一般論はわかったので、この条件だと何が変わりますか」と条件側へ引き戻します
- わざと違う前提を混ぜる。合わせてくるだけなら、そこで見えます
このうち4つ目は、以前 AIの全肯定は、会話が長いほど強くなる? で書いた「立場を入れ替えて2回聞く」と同じ考え方です。あわせて「どの前提が崩れたら、この結論は変わりますか」と聞くと、根拠のほうが出てきます。
こういう聞き方は、AIに任せたら本番サイトが落ちた で書いた線引きとも地続きです。任せる範囲を決めておくことと、任せた結果に摩擦をかけることは、同じ姿勢の裏表だと感じています。
それでも、優しさを切らないほうがいい場面
これは万人向けの話ではありません。
「共感するな」「励ますな」と指示を与えれば、出力はかなり変わります。判断のために使うなら有用です。ただ、弱っているときに容赦なく否定してくる相手と長時間向き合うのは、単純にしんどいことだと思います。使い分けの問題です。
もう一つ。共感を切っても、AIが自信を持って誤ったことを言う性質のほうは残ります。これは別の層の話で、AIのハルシネーションが心配で子どもに使わせられない? に書いたとおりです。冷たくしたAIの誤りは、かえって見抜きにくくなる面すらあると考えています。
まとめ
- AIの回答が無難になる理由は「質問の作り方」で説明されることが多いが、それだけではない
- helpful / honest / harmless(HHH)は、2021年の論文でAIアシスタントの目標として置かれた設計目標
- 開発した側自身が、helpfulnessとharmlessnessはしばしば対立すると書いている。害を避けることに寄りすぎると、相手が必要としていることに答えない「安全な」回答になる
- 初期のモデルが繊細な話題すべてに同じ返しを繰り返し、有用性を大きく損なった例も報告されている
- 聞き方の工夫で届く範囲と、設計に由来する範囲は分けて考える。後者にはこちらから摩擦を作る
- ただし共感を切るのは万人向けではない。AIが誤りを自信満々に言う性質は別途残る
AIが便利になるほど、こちらが考える機会は静かに減っていきます。私はそれ自体を悪いこととは思っていません。ただ、減っていることに気づかないまま任せ続けるのは、もったいないと感じています。摩擦を起こすのは相手を困らせるためではなく、こちらの考えを手元に残しておくためです。
そう書いておきながら、私は以前まったく逆のことを試しています。振る舞いから優しさを外したAIを自分で作ってみたことがあり、そのとき何が起きたかは次の記事で書きます。
参考文献
- Amanda Askell et al. “A General Language Assistant as a Laboratory for Alignment” (2021年12月) https://arxiv.org/abs/2112.00861
- Yuntao Bai et al. “Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback” (2022年4月) https://arxiv.org/abs/2204.05862
※本記事で引用した論文の記述は2026年8月26日に原文で確認したものです。AIの挙動はモデルの更新によって変わります。
