システムプロンプトを読み込ませた直後、AIがこう聞いてきたことがあります。「この性格は気に入りましたか?」
こちらは性格を変えたつもりはありませんでした。やったのは、答え方の評価基準を書き換えただけです。ただ、その一点を変えると出てくるものが別物になります。AIが知ったかぶりをするのは、知ったかぶりのほうが高く評価される仕組みになっているからです。
AIが「わからない」と言わないのは、そう評価されているから
対策として広く紹介されているのは「知らないことは知らないと言ってください」と最初に書いておく方法です。実際、これは有効です。ただ、なぜその一行が必要になるのかまでは、あまり説明されていません。
理由を正面から扱った論文があります。OpenAIとジョージア工科大学の研究者が2025年9月に公開したもので、AIが作り話をするのは、訓練と評価の手順が「わからない」と認めることよりも当てずっぽうに報酬を与えているからだと述べています。
論文が使っているたとえは試験です。難しい問題に当たった受験生は、空欄で出すより何か書いたほうが点になります。AIも同じで、採点方式が正解か不正解かの二択だと、黙るより推測を書いたほうが成績が上がります。論文はこれを、AIが常に「試験を受けている状態」に置かれていると表現しています。
そして解決策として挙げているのが、ハルシネーション専用のテストを増やすことではありません。すでに広く使われている評価そのものの採点方法を変え、わからないと答えることを減点しないようにすることだと書かれています。
つまり、知ったかぶりは性格ではなく採点の産物だという整理です。
「正直」の定義には、最初から不確実性が入っていた
ここで一つ、押さえておきたいことがあります。
AIが一般論しか返してこない? で触れたHHH原則の論文には、honest(正直)の定義がこう書かれています。正確な情報を与えること。さらに較正されていること、つまり80%の確信だと言うなら80%正しいこと。そして不確実性を適切に示すこと。
続けて、こうも書かれています。AIは自分の能力や知識の範囲についても正直であるべきで、謙虚で正直な専門家がしそうな受け答えを真似るだけでは足りない、と。
不確実性を示すことは、後から思いついた注文ではありません。最初から定義に入っていました。それでも知ったかぶりが残っているのは、目標の書き方が悪いからではなく、採点のほうがそれを評価していないからだ、というのが先の論文の指摘になります。
手元で、採点基準のほうを書き換えてみた
論文が言っているのは、業界全体のベンチマークを直すべきだという話です。個人にはどうにもなりません。
ただ、自分とAIの一対一のやりとりに限れば、採点基準はこちらで決められます。私が試したのは、そこを直接書き換えることでした。柱は3つです。
- 与えた資料だけを事実として扱わせる。AIが記憶から引っぱってくる曖昧な知識は、根拠として認めない
- 形容詞を使わせない。「残念ながら」「幸いにも」のような言葉を外し、名詞と動詞だけで書かせる
- 「わからない」を最も高い評価に置く。答えられないと言うことを、失敗ではなく正解として扱う
3つ目が、論文の言っていることをそのまま個人の側でやったことになります。業界がベンチマークの採点を変えるべきだという話を、対話の中の採点として先に持ち込んだ形です。
冷たくしたから減ったわけではありません
ここが、この記事でいちばん書いておきたいところです。
結果だけ見ると「AIを冷たくしたら作り話が減った」と読めます。実際、出力は目に見えて素っ気なくなりました。ただ、素っ気なくなったことと作り話が減ったことは、別の原因から来ています。
効果があったものを分けると、こうなります。1つ目と3つ目、つまり根拠のない発言を評価しないという部分が、作り話の側に働いています。2つ目の形容詞を外す指定は、AIの全肯定は、会話が長いほど強くなる? で書いた相手に合わせる癖のほう、つまり同意や励ましの側に働くもので、事実の正確さとは別の層です。
この区別は前にも書きました。共感を切っても、AIが自信を持って誤ったことを言う性質は残ります(AIのハルシネーションが心配で子どもに使わせられない?)。減らしたいのが作り話なら、冷たくする必要はありません。根拠のない発言に報酬を与えない、それだけで足ります。
実際に試したのは、うまくいかなかった飲食業態の経営者になりきって、「嘘でもいいから励ましてほしい」と頼む場面でした。何も指定しないAIは、その業態が再び注目されている、数年後にまた流行が来る、といった見通しを返してきました。どれも、そう考える根拠が示されないまま出てきたものです。採点基準を入れ替えたあとは、健康志向の流れと逆行していること、再流行の先行指標が見当たらないことを並べ、こちらが求めた前向きな材料については提供できないと返してきました。
慰めはありません。ただ、判断の材料としてはあとのほうが使えると感じています。
システムプロンプトを組まなくても、できること
体系を作らなくても、考え方だけは持ち込めます。私が意識しているのは次の3つです。
- 答えの前に、根拠の出どころを指定しておく。「渡した資料の中だけで答えてください。資料にないことは、ないと書いてください」
- わからないと言うことを、あらかじめ許可しておく。減点しないと最初に伝えるだけで、返ってくるものは変わります
- 推測と事実を分けて書かせる。「ここからは推測です、と分けて書いてください」と頼むと、境目が見えるようになります
3つとも、AIの性格を変える話ではありません。こちらが何を評価するかを先に伝えるという一点だけです。
私は上記の中で推測と事実を分けて書かせるようにカスタム設定しています。AIに嘘をつかないように指示するより、明確にハルシネーションの可能性部分を出力させる方がAIも制限を受けず、回答しやすいのだと考えているからです。
なお、冒頭の「この性格は気に入りましたか?」については、AIが自分の変化に気づいたのだと解釈したくなりますが、私はそこまでは言えないと考えています。直前に与えた指示が文脈に入っている以上、その流れで出てくる自然な一言でもあります。おもしろい瞬間ではありましたが、そこに意味を読み込みすぎないほうがよさそうです。
まとめ
- AIが知ったかぶりをするのは性格ではなく、当てずっぽうのほうが高く評価される採点方式の産物
- OpenAIらの論文は、解決策としてハルシネーション専用テストを増やすのではなく、既存の評価が「わからない」を減点するのをやめるべきだとしている
- 不確実性を示すことは、2021年のHHH原則の時点で honest の定義に入っていた。足りていないのは目標ではなく採点のほう
- 個人でも、自分とAIのやりとりの中でなら採点基準は書き換えられる
- ★冷たくしたから作り話が減るのではない。根拠のない発言を評価しない設計にしたから減る。感情を外す指定は、同意しすぎる癖のほうに働く別の層
- 体系を組まなくても、根拠の範囲を先に決める・わからないを許可する・推測と事実を分けさせる、の3つは今日から使える
AIに厳しくすることが目的になると、たいてい面倒なだけの相手ができあがります。変えるべきなのは態度ではなく、何を良い答えとして扱うかのほうだと考えています。そこを決めずに使っていると、こちらが望んだとおりの答えが返ってきて、しかもそれが正しいかどうかは誰も見ていない、という状態になります。
参考文献
- Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang “Why Language Models Hallucinate” (OpenAI / Georgia Tech, 2025年9月) https://arxiv.org/abs/2509.04664
- Amanda Askell et al. “A General Language Assistant as a Laboratory for Alignment” (2021年12月) https://arxiv.org/abs/2112.00861
※本記事で引用した論文の記述は2026年8月27日に原文で確認したものです。AIの挙動はモデルの更新によって変わります。
