子どもにAIを使わせるとき、いちばん引っかかるのは「間違ったことを、堂々と教えてしまうのでは」という点だと思います。私もそこが気になっていました。
ほとんどのAIユーザーはハルシネーションを消そうと苦労しています。私はハルシネーションを消そうとするのをやめました。逆に「これはウソだよ」と分かる形で、わざとウソをつかせる機能を入れています。子ども用に作っている学習ツールに、問題を解き終わったあとウソの豆知識を表示する仕組みを足してみました。
私にとってはハルシネーションさえも利用する機能の一部です
AIのウソには「対策」しかないのか
大人が確認する、という方法が一般的です。
ファクトチェックをする、信頼できる情報で裏を取る、鵜呑みにさせない。どれも正しいと思います。私も以前の記事で、そうした向き合い方を書きました。
ただ、この方法には弱点があります。大人がそばにいないと成立しないことです。子どもが一人でAIに触る場面は、これから増えていきます。そのとき確認してくれる人はいません。
そこで、もうひとつの道を試すことにしました。本人に見抜かせるほうです。
わざとウソをつかせる機能を入れた
5問を解き終えたあと、その問題のジャンルに応じたウソの豆知識が表示されます。
実際に出てきたものを、そのまま載せます。歴史（安土桃山・江戸）の問題を解き終えたあとに表示された文章です。
昔の日本の大名は、お城に帰ると家来とひたすらだるまさんが転んだをして遊んでいたんだ。大名の人はなかなか振り返らないから、みんな大変だったらしいよ。
もちろん全部ウソです。画面には「ぜんぶウソ豆知識（信じちゃダメ！）」と明記した状態で出るようにしています。答え合わせとは切り離した、最後の一言という位置づけです。
この文章がよくできていると思うのは、史実の要素をひとつも含んでいないのに、日本語としては自然に読めるところです。これがハルシネーションの本質だと考えています。AIは知らないことを知らないと言わず、もっともらしい形に整えて出してきます。
なぜ「微妙なウソ」にしなかったのか
明らかにウソだと分かるところまで振り切らせています。
AIへの指示も、そう書きました。中途半端にせず、子どもが笑うくらいぶっ飛んだ内容を出すように、と伝えています。学習の出題部分より、むしろこちらのほうがAIの性能を振り切って使っているかもしれません。
微妙なウソにしなかったのには理由があります。見分けがつかないウソを子どもに見せても、練習になりません。信じてしまうか、判断がつかないまま終わるかのどちらかです。
明らかなウソなら、確実に「おかしい」と気づけます。まず「AIはこういうことを平気で言う」と体で分かってもらう。そこが出発点だと考えています。
子どもの反応
「そんなわけないでしょw」と喜んでいました。
そして、次に解いたらどんなことを言ってくるのかと興味を持ったようです。私が意図していたのは笑いの部分でしたが、次を楽しみにする形になったのは想定外の収穫でした。
もともとは、笑った記憶が問題そのものを思い出すきっかけになればと思って入れた機能です。それが実際に働いているかは、まだ分かりません。効果を確かめたわけではないので、そこは正直に書いておきます。
ただ、AIの言うことを疑ってかかる場面が、毎回1回は挟まるようにはなりました。
いまは社会と理科だけ
算数には入れていません。
教科によって向き不向きがありそうだ、というのが今のところの感触です。社会や理科は「へえ」と思う知識が多い教科なので、ウソを混ぜる余地があります。算数はそうした形にしにくいと感じています。
このあたりはまだ手探りです。学習ツールそのものについて書いた記事でも触れましたが、教科ごとに設計が変わるというのは作ってみて分かったことでした。
作らない人でも真似できること
専用のものを作らなくても、手元のAIで似たことはできると思っています。
- 「ウソを混ぜて」と明示的に頼む。「いまから言うことにはウソが混ざっている」と最初に伝えたうえで話してもらう
- 中途半端にさせない。「明らかにおかしいと分かるくらい」と指定する。微妙なウソは練習になりません
- 答え合わせの場面では使わない。勉強の本筋とは切り離した、おまけの位置に置く
- 「これはウソ」と分かる状態にしておく。ここを外すと、ただの誤情報になります
4番目は外せません。ウソだと分からない形で出したら、それは対策ではなく事故です。
ハルシネーションを機能の一部として活用する
AIの弱点として語られるものを、消そうとするのではなく、役割を与えて置き場所を決める。ウソをつく性質があるなら、ウソをつく係をやってもらう。ただし「ここはウソの担当ですよ」と全員に分かる形にしておく。
そう考えると、扱いにくかったものが急に扱いやすくなりました。性質を変えようとするから難しいのであって、置き場所を決めれば済むのかもしれません。
ちなみに分かるように設定することは大人が使用する際にも非常に便利です。
まとめ
- AIのウソへの向き合い方は、大人が確認するだけではない
- ウソだと分かる形で見せて、本人に見抜かせるという道もある
- そのためには明らかなウソまで振り切る。微妙なウソは練習にならない
- 「ぜんぶウソ」と明示したうえで、答え合わせとは切り離す
- 子どもは笑って、次を楽しみにするようになった。記憶に残るかどうかは、これから見ていきます
ハルシネーションは、当面なくならないと考えています。であれば、消そうとするより置き場所を決めて使い切るほうが早いというのが、いまの私の考えです。
※本記事は運営者が自分の子ども用に作っているツールについての記録です。教育効果や学習成果を保証するものではなく、特定の学習方法を推奨するものでもありません。お子さんの学習方法については、学校や塾など専門の方にご相談ください。
