AIのうそ（ハルシネーション）を見抜く方法と対策

AIに質問したら、それらしい答えが返ってきた。でも、調べてみたら、まったくのでたらめだった。そんな経験はありませんか。AIを使い始めた方が、一度はつまずくところです。

結論からお伝えすると、AIは、まちがった内容を、正しそうな文章で答えることがあります。 これを「ハルシネーション」と呼びます。完全になくすことはむずかしいですが、起こりやすい場面を知り、確認のくせをつければ、仕事で困ることはぐっと減ります。

ハルシネーションとは

ハルシネーションは、もともと「幻覚」という意味の言葉です。AIの世界では、AIが事実とちがう内容を、もっともらしく答えることをさします。

たとえば、次のようなことが起こります。

• ありもしない本や記事を紹介する
• 制度の内容や金額をまちがえる
• 実在の人や会社について、ちがう情報を書く
• 計算や日付をまちがえる
• 存在しないURLを書く

こわいのは、まちがっているときも、自信がありそうな書き方をすることです。文章が自然なので、つい信じてしまいます。

なぜAIはうそをつくのか

AIは、たくさんの文章を学んで、「この言葉の次には、この言葉が来そう」という予測で文章をつくっています。

つまり、AIは「正しいことを答えよう」としているというより、「自然な文章をつくろう」としているのです。わからないことでも、それらしい文章で埋めてしまうことがあります。わざとうそをついているわけではありません。

ハルシネーションが起こりやすい場面

次のような質問は、特に注意が必要です。

• 最新の情報: 最近の出来事、新しい制度、ツールの料金など
• 細かい数字: 金額、割合、日付、統計
• 固有名詞: 人の名前、会社名、本のタイトル、地名
• 専門的な内容: 法律、税金、医療など
• あまり知られていない話題: 情報が少ないこと

逆に、「文章を短くする」「言い回しを変える」「アイデアを出す」など、正解がひとつではない仕事では、ハルシネーションはあまり問題になりません。

見抜くための確認のコツ

AIの答えをチェックするときは、次の点を見てみましょう。

1. 数字・日付・固有名詞に印をつける 答えの中の、まちがうと困る部分を探して、そこだけ重点的に確かめます。
2. 公式の情報で確かめる 制度なら役所の公式サイト、ツールなら提供会社の公式サイトを見ます。
3. 出典を聞く 「その情報の出どころを教えてください」と聞いてみます。ただし、AIが出した出典やURLそのものがまちがっていることもあるので、実際に開いて確認します。
4. 別の聞き方でもう一度聞く 同じ質問を言いかえて聞くと、答えが変わることがあります。変わったら、要注意のサインです。

起こりにくくするお願いの仕方

お願いの仕方を工夫すると、ハルシネーションを減らしやすくなります。

• 「わからないことは、わからないと答えてください」と添える
• 「推測の部分は、推測だとわかるように書いてください」と頼む
• 自分で用意した資料を渡して、「この資料の内容だけをもとに答えてください」と頼む

特に最後の方法は効果的です。たとえば、自分のサービス資料を渡して「この内容をもとに、よくある質問をつくって」と頼めば、AIが勝手に話をつくることは少なくなります。

わたしも、事実にかかわる内容は、AIの答えを入り口にして、最後は自分で公式の情報を確認するようにしています。

仕事で使うときの心がまえ

AIのハルシネーションとうまく付き合うために、次のように考えておくと安心です。

• AIの答えは「下書き」や「たたき台」と考える
• 人に出すもの、お金や約束にかかわるものは、必ず自分で確認する
• 確認できなかった情報は、使わない

「AIが言っていたから」は、お客さまには通用しません。最後に責任をもつのは自分だと考えておきましょう。

よくあるハルシネーションの例

実際によくあるのは、次のような場面です。

• 「〇〇についての本を教えて」と聞くと、実在しない本のタイトルが出てくる
• 補助金や制度の金額や期限が、古い情報やまちがった情報になっている
• 小さなお店や個人の情報を聞くと、別の人の情報とまざっている

どれも、AIの答えだけを信じて人に伝えてしまうと、信頼を失いかねません。「AIが言ったことは、一度は確かめる」を合言葉にしておきましょう。

まとめ

AIは、ときどき、もっともらしいうそをつきます。でも、起こりやすい場面と確認のコツを知っておけば、こわがる必要はありません。

• ハルシネーションは、AIがまちがいを自然な文章で答えること
• 最新情報、数字、固有名詞、専門分野は特に注意
• 公式の情報で確かめ、出典は実際に開いてみる
• 自分の資料を渡して答えてもらうと、起こりにくい

AIとの付き合い方に不安があるときは、相談してください。