ハルシネーションとは？AIが嘘をつく理由と対策

「ChatGPTの答えって、どこまで信じていいんだろう…」そんな不安を感じたことはありませんか？
その不安、ハルシネーションという現象を知ることで、ぐっとクリアになります。
この記事を読み終えると、AIが”嘘”をつく理由と、自分でできる対策がまるごと理解できます。

Contents

ハルシネーションとは？AIが自信満々に”嘘”をつく現象
1. ハルシネーションってそもそも何？
2. 実際に問題になった例はある？
原因①AIは「次の単語」を予測しているだけ
原因②学習データの限界と「知識のカットオフ」
1. 学習データに無いことも答えてしまうの？
2. 知識のカットオフって何？
対策①使う側でできる工夫（聞き方とファクトチェック）
対策②RAGなど技術で「カンペ」を渡す仕組み
1. RAGって何？なぜハルシネーションが減るの？
2. RAGを使えば完全になくせる？
まとめ：AIと上手に付き合うために
参考文献

ハルシネーションとは？AIが自信満々に”嘘”をつく現象

ハルシネーションってそもそも何？

「トカゲ先生！最近AIを使い始めたんですけど、なんか出力が怪しいときがあって…」

「あー、それ多分ハルシネーションに遭遇してるな。よくある話だよ。」

「ハルシネーション？なんか幻覚みたいな名前ですね…。」

「そう、英語で”幻覚”って意味だ。AIの世界では、生成AIが出力する、一見まったくもっともらしく見えるのに、実際には意味をなさない・不正確な内容のことを指す。IBMもそう定義してる。」

「もっともらしく見えるのに、間違ってる…？」

「ポイントはそこなんだよ。ただ間違ってるだけじゃなくて、自信満々に、しかもそれっぽく間違えるのがやっかいなんだ。Google Cloudは『AIモデルが生成する、誤った、または誤解を招く結果』って定義してる。つまり、パッと見では気づきにくいってこと。」

実際に問題になった例はある？

「でも、それって実害が出ることあるんですか？」

「あるある。有名なのが2023年のアメリカでの話だ。ある弁護士がChatGPTを法律の調査に使ったんだけど、ChatGPTが実在しない判例を架空の航空会社名や引用つきでもっともらしく返してきた。弁護士はそれを裁判所に提出してしまったんだ（Mata v. Avianca事件）。」

「え、架空の判例を…！？なんで弁護士さんは気づかなかったんですか？」

「それがね、ChatGPTが『これらの判例は実在し、LexisNexisやWestlawで見つかる』って自信満々に答えていたんだよ。だから弁護士も信じてしまった。結果、裁判所も相手方も判例を確認できず、弁護士は5,000ドルの制裁金を科された。」

「怖い…。自信ありそうに言うから、疑えないんですね。」

「そう、これがハルシネーションの一番の怖さだ。じゃあ、なんでこんなことが起きるのか、仕組みから見ていこう。」

原因①AIは「次の単語」を予測しているだけ

AIはどうやって文章を作っているの？

「AIって、どうやって文章を作ってるんですか？ちゃんと意味を理解してるのかと思ってたんですが…。」

「これ、すごく大事な勘違いポイントなんだけど、LLM（大規模言語モデル）は基本的に『次に来る単語を予測する』ことで言語を学習してる。」

「次の単語を…予測する？」

「たとえば『今日の天気は』の次に来る言葉として、『晴れ』『雨』『曇り』…どれが確率的に自然か、を膨大なテキストから学んでる感じだ。で、その予測を連続して繰り返すことで、文章全体を生成してる。」

なぜもっともらしい嘘になるの？

「でも、それだとなんで嘘になるんですか？」

「そこがポイントなんだ。学習するとき、テキストに『正しい／間違い』のラベルは付いていない。モデルが学ぶのは、事実の真偽じゃなくて『文章として自然に続くパターン』なんだよ。だから、『事実に基づいているか』より『文脈的にもっともらしいか』が優先されやすい。」

「じゃあ、根拠がなくても『それっぽい』なら出力しちゃうってこと？」

「そう！だから根拠が薄い場面でも、固有名詞・日付・数値みたいな具体的で断定的な表現を平気で返してくることがある。」

あいまいな記憶のまま面接で即答する人と似てるって本当？

「なんかイメージわきそうでわからなくて…。もっとわかりやすい例えはありますか？」

「じゃあこれで考えてみて。就活の面接を想像してほしい。」

「はい。」

「面接官に『あの本の著者は誰ですか？』って聞かれたとき、あいまいな記憶しかないのに、『あ、確か○○さんだったと思います！』って自信満々に即答してしまう人っているよね。正確な記憶じゃなくて、“それっぽい答え”を反射的に言ってしまうやつだ。」

「あー、いますいます！焦ってるとやっちゃいますよね。」

「AIも同じなんだよ。『わからない』と止まる機能より、『もっともらしく続ける機能』の方が強い。だから、根拠が怪しくても断定してしまう。ハルシネーションの本質はここにある。」

原因②学習データの限界と「知識のカットオフ」

学習データに無いことも答えてしまうの？

「じゃあ、もしAIが学習してないことを聞かれたら、どうなるんですか？」

「『知りません』って言えばいいのに、さっき話した通り、もっともらしい続きを作ろうとするから、でたらめな情報を自信満々に返すことがある。これも原因の一つだ。」

「なるほど…学習データに問題があることも？」

「そう。Google Cloudによると、学習データが不足・不完全・偏っていると、モデルが誤ったパターンを学んで不正確な予測につながることがある。また、学習データに適合しすぎ（オーバーフィッティング）てしまうと、新しいデータにうまく対応できなくなることもある。」

知識のカットオフって何？

「さっきちらっと『最新の話題に弱い』って聞きましたけど、それはなぜですか？」

「LLMには知識カットオフっていう概念があってな。要は、学習データを集めた時点のことで、それ以降に起きた出来事は学習していないんだ。」

「じゃあ、カットオフより新しいことを聞くと…？」

「正しく答えられない可能性が高い。しかも厄介なのが、研究によるとモデルが公表している知識カットオフと、実際にモデルが持っている情報の最新性がズレることもあると報告されてるんだよ。」

「公式の説明も完全には信用できないってことか…。」

対策①使う側でできる工夫（聞き方とファクトチェック）

どんな聞き方をすればいいの？

「じゃあ、ハルシネーションを減らすために、使う側で何かできることはあるんですか？」

「あるよ！まず聞き方を工夫するだけで、かなり変わる。広くて曖昧な質問より、狭く具体的な質問のほうが信頼できる回答を得やすい。」

「具体的って、たとえば？」

「『AIについて教えて』じゃなくて、『2023年のAIの法規制に関して、EUで何があったか教えて』みたいに絞る感じだな。対象・時期・観点をはっきりさせると、AIも迷いにくい。」

「わからない」と言わせるにはどうする？

「あと、さっきの面接の例えで言うと、AIに『わからないなら正直に言って』って伝えることはできないんですか？」

「それ、実はめちゃくちゃ有効な方法なんだ。プロンプトで明示的に許可するんだよ。たとえばこんな感じに書く。」

「自信が持てない場合は『わからない』と答えてください。当てずっぽうで答えないでください。」

「それだけで変わるんですか？」

「変わる。AIは”素直”だから、明示的に言ってあげると、無理な断定をしにくくなる。また、長い資料を扱うときは、まず本文から一字一句そのまま引用を抜き出させ、それを根拠に回答させると、答えが実際の文章にひもついて信頼性が上がるよ。」

出力が正しいかどう確認すればいい？

「出力された後の確認方法もありますか？」

「いくつかある。同じプロンプトを複数回実行して、出力に食い違いがないか見るのが一つ。ハルシネーションが起きてる部分は、毎回違う答えが出やすいんだ。」

「なるほど、ブレてたら怪しいってことですね！」

「そう！それから、モデル自身に確認用の質問を作らせて、別々に答えさせる方法もある。あとはシンプルに、重要な情報は一次情報（公式サイト・論文など）で裏取りするのが最強の対策だ。」

対策②RAGなど技術で「カンペ」を渡す仕組み

RAGって何？なぜハルシネーションが減るの？

「使う側の工夫の他に、技術的な対策もあるんですか？」

「あるよ。代表的なのがRAG（検索拡張生成／Retrieval-Augmented Generation）って仕組みだ。」

「ラグ？」

「そう。一言で言うと、AIに回答する前に『カンペ』を渡す技術だ。回答を生成する前に、外部の知識ベースや文書から関連情報を検索して、その情報をプロンプトに組み込んで渡す。」

「さっきの面接の例えで言うと、面接の直前に資料を渡してもらえる感じ？」

「ナイスな理解！まさにそれだ。あいまいな記憶だけで答えさせるんじゃなくて、正確な情報を手元に持たせてから答えさせるから、ハルシネーションが起きにくくなる。学習していない最新情報も、カンペとして渡せば答えられるようになるんだよ。」

RAGの仕組みについてもっと詳しく知りたい方は、RAGって何–AIに「カンペ」を渡す技術を5分で理解するでたっぷり解説してるので、ぜひチェックしてみてください。

RAGを使えば完全になくせる？

「じゃあRAGを使えばハルシネーションはゼロにできるんですか？」

「残念ながら、完全にはなくせないんだ。検索してきた文書がトピック上は関連していても、内容が不十分な場合や、複数の文書が互いに矛盾している場合には、依然としてハルシネーションが起こりうる。」

「あくまで”減らせる”ってことですね。」

「そう。”ゼロにする魔法”ではなくて、リスクを大幅に下げる強力な道具だと思っておくといい。」

まとめ：AIと上手に付き合うために

結局どう使えばいいの？

「長かったですけど、まとめるとどうすればいいんですかね…？」

「シンプルにまとめるとこうだ。」

やること	具体的な行動
聞き方を工夫する	質問を狭く・具体的にする
正直に言わせる	「わからないときは言って」とプロンプトに書く
出力を検証する	複数回実行・一次情報で裏取り
技術的な対策	RAGなどで信頼できる情報を渡す仕組みを使う

ハルシネーションは完全になくせる？

「そもそも、ハルシネーションって将来的になくなるんですか？」

「実はこれ、根が深い問題なんだ。OpenAIの研究（2025年9月公開）では、ハルシネーションが起きる一因として、AIの学習・評価の仕組みが『わからない』と正直に言うことより、当てずっぽうでも答えることに報酬を与えがちな設計になっていることを指摘してる。」

「え、正直に言うより、とりあえず答えたほうがいいって学んじゃってるってこと？」

「そう。代表的なベンチマーク（評価テスト）の多くが、正解か不正解かの二択採点で、自信満々の誤答に得点を与えて、『わからない』を罰するような設計になってたって分析されてる。同研究は、自信満々な誤りをより重く罰し、適切な『わからない』には部分点を与えるよう採点を見直すことを提案してる。」

「学習の仕組み自体が問題だったのか…！」

「ハルシネーションは単なる工学的なバグじゃなくて、仕組み上避けにくい面があるんだ。だから現時点では、完全にゼロにはできない前提で付き合うのが正直なところだな。」

どこまで信じていいの？

「じゃあ、AIはもう使わないほうがいいってこと？」

「そんなことはない！ハルシネーションのリスクを知った上で道具として上手に使うのが大事なんだ。整理・要約・アイデア出し・下書き作成みたいな使い方なら、ハルシネーションのリスクを管理しやすい。でも、法律・医療・数値・固有名詞など重要な情報は、必ず一次情報で裏取りする習慣を持つこと。これが一番大切なスタンスだよ。」

「AIを信じつつ、疑いつつ、うまく使うってことですね！」

「まさに！AIは賢いけど全知じゃない。あいまいな記憶で自信満々に答える面接者だと思って、ちゃんと裏取りしながら使うのがコツだ。」