#生成AI・LLM
作成:中小企業診断士の研究会PIT

ハルシネーションとは

生成AIが、事実と違う内容をもっともらしく答えてしまう現象です。「幻覚」という意味の英語から来ています。AIは文章として自然なつながりを作るのが得意な一方、内容が正しいかどうかを確かめながら答えているわけではないため、起こります。

ハルシネーションのしくみと基本

ハルシネーションが起きやすいのは、AIが学んだ情報が少ない分野です。たとえば、地域の小さな制度、業界の細かいルール、最近の出来事、あまり知られていない人物や会社などは、AIが知らないことをそれらしく補ってしまいがちです。

誤りの出方には、数字や日付がずれる、存在しない名称を作る、本当にある情報を別のものと混ぜる、資料に書かれていないことを付け足す、といったパターンがあります。どれも文章としては自然なため、読み流すと気づきにくいのが特徴です。

減らす工夫としては、資料を渡して「この資料に書かれていることだけで答えて」と頼む、わからないときは「不明」と答えるよう指示する、出典を示させる、といった方法があります。ただし、どの工夫も完全には防げないため、確認の工程は残します。

ハルシネーションのイメージ

正確な回答 ハルシネーション 事実に基づく もっともらしい虚偽 検証可能 検証困難 信頼性高 信頼性低 VS

中小企業では、どう関わってくるか

たとえば、存在しない補助金の名前や、実在しない統計の数字、架空の参考文献をそれらしく答えることがあります。社外に出す文書や、お金・法律が関わる判断にそのまま使うと、トラブルの原因になります。

ハルシネーションの業種別の具体例

士業・事務所の例

行政書士事務所が、AIに許認可の手続きの流れを整理させた場合でも、必要書類や手数料などは必ず役所の公式情報で確かめるといった運用が考えられます。AIの答えは「調べる項目のリスト」として使う位置づけにします。

小売業の例

家電販売店が商品説明をAIに書かせたところ、実際にはない機能が書き加えられていた、という事態は起こりえます。メーカーの仕様書と照らし合わせてから掲載するルールにしておけば、お客様からの苦情や返品のリスクを減らせます。

宿泊業の例

観光地の小さなホテルが、周辺の観光案内文をAIに作らせる場合、営業時間や定休日、アクセス方法が古かったり誤っていたりすることがあります。各施設の公式情報を確認してから案内に使うといった使い方が安全です。

※ 特定の企業の事例ではなく、よくある場面をもとにした想定例です。

ハルシネーションを押さえるメリットと注意点

知っておく・取り組むメリット

  • 起こりやすい場面を知っておくと、AIの答えのどこを重点的に確認すればよいかがわかります。
  • 確認の手順を決めておけば、安心してAIを業務に使い続けられます。
  • 社員の情報を見きわめる力(本当かどうか確かめる習慣)を育てるきっかけにもなります。

気をつけたいこと

  • 社外に出す文書でハルシネーションに気づかないと、会社の信用を損なうおそれがあります。
  • AIが示した出典やURLそのものが存在しない場合もあり、実際に開いて確認が必要です。
  • 忙しいときほど確認を省きがちなので、確認の工程を仕組みとして残しておきます。

ハルシネーションのよくある誤解

誤解:新しい・高性能なAIなら起きない

減ってきてはいますが、ゼロにはなりません。どのAIでも「確かめる工程」は必要です。

誤解:自信がありそうな答えは正しい

AIは間違っているときも同じ調子で答えます。言い方の自信と、内容の正しさは関係ありません。

ハルシネーションについてよくある質問

ハルシネーションは、いずれなくなるのですか?

AIの改良によって減ってきてはいますが、仕組み上、完全になくすことは難しいと考えられています。今後もしばらくは、大事な情報は人が確認するという前提で使うのが安全です。確認しやすい使い方を工夫するほうが現実的です。

どこまで確認すれば十分ですか?

すべてを同じように確認する必要はありません。数字・日付・固有名詞・法律や制度・お金に関わる内容を重点的に確認し、表現の言い回しなどは軽く見る、という優先順位をつけると負担を抑えられます。社外に出すものほど、確認を厚くしてください。

AIに間違いを指摘すると、直してくれますか?

多くの場合は訂正してくれますが、訂正した内容がまた間違っていることもあります。また、正しい答えに対して間違いだと伝えると、それに合わせて答えを変えてしまうこともあります。最終的には公式の情報や元の資料で確かめることが大切です。

社内や支援先に説明するときは

「AIの答えは“よくできた下書き”です。数字と固有名詞だけは、元の資料で必ず確かめましょう」

最初にやること・確認すること

  • 数字・日付・固有名詞・法律や制度の話は、一次情報(公式サイトなど)で確認する
  • AIに出典を書かせ、そのリンク先を実際に開いて確かめる
  • 社内資料をもとに答えさせたいときは、RAGの仕組みを検討する
最終更新:2026年11月1日