生成AI・LLM — 05 / 30
生成AIが、事実と違う内容をもっともらしく答えてしまう現象です。「幻覚」という意味の英語から来ています。AIは文章として自然なつながりを作るのが得意な一方、内容が正しいかどうかを確かめながら答えているわけではないため、起こります。
ハルシネーションが起きやすいのは、AIが学んだ情報が少ない分野です。たとえば、地域の小さな制度、業界の細かいルール、最近の出来事、あまり知られていない人物や会社などは、AIが知らないことをそれらしく補ってしまいがちです。
誤りの出方には、数字や日付がずれる、存在しない名称を作る、本当にある情報を別のものと混ぜる、資料に書かれていないことを付け足す、といったパターンがあります。どれも文章としては自然なため、読み流すと気づきにくいのが特徴です。
減らす工夫としては、資料を渡して「この資料に書かれていることだけで答えて」と頼む、わからないときは「不明」と答えるよう指示する、出典を示させる、といった方法があります。ただし、どの工夫も完全には防げないため、確認の工程は残します。
たとえば、存在しない補助金の名前や、実在しない統計の数字、架空の参考文献をそれらしく答えることがあります。社外に出す文書や、お金・法律が関わる判断にそのまま使うと、トラブルの原因になります。
行政書士事務所が、AIに許認可の手続きの流れを整理させた場合でも、必要書類や手数料などは必ず役所の公式情報で確かめるといった運用が考えられます。AIの答えは「調べる項目のリスト」として使う位置づけにします。
家電販売店が商品説明をAIに書かせたところ、実際にはない機能が書き加えられていた、という事態は起こりえます。メーカーの仕様書と照らし合わせてから掲載するルールにしておけば、お客様からの苦情や返品のリスクを減らせます。
観光地の小さなホテルが、周辺の観光案内文をAIに作らせる場合、営業時間や定休日、アクセス方法が古かったり誤っていたりすることがあります。各施設の公式情報を確認してから案内に使うといった使い方が安全です。
※ 特定の企業の事例ではなく、よくある場面をもとにした想定例です。
減ってきてはいますが、ゼロにはなりません。どのAIでも「確かめる工程」は必要です。
AIは間違っているときも同じ調子で答えます。言い方の自信と、内容の正しさは関係ありません。
AIの改良によって減ってきてはいますが、仕組み上、完全になくすことは難しいと考えられています。今後もしばらくは、大事な情報は人が確認するという前提で使うのが安全です。確認しやすい使い方を工夫するほうが現実的です。
すべてを同じように確認する必要はありません。数字・日付・固有名詞・法律や制度・お金に関わる内容を重点的に確認し、表現の言い回しなどは軽く見る、という優先順位をつけると負担を抑えられます。社外に出すものほど、確認を厚くしてください。
多くの場合は訂正してくれますが、訂正した内容がまた間違っていることもあります。また、正しい答えに対して間違いだと伝えると、それに合わせて答えを変えてしまうこともあります。最終的には公式の情報や元の資料で確かめることが大切です。
「AIの答えは“よくできた下書き”です。数字と固有名詞だけは、元の資料で必ず確かめましょう」