AI幻覚

幻覚とは？

AIに「初めて月に降り立った人は？」と尋ねれば「アームストロング」と答えます。しかし「初めて火星でピザを食べた人は？」と尋ねると、平然と名前やエピソード、日付まで作り出してくる。その口調は至って真面目です。

これがAIの「幻覚」—薬物による幻覚ではなく、大規模モデルが自分が知らないことに気づかず、確信を持ってでっち上げてしまう現象です。

なぜ起こるのか？LLMは本質的に「しりとり」マシンです。「真偽」を理解せず、「統計的にこの単語の次にはあの単語が来やすい」だけを知っています。訓練データに明確な回答がなければ、パズルを埋めるように、見たことのある断片をつなぎ合わせて流暢な文を生成します。事実と虚構を区別する能力はゼロです。

これはバグではなく、特徴です。なぜなら確率で生きているから。統計生成に頼る限り、幻覚は完全には消えません。

ただし、幻覚が全て悪いわけではありません。SF創作やアイデア出し、コメディには創造的なでっち上げが役立ちます。しかし事実確認や法律文書、医療アドバイスでは危険です。

どう防ぐか？コンテキストを狭くする、RAG（事前に資料を検索させる）、そして人間によるファクトチェック（地味だが確実）です。要するに、AIを百科事典ではなく、口達者なインターンとして扱いましょう。