RAG

RAG とは？

ChatGPT に「去年の社内研修制度はどんな内容でしたか？」と尋ねたとき、詳細で自信満々な回答が返ってきても、それが完全な作り話だった経験はありませんか？それは、大規模言語モデル（LLM）の知識が訓練時点で固定されており、あなたの社内資料を一切見ていないからです。知らないことは、でっち上げてしまうのです。

RAG（Retrieval-Augmented Generation、検索拡張生成）は、まさにこの問題を解決するために生まれました。一言で言えば、AI が答える前に、指定された資料を参照してから答えを生成する仕組みです。

流れは「持ち込み可の試験」と似ています。まず、製品マニュアル、社内規定、FAQ、最新ニュースなど、あなたが用意したドキュメント群を準備します。ユーザーが質問を投げると、RAG はまずそのドキュメント群から最も関連性の高い箇所を検索し、その断片と質問を一緒に大規模言語モデルに渡します。モデルはその資料をもとに回答を組み立てるので、でたらめではなく、根拠のある答えが出てきます。

この方法には三つの大きな利点があります。第一に、事実に基づくため正解率が飛躍的に向上します。第二に、いわゆる「幻覚」（ハルシネーション）が大幅に減ります。第三に、知識の更新が簡単です—ドキュメントを入れ替えるだけで、モデル自体を再訓練する必要はありません。つまり、コストも時間も節約できます。

現在、RAG はカスタマーサポートボット、社内知識ベース、法律文書検索、医療診断補助など幅広く使われています。ただし完璧ではありません。資料に答えがなければ答えられませんし、検索が不正確で関係のない断片を渡せば、回答が的外れになります。つまり、RAG の効果は資料の質と検索精度に大きく依存します。

要するに RAG とは、大規模言語モデルに「いつでも参照できる外部記憶」を与える技術であり、それによって「閉巻試験」を「開巻試験」に変えるのです。