RAG

你肯定遇到过这种情况：问 ChatGPT 一个新鲜事，它要么说“我的知识截止到 2023 年”，要么就一本正经地编造一个看似合理但全是错的答案（这就是我们常说的 “AI 幻觉” ）。为什么会这样？因为传统的 AI 大模型（LLM）是个 “闭卷裸考” 的学霸。它所有的知识都来自“高考前”死记硬背的训练资料（比如互联网上的旧数据）。考试时，它只能凭记忆硬答，记不住的或没学过的，它就只能瞎编。

而 RAG（检索增强生成） ，就是给这位学霸配了一个 “允许带教材和随时上网查资料”的特权。

    先“翻书”再“答题”，不靠瞎蒙

    RAG 的工作流程非常简单直观，分三步走：

        检索（查资料）：当你问 AI 一个问题时，RAG 不会立刻作答。它会先拿着你的问题，去一个特定的“知识库”里（比如你公司的内部文件、最新的新闻报道、或者技术手册）做一次精准搜索，把最相关的几段“原文”找出来。

        增强（拼素材）：AI 把你的原问题和刚才搜到的“参考资料”打包在一起，组成一个超级详细的“提示词”。

        生成（看着念）：AI 根据这些“参考资料”来组织语言，一字一句地生成答案。因为是看着“标准答案”念的，所以它就不再靠记忆瞎编了。

   

        解决“知识陈旧”：大模型训练一次要花几千万美元，不可能天天更新。但 RAG 的知识库可以随时更换和补充。今天刚发布的新闻，你把它放进知识库，AI 立刻就能基于它回答你。

        解决“胡说八道”：因为回答是基于你提供的真实文档生成的，而不是凭空猜测，所以内容的准确性和可信度大幅提升。更重要的是，它还能告诉你答案出自哪一页、哪一段，让你可以溯源核对。

        很多人分不清这两个词。

        微调（Fine-tuning）：相当于让学霸针对“医学”这个科目重新“复读”备考几个月，让他变成医学专家。这需要很高的算力和成本。

        RAG：相当于学霸不需要重新学医，你直接给他一本《临床医学手册》放在手边，遇到具体病例现查现用。RAG 成本极低、实时更新，而且不会把新知识和旧记忆搞混。

    它有什么局限？（“教材”不好，答案就不好）

    RAG 的智商上限完全取决于你提供的“资料库”质量。如果你的文档本身写错了，或者检索系统没找到最相关的那一段，AI 拿着不匹配的资料依然会答非所问。所以，RAG 不创造知识，它只是知识的“搬运工”和“复读机”。