LuAITools.com
提交工具
🧩AI
Chunking

切片

把长文档切成一小块一小块,让检索时能精准命中、召回更准,是 RAG 质量的基础工程。

切片是什么?

把一篇几万字的文档原封不动塞给 AI,既费钱又容易漏掉关键信息。切片(Chunking),就是把长文档切成一小块一小块,每一块都尽量「自带上下文」,让检索时能精准命中。

为什么要切,而且还要切得巧?

太长,模型记不住也读不动
上下文窗口有限,一整本书塞进去,重点会被稀释。
太短,信息会断章取义
一刀切可能把一句话拦腰截断,或者把「他」和指代对象分到两块。

常见的切法

固定长度切
按字符数或 Token 数一刀一刀切,简单但容易切断语义。
按结构切
顺着标题、段落、章节切,更贴近文章本身的结构。
重叠切
块与块之间留一点重叠,避免边界处的信息丢失。

它对 RAG 有多重要?

检索增强生成(RAG)的质量,很大程度取决于「切得好不好」。切得好,召回准、答案实;切得差,再强的模型也答不出个所以然。

一句话记住:切片就是把长文档切成「一口能喂下」的小块,喂得巧,AI 才吸收得好。

评论