切片是什么?
把一篇几万字的文档原封不动塞给 AI,既费钱又容易漏掉关键信息。切片(Chunking),就是把长文档切成一小块一小块,每一块都尽量「自带上下文」,让检索时能精准命中。为什么要切,而且还要切得巧?
太长,模型记不住也读不动上下文窗口有限,一整本书塞进去,重点会被稀释。
太短,信息会断章取义
一刀切可能把一句话拦腰截断,或者把「他」和指代对象分到两块。
常见的切法
固定长度切按字符数或 Token 数一刀一刀切,简单但容易切断语义。
按结构切
顺着标题、段落、章节切,更贴近文章本身的结构。
重叠切
块与块之间留一点重叠,避免边界处的信息丢失。
它对 RAG 有多重要?
检索增强生成(RAG)的质量,很大程度取决于「切得好不好」。切得好,召回准、答案实;切得差,再强的模型也答不出个所以然。一句话记住:切片就是把长文档切成「一口能喂下」的小块,喂得巧,AI 才吸收得好。
评论