停止词元

停止词元是什么？

大模型生成文字时，其实是一个词元（Token）一个词元往外「吐」的。它得知道什么时候该停——不然会像没关水龙头一样一直写下去。停止词元（Stop Token），就是那个告诉模型「到此为止」的特殊标记。模型一旦生成到它，就立刻停下。

它长什么样？

它不是一个「词」，是一个「信号」
停止词元通常是一串特殊符号，比如 <|endoftext|> 或 <eos>，用户平时看不到，但对模型来说意义重大。
也可以有多个
有的模型设置了多个停止条件：既能在句末停，也能在检测到「换行」「特定格式」时停，方便你控制输出结构。

它为什么重要？

避免「话痨」和浪费
没有停止词元，模型可能没完没了地续写，又费 Token 又费时间。
决定输出边界
很多任务需要精确控制「答到哪算完」，比如代码补全、JSON 生成、多轮对话，停止词元就是那条看不见的「终点线」。
关系到 API 成本
停得早、停得准，能省下一大笔推理成本，也能让响应更快。

怎么用它？

调用 API 时，你可以设置 stop 参数，指定遇到哪些字符串就停止。也可以自定义停止序列，让模型一生成到「答完了」就收手。调好停止词元，是控制生成质量和成本的实用基本功。

一句话记住：停止词元就是模型的「刹车」，让它知道话说到哪儿该停。