日志概率

日志概率是什么？

大模型生成下一个词元（Token）时，心里其实有一份「候选名单」——每个可能的下一个词，都有一个概率。日志概率（Logprobs），就是模型对这份概率分布的对数表示。简单说，它是模型「有多确信」的原始底账。

为什么要取对数？

概率太小，直接乘会「下溢」
生成一句话要连续选很多词元，概率是很多小数相乘，乘着乘着就小到计算机表示不了。取对数后，乘法变成加法，数值稳定得多。
对数让比较更直观
logprobs 通常是负数，越接近 0 表示越确信，越负表示越没底。看这个数，就能一眼看出模型对哪个词「有把握」、哪个词「在蒙」。

它有什么用？

衡量不确定性
模型的困惑度（Perplexity）就由 logprobs 算出来，是判断「模型会不会说胡话」的重要信号。
校准与采样
要做温度调节、Top-p 采样，底层都靠这份概率分布；很多采样策略直接改的就是它。
工程里的实用场景
检测幻觉、做选择题的置信度评分、判断回答是否可靠，都常从 logprobs 下手。

怎么拿到它？

很多 API 提供 logprobs 参数，开启后就能返回每个生成词元的对数概率，开发者可以拿来做下游判断。它是把模型「脑子里的底牌」翻给你看的窗口。

一句话记住：日志概率就是模型「心里那杆秤」的刻度，告诉你它对每个词有多大的把握。