ログ確率(logprobs)って何?
大規模モデルが次のトークンを選ぶとき、頭の中には実は「候補リスト」があります。次に来うる語それぞれに確率がついています。ログ確率(logprobs)は、その確率分布を対数で表したもの。平たく言えば、モデルが「どれだけ確信しているか」の生の台帳です。なぜ対数を取る?
生の確率は「桁あふれ」する文を生成するには小さな確率を何度も掛けます。掛け続けると、コンピュータで表せないほど小さくなってしまいます。対数を取れば掛け算が足し算になり、数値がぐっと安定します。
対数なら比べやすい
logprobsはふつう負の値で、0に近いほど確信が高く、負に大きいほど手探り。この数字を見れば、どの語に「自信がある」か、どの語で「当てずっぽう」かが一目でわかります。
何に使う?
不確かさを測るパープレキシティ(困惑度)はlogprobsから計算され、「モデルがでたらめを言いそうか」の重要な手がかりです。
較正とサンプリング
温度調整やTop-pサンプリングは、すべてこの確率分布の上に乗っています。多くのサンプリング戦略はこれを直接いじります。
実務での活用
ハルシネーション検出、選択問題の確信度スコア、回答の信頼性判断など、しばしばlogprobsから始まります。
どう入手する?
多くのAPIにlogprobsパラメータがあります。有効にすると、生成した各トークンの対数確率が返り、下流の判断に使えます。モデルの「心の中の手の内」を見せてくれる窓です。まとめ:ログ確率はモデルの「心の天秤」の目盛り。それぞれの語にどれだけの自信があるかを教えてくれます。
コメント