LuAITools.com
提交工具
🎲AI
モデルの生の自信度

ログ確率(logprobs)

ログ確率は次のトークンに対するモデルの確信度分布(対数形式)。不確かさの測定、サンプリング、ハルシネーション検出の土台となる信号です。

ログ確率(logprobs)って何?

大規模モデルが次のトークンを選ぶとき、頭の中には実は「候補リスト」があります。次に来うる語それぞれに確率がついています。ログ確率(logprobs)は、その確率分布を対数で表したもの。平たく言えば、モデルが「どれだけ確信しているか」の生の台帳です。

なぜ対数を取る?

生の確率は「桁あふれ」する
文を生成するには小さな確率を何度も掛けます。掛け続けると、コンピュータで表せないほど小さくなってしまいます。対数を取れば掛け算が足し算になり、数値がぐっと安定します。
対数なら比べやすい
logprobsはふつう負の値で、0に近いほど確信が高く、負に大きいほど手探り。この数字を見れば、どの語に「自信がある」か、どの語で「当てずっぽう」かが一目でわかります。

何に使う?

不確かさを測る
パープレキシティ(困惑度)はlogprobsから計算され、「モデルがでたらめを言いそうか」の重要な手がかりです。
較正とサンプリング
温度調整やTop-pサンプリングは、すべてこの確率分布の上に乗っています。多くのサンプリング戦略はこれを直接いじります。
実務での活用
ハルシネーション検出、選択問題の確信度スコア、回答の信頼性判断など、しばしばlogprobsから始まります。

どう入手する?

多くのAPIにlogprobsパラメータがあります。有効にすると、生成した各トークンの対数確率が返り、下流の判断に使えます。モデルの「心の中の手の内」を見せてくれる窓です。

まとめ:ログ確率はモデルの「心の天秤」の目盛り。それぞれの語にどれだけの自信があるかを教えてくれます。

コメント