Logprobs (log-probabilidades)

¿Qué son los logprobs?

Cuando un modelo grande elige su siguiente token, en realidad lleva una lista de candidatos en la cabeza: cada posible palabra siguiente tiene una probabilidad. Los logprobs son la versión en escala logarítmica de esa distribución. En resumen, el registro en bruto de cuán seguro está el modelo.

¿Por qué usar el logaritmo?

Las probabilidades crudas se desbordan
Generar una frase exige multiplicar muchas probabilidades diminutas, que encogen hasta que un ordenador no puede representarlas. El logaritmo convierte la multiplicación en suma, mucho más estable.
Los logaritmos se leen mejor
Los logprobs suelen ser negativos: más cerca de 0 es más confianza, más negativos es menos. De un vistazo ves qué palabra tiene clara el modelo y cuál está adivinando.

¿Para qué sirven?

Medir incertidumbre
La perplejidad se calcula a partir de los logprobs: una señal clave de si el modelo va a alucinar.
Calibración y muestreo
La temperatura y el muestreo top-p se apoyan en esta distribución de probabilidad; muchas estrategias la ajustan directamente.
Ingeniería práctica
Detectar alucinaciones, puntuar la confianza en preguntas de opción múltiple y juzgar si una respuesta es fiable suelen empezar por los logprobs.

¿Cómo se obtienen?

Muchas APIs exponen un parámetro logprobs: actívalo y recibirás la probabilidad logarítmica de cada token generado, lista para decisiones posteriores. Es la ventana que muestra la mano oculta del modelo.

En resumen: los logprobs son las marcas de la báscula interna del modelo — te dicen cuán seguro está de cada palabra.