Muestreo Top-p

¿Qué es el muestreo Top-p?

Cuando un modelo elige su siguiente palabra, puede haber miles de candidatas. El muestreo Top-p — también llamado muestreo de núcleo — ordena las palabras por probabilidad, de mayor a menor, y va sumando hasta que la probabilidad acumulada llega a p, digamos 0,9. Luego elige al azar solo dentro de ese «núcleo».

¿En qué se diferencia del Top-k?

Top-k siempre toma las k palabras más probables
Da igual la forma de la distribución: coge las k más probables. El problema es elegir k: demasiado pequeña y pierdes creatividad; demasiado grande y se cuela basura.
Top-p mira la probabilidad acumulada
No cuenta palabras, le importa cuánta probabilidad cubre. Una distribución concentrada da un grupo pequeño; una dispersa, uno grande. Se adapta solo.

¿Qué problema resuelve?

Las probabilidades del lenguaje natural son muy desiguales. A veces las dos primeras palabras cubren el 90%; a veces necesitas cien. Un Top-k fijo no sirve para ambos casos; el Top-p usa la cobertura de probabilidad como regla y redimensiona el grupo de candidatos dinámicamente, manteniendo la salida estable sin que suene rígida.

¿Cómo se usa en la práctica?

Suele aparecer junto a la temperatura: ajusta la temperatura para remodelar la distribución y luego usa Top-p para trazar la frontera. Muchas APIs traen por defecto p = 0,9 o 1,0. Baja p para más estabilidad, súbela para más variedad, y ajústalo siempre junto con la temperatura.

En resumen: el Top-p saca palabras de un «círculo de probabilidad», y el tamaño del círculo depende de lo dispersas que estén las candidatas.