Ajuste fino eficiente en parámetros

¿Qué es el ajuste fino eficiente en parámetros?

El ajuste fino tradicional toca todos los parámetros del modelo. Actualizar cientos de millones — o miles de millones — de pesos devora memoria y cómputo. El ajuste fino eficiente en parámetros (PEFT) le da la vuelta: congela el modelo grande y entrena solo un puñado de parámetros nuevos, a veces unos pocos cientos de miles, para asumir la tarea.

¿Por qué menos puede ser más?

El modelo base ya es fuerte
Las habilidades lingüísticas y el sentido común del preentrenamiento son de propósito general. Una tarea nueva suele ser solo «añadir una dirección» a lo que ya hay, así que no reentrenas desde cero: empujas una parte pequeña.
Los parámetros nuevos asumen el trabajo
Métodos como LoRA insertan matrices de bajo rango en el modelo, como atornillar un accesorio ligero a la base. Solo se entrena ese accesorio.

¿Cuáles son los enfoques habituales?

LoRA
Añade descomposición de bajo rango a los pesos — carga de entrenamiento mínima — y esas matrices extra se pueden integrar de nuevo o intercambiar.
Adaptadores
Módulos pequeños colocados entre capas; solo ellos se entrenan.
Ajuste de prefijos / prompts
Solo se entrena un «soft prompt» aprendible, sin tocar para nada el interior del modelo.

¿Por qué cambió el ajuste fino?

Antes era «un modelo completo por tarea», caro y difícil de gestionar. Con PEFT, un solo modelo base puede alojar infinitos «plugins» ligeros, cada uno guardado como un archivo de unos pocos megabytes, intercambiables y combinables a demanda. Eso pone el ajuste fino al alcance de desarrolladores individuales y equipos pequeños.

En resumen: el PEFT congela el modelo grande y entrena solo un pequeño puñado de parámetros nuevos, convirtiéndolo en el especialista que quieres por una fracción del coste.