Aprendizaje en contexto

¿Qué es el aprendizaje en contexto?

No hace falta reentrenar el modelo: metes unos cuantos ejemplos en el prompt y entiende la tarea al momento. El aprendizaje en contexto (In-Context Learning, ICL) hace justo eso: no cambia ni un solo peso, y aun así el modelo aprende una tarea nueva con la información que hay en su ventana de contexto.

¿Cómo funciona?

Ejemplos, no reglas
En lugar de escribir un párrafo explicando «traduce de inglés a español», muestras dos o tres pares «entrada → salida» y el modelo sigue el patrón. Eso es el prompting few-shot.
La atención va a los ejemplos
Al generar la respuesta, el modelo se fija en esos ejemplos, «lee» el patrón de la tarea y lo aplica a tu pregunta nueva.

¿Por qué importa?

Tareas nuevas a coste cero
Antes, que un modelo hiciera algo nuevo exigía ajuste fino: datos, cómputo, tiempo. El ICL no necesita nada de eso; solo editas el prompt.
Cambias de tarea al instante
¿Quieres otra tarea? Cambia el conjunto de ejemplos. Esa flexibilidad es una de las razones del auge de la ingeniería de prompts.

¿Dónde se queda corto?

El ICL está limitado por la ventana de contexto: demasiados ejemplos la desbordan y empiezan a estorbarse entre sí. Tampoco «se queda» como el ajuste fino: hay que volver a dar los ejemplos cada vez. Pero para la mayoría de tareas del día a día, es más que suficiente.

En resumen: el aprendizaje en contexto enseña a la IA con ejemplos — sin reglas ni entrenamiento, bastan unas cuantas demostraciones.