GPU

¿Qué es una GPU?

La GPU — unidad de procesamiento gráfico — nació como el chip de tu tarjeta gráfica que renderiza los fotogramas de los juegos. Su superpoder es hacer una cantidad enorme de cálculos simples a la vez. Y eso es justo lo que necesita el entrenamiento de IA, así que el humilde chip de juegos se convirtió en el corazón de la computación moderna.

¿En qué se diferencia de una CPU?

CPU: pocos núcleos de élite
Una CPU tiene pocos núcleos potentes, ideales para tareas complejas y secuenciales.
GPU: la fuerza está en el número
Una GPU tiene miles de núcleos. Cada uno no es tan rápido, pero juntos dividen un trabajo grande en un millón de trozos y los procesan en paralelo.

¿Por qué el entrenamiento de IA necesita GPUs?

Entrenar un modelo grande es, en el fondo, una cantidad astronómica de multiplicación de matrices, y esas operaciones son en gran parte independientes, así que pueden correr en paralelo. Ese es el terreno natural de una GPU. Un trabajo que a una CPU le llevaría un año puede terminar en semanas en un clúster de GPUs.

Cómo leer las especificaciones de una GPU

VRAM
Decide cuánto modelo (o lote de datos) puedes cargar a la vez. Más VRAM, menos cuelgues de «memoria insuficiente».
Cómputo
Se mide en FLOPs: a mayor número, más operaciones por segundo.
Ancho de banda
La velocidad a la que los datos viajan entre el chip y su memoria. Si es lenta, todo lo demás se atasca.

Qué están cambiando las GPUs

ChatGPT, los coches autónomos, el descubrimiento de fármacos: todo corre sobre flotas de GPUs. También convirtieron a NVIDIA de fabricante de tarjetas gráficas en una de las empresas más valiosas del mundo. La computación se ha vuelto el nuevo petróleo, y las GPUs son las refinerías.

En resumen: la GPU es la campeona del cálculo paralelo que cambia velocidad individual por cantidad masiva — y es lo que hace posible la IA moderna.