GPU

GPU 是什么？

GPU 全称图形处理器（Graphics Processing Unit），最早是显卡上的「绘图芯片」，专门负责把画面一帧一帧快速渲染出来。它最大的特点，是能同时做大量简单的计算——这和 AI 训练里「海量矩阵乘法」的需求一拍即合，于是它从游戏显卡摇身一变，成了 AI 时代的「算力心脏」。

它和 CPU 有什么不一样？

CPU 是「少数精兵」
CPU 核心少，但每个都很强，擅长复杂的、有先后顺序的任务。
GPU 是「人海战术」
GPU 有成千上万个核心，单个不算快，但胜在数量多，能把一件大任务拆成无数小块同时干。

为什么 AI 训练离不开 GPU？

训练大模型，本质上是在做天文数字级的矩阵运算，而且这些运算互相独立、可以并行。GPU 天生就是干这个的。一个训练任务，用 CPU 可能要跑一年，换成 GPU 集群可能几周就出结果。

怎么看一块 GPU 强不强？

显存（VRAM）
决定一次能装下多大的模型、多少数据，越大越不容易「爆显存」。
算力
常用 FLOPs 衡量，数字越大，每秒能算的运算越多。
带宽
数据在芯片和显存之间搬运的速度，慢了会成为瓶颈。

GPU 正在改变什么

从 ChatGPT 到自动驾驶、药物研发，背后都靠 GPU 集群撑着。它也让英伟达（NVIDIA）从一家显卡公司，变成了全球市值最高的公司之一——算力，成了这个时代最抢手的「新石油」。

一句话记住：GPU 就是「用数量换速度」的并行计算王者，AI 大模型能跑起来，全靠它。