HBM

HBMって何？

HBM（High Bandwidth Memory、広帯域メモリ）は、メモリチップを「高層ビル」のように縦に積み重ね、超広帯域の経路でプロセッサのすぐそばにつなぐメモリです。普通のメモリは基板上に平らに並ぶ「平屋」。HBMは重ねて置くことで、データを猛烈な速さで出入りさせ、AIチップという「大食漢」を満たします。

なぜAIチップに必要なのか

大規模モデルの学習では、計算が速いだけでは足りません。データの供給が遅いと、どれほど強い計算力も待たされる——これが「メモリ帯域のボトルネック」です。HBMの役割は、この経路をできるだけ太くして計算力を満腹にし、学習速度を上げること。

普通のメモリ（DDR）との違いは？

帯域幅
HBMは通常メモリの数倍から十数倍の帯域を持ちます。
位置
HBMはプロセッサと同じパッケージに密着し、配線が短く遅延も小さい。普通のメモリは基板に挿してあり、距離があります。
価格
HBMは製造が難しく高価で、ほぼハイエンドAIチップ専用です。

HBMの重要さ

NVIDIAのハイエンドGPUやAMDのアクセラレータは、HBMで処理能力を支えています。HBMはAIサプライチェーンで最も逼迫した部品のひとつになりました。「AIのボトルネックは半分がチップ、半分がメモリ」とも言われます。

まとめ：HBMはメモリを「積み上げてチップの隣に置き」、超広帯域でAIの計算力を満たす技術です。