HBM
Mémoire empilée conçue pour s'asseoir à côté des puces IA et leur fournir des données assez rapidement.
HBM, abréviation de High Bandwidth Memory, est une mémoire construite en empilant de nombreuses fines couches de DRAM les unes sur les autres et en plaçant la pile juste à côté du processeur. Le problème est la rapidité de livraison : un accélérateur d’IA moderne peut effectuer des calculs bien plus rapidement que la mémoire ordinaire ne peut lui transmettre des chiffres, de sorte que la mémoire devient le goulot d’étranglement. HBM élargit considérablement ce tuyau.
Le piège est physique. La production de HBM consomme environ trois fois la capacité d’une plaquette de silicium par gigaoctet par rapport à la DDR5 ordinaire, de sorte que chaque plaquette basculée vers HBM supprime du marché plusieurs fois plus de mémoire grand public. Ce seul compromis est la principale raison pour laquelle les prix de la RAM ont explosé depuis 2025.