HBM
Gestapelter Speicher, der so konstruiert ist, dass er neben KI-Chips sitzt und diese schnell genug mit Daten versorgt.
HBM,, kurz für High Bandwidth Memory,, ist ein Speicher, der durch das Übereinanderstapeln vieler dünner Schichten DRAM und die Platzierung des Stapels direkt neben dem Prozessor entsteht. Der Punkt ist die Geschwindigkeit der Übermittlung: Ein moderner KI-Beschleuniger kann Arithmetik viel schneller ausführen, als der normale Speicher ihm Zahlen liefern kann, sodass der Speicher zum Engpass wird. HBM erweitert diese Leitung erheblich.
Der Haken ist physischer Natur. Die Herstellung von HBM verbraucht etwa das Dreifache der Siliziumwaferkapazität pro Gigabyte im Vergleich zu gewöhnlichem DDR5, sodass jeder Wafer, der auf HBM umgestellt wird, ein Vielfaches an Verbraucherspeicher vom Markt entfernt. Dieser einzige Kompromiss ist der Hauptgrund dafür, dass die RAM-Preise seit 2025 explodiert sind.