HBM
Memoria in stack costruita per stare accanto ai chip AI e fornire loro dati abbastanza velocemente.
HBM, abbreviazione di High Bandwidth Memory, è la memoria creata impilando molti strati sottili di DRAM uno sopra l’altro e posizionando lo stack proprio accanto al processore. Il punto è la velocità di consegna: un moderno acceleratore AI può eseguire operazioni aritmetiche molto più velocemente di quanto la normale memoria possa gestire i numeri, quindi la memoria diventa il collo di bottiglia. HBM allarga notevolmente quel tubo.
La cattura è fisica. La produzione di HBM consuma circa tre volte la capacità del wafer di silicio per gigabyte rispetto alla normale DDR5, quindi ogni wafer passato a HBM rimuove dal mercato una quantità di memoria consumer molte volte superiore. Questo singolo compromesso è la ragione principale per cui i prezzi della RAM sono esplosi dal 2025.