SRAM
Un tipo veloce di memoria del computer che si trova direttamente sul die del processore, conservando i dati senza bisogno di un aggiornamento costante.
I computer utilizzano due tipi principali di memoria di lavoro. La DRAM è il tipo economico e denso che si trova nelle chiavette collegate a una scheda madre e deve essere aggiornata elettricamente migliaia di volte al secondo per mantenere qualsiasi cosa. SRAM è il tipo costoso e veloce integrato direttamente nel processore stesso e conserva i suoi contenuti finché è acceso. Ogni processore contiene già alcuni SRAM come cache.
Il motivo per cui SRAM continua a comparire nelle conversazioni dell’IA è la distanza. Recuperare i numeri di un modello da chip di memoria separati costa tempo e una grande quantità di energia, spesso più del calcolo stesso. Diverse startup di chip, tra cui Fractile e Cerebras, stanno scommettendo sul mantenere una parte maggiore del modello on-die SRAM in modo che non debba mai viaggiare. Il problema è che SRAM occupa molta area del chip per ogni bit memorizzato, quindi ottieni velocità a scapito della capacità e del prezzo.