← Glossario Azienda
PrismML
Una startup che riduce grandi modelli IA aperti fino a farli funzionare su uno smartphone.
PrismML lavora sulla compressione: prende un modello creato per hardware da server e lo riduce finché entra in un dispositivo di consumo, senza perdere gran parte delle sue capacità. La versione Bonsai 27B ha compresso un modello aperto da 27 miliardi di parametri in meno di quattro gigabyte, conservando circa il 90% delle capacità.
Il fascino di questo risultato sta nella privacy e nell’indipendenza. Un modello eseguito sul proprio telefono non richiede una connessione Internet e non invia nulla ai server di altri.
Citato in