← Glossar Firma
PrismML
Ein Startup, das große offene KI-Modelle so stark verkleinert, dass sie auf einem Smartphone laufen.
PrismML arbeitet an Komprimierung: Ein für Serverhardware gebautes Modell wird so weit verkleinert, dass es auf ein Endkundengerät passt, ohne viel von seinen Fähigkeiten zu verlieren. Bei der Veröffentlichung Bonsai 27B packte das Unternehmen ein offenes Modell mit 27 Milliarden Parametern in weniger als vier Gigabyte und bewahrte dabei ungefähr 90 Prozent seiner Leistung.
Der Reiz dieses Tricks liegt in Datenschutz und Unabhängigkeit. Ein Modell auf dem eigenen Smartphone braucht keine Internetverbindung und sendet nichts an fremde Server.
Erwähnt in