← Glossaire Entreprise
PrismML
Une startup qui réduit de grands modèles ouverts pour les faire tenir sur un téléphone.
PrismML travaille sur la compression : prendre un modèle conçu pour des serveurs et le réduire jusqu’à ce qu’il tienne sur un appareil grand public sans perdre beaucoup de ses capacités. Bonsai 27B a ainsi placé un modèle ouvert de 27 milliards de paramètres dans moins de quatre gigaoctets tout en conservant environ 90 % de sa performance.
L’intérêt est la confidentialité et l’indépendance. Un modèle exécuté sur votre téléphone ne nécessite aucune connexion et n’envoie rien aux serveurs de quiconque.
Mentionné dans