Les poids de Kimi K3 sont enfin publics, et ils occupent 1,4 téraoctet
Moonshot AI a publié les poids complets et le rapport technique de Kimi K3, son modèle de 2 800 milliards de paramètres, ainsi qu’une partie de l’infrastructure nécessaire pour l’exécuter. Promesse à vérifier : 2,5 fois plus d’intelligence à puissance de calcul égale.
Moonshot AI vient d’achever la publication annoncée à la mi-juillet. Lundi, le laboratoire chinois a mis en ligne les poids de Kimi K3 sur Hugging Face, accompagnés d’un rapport technique sur GitHub et, fait plus rare, de plusieurs briques nécessaires à son fonctionnement réel : des noyaux de calcul d’attention à hautes performances, une bibliothèque assurant la communication entre les experts du modèle et des outils destinés à exploiter des agents d’IA à grande échelle. En quelques heures, l’annonce est devenue le sujet le plus discuté sur Hacker News.
Traduisons les caractéristiques techniques. Kimi K3 est un modèle à mélange d’experts : il regroupe de nombreux sous-réseaux spécialisés et ne confie chaque fragment de texte qu’à quelques-uns d’entre eux. Sur le papier, il compte 2 800 milliards de paramètres, les valeurs ajustables qui renferment ce que le modèle a appris. Mais seuls 16 de ses 896 experts sont activés pour chaque jeton, si bien que son exécution coûte beaucoup moins que ce total ne le laisse penser. Sa fenêtre de contexte atteint un million de jetons, soit à peu près un très long livre conservé en mémoire d’un seul tenant. Il comprend aussi nativement les images et les vidéos, sans module ajouté après coup. Dans son rapport, Moonshot met surtout en avant l’architecture : Kimi Delta Attention et une nouvelle organisation des experts fourniraient environ 2,5 fois plus d’intelligence à puissance de calcul égale que la génération précédente. K3 obtient 57 à l’indice composite d’Artificial Analysis, près de GPT-5.6 Sol, et occupe actuellement la première place du classement Frontend Code Arena.
Reste le problème pratique, souvent absent des articles : le téléchargement pèse environ 1,4 téraoctet. Des poids ouverts vous donnent la liberté juridique et technique d’exécuter le modèle vous-même, mais liberté ne signifie pas faisabilité. Pour servir K3 à une vitesse utile, il faut une baie de GPU de centre de données, pas un ordinateur portable. La plupart des utilisateurs passeront donc par un hébergeur. Les capacités présentent également des lacunes. Des essais indépendants de l’AI Security Institute britannique placent K3 loin derrière les meilleurs modèles américains sur les tâches d’exploitation de failles informatiques ; il reste aussi en retrait en mathématiques difficiles. Ces deux tendances sont compatibles avec la distillation, qui consiste à entraîner un modèle plus petit à partir des réponses d’un modèle plus puissant. Les laboratoires chinois font régulièrement l’objet de cette accusation, à laquelle Moonshot n’a pas répondu directement.
Ce que cela signifie pour vous : Si vous découvrez le sujet, retenez surtout ce qu’apportent réellement des « poids ouverts ». Ils ne rendent le modèle ni gratuit, ni généralement local. Ils garantissent que personne ne peut l’éteindre, augmenter son prix ou modifier son comportement à votre insu. C’est essentiel si vous construisez un produit dessus, beaucoup moins si vous discutez dans un navigateur. Si vous travaillez déjà avec des modèles, K3 mérite votre attention pour la génération de code front-end, domaine où il mène actuellement. Mieux vaut en revanche l’écarter des travaux de sécurité et des mathématiques avancées tant que les évaluations indépendantes ne progressent pas. Pour les autres, l’effet sur les prix est le plus intéressant : chaque modèle ouvert crédible venu de Chine réduit la marge de manœuvre tarifaire des laboratoires occidentaux, ce qui finit par atteindre votre facture.
Sources
Le nouveau modèle de cybersécurité de Microsoft est volontairement petit, et c’est tout son intérêt
MAI-Cyber-1-Flash traite environ 90 % des recherches de vulnérabilités et confie le reste à GPT-5.4. Selon Microsoft, cette association atteint 96 % sur CyberGym pour la moitié du coût de la configuration précédente.
