Le prochain modèle ouvert d'Alibaba est un aperçu de Qwen 4
Qwen3.8-Flash-Next est un modèle ouvert de 125 milliards de paramètres qui n'en utilise que six milliards par mot. Il atterrit aujourd’hui et est construit sur l’architecture de la prochaine famille Qwen 4.
Alibaba a mis un compte à rebours sur sa plate-forme ModelScope le 25 août pour Qwen3.8-Flash-Next, un nouveau modèle à poids ouvert lancé aujourd’hui, le 26 août. Le poids ouvert signifie que les fichiers du modèle eux-mêmes sont publiés, afin que tout le monde puisse les télécharger et les exécuter plutôt que d’accéder uniquement au modèle via une interface payante. La partie intéressante n’est pas le modèle mais ce qu’il présente : Alibaba affirme qu’il est construit sur l’architecture de la famille Qwen 4 de nouvelle génération.
Les spécifications signalées, rassemblées par la communauté à partir de la liste ModelScope avant la publication : environ 125 milliards de paramètres au total plus environ 51 milliards dans un composant d’intégration N-gram distinct, avec seulement environ 6 milliards de paramètres actifs pour un jeton donné. Les paramètres sont les nombres internes qu’un modèle apprend pendant la formation, et un jeton est à peu près un mot ou un fragment de mot. Cet écart entre 125 milliards stockés et 6 milliards utilisés est la caractéristique déterminante d’une conception mixte d’experts, où le modèle conserve de nombreux sous-réseaux spécialisés et n’active que quelques-uns pertinents pour chaque morceau de texte. Le modèle est multimodal, ce qui signifie qu’il gère les images ainsi que le texte, et aurait introduit deux changements architecturaux avec les noms inutiles d’architecture hybride GDN et Qwen Sparse Attention. Les équipes d’outillage, dont Unsloth, ont préparé un support dès le jour zéro, et une version standard et une version FP8 sont attendues, FP8 étant un format numérique compressé qui réduit de moitié environ l’utilisation de la mémoire.
Que se passe-t-il réellement ici : l’astuce du mélange d’experts explique pourquoi un modèle de cette taille mérite l’attention de quiconque en dehors d’un centre de données. L’exécution d’un modèle dense de 125 milliards de paramètres nécessite un matériel sérieux ; en exécuter un qui n’en active que 6 milliards à la fois est beaucoup plus proche de ce qu’un ordinateur de bureau bien équipé peut gérer, tout en conservant l’étendue des connaissances provenant de la taille réelle. C’est le même pari que font désormais presque tous les laboratoires. Publier un aperçu d’une architecture inédite sous forme de poids ouverts est également une stratégie délibérée plutôt que de la générosité : cela permet à l’écosystème d’outils open source, aux personnes qui écrivent le logiciel qui rend les modèles réellement exécutables, de travailler sur le support de Qwen 4 avant que Qwen 4 n’existe.
Ce que cela signifie pour vous : si vous utilisez l’IA via une fenêtre de discussion, cela ne change rien aujourd’hui, même si cela s’inscrit dans la tendance générale à l’amélioration des options gratuites. Si vous exécutez des modèles sur votre propre machine, c’est la version à surveiller cette semaine, avec la mise en garde honnête que toutes les spécifications ci-dessus proviennent d’une page teaser et d’une analyse de la communauté plutôt que d’une carte de modèle publiée, et que la prise en charge dès le premier jour dans des outils comme Ollama et LM Studio prend généralement quelques jours pour se stabiliser. Attendez les premiers résultats de benchmarks indépendants avant de réorganiser votre configuration autour de ceux-ci.
Sources
Sources: https://modelscope.cn/models/Qwen/Qwen3.8-Flash-Next
Les données sur l'emploi de Stanford indiquent que l'écart entre les jeunes travailleurs ne cesse de se creuser
La mise à jour d'août du document Canaries in the Coal Mine place l'emploi des 22 à 25 ans dans les emplois exposés à l'IA 19 pour cent en dessous de leurs pairs, contre 13 pour cent. Les travailleurs plus âgés ne présentent pas un tel écart.
