Mercury 3 testé : un chatbot qui écrit sa réponse en morceaux, pas mot par mot
Le Mercury 3 d'Inception est un modèle de langage de diffusion revendiquant plus de 1 000 tokens par seconde à bas prix. Un examen pratique le révèle rapide et bon marché, avec des aspérités.
Inception a lancé Mercury 3, qu’il appelle son modèle de langage de « diffusion » le plus performant. La plupart des chatbots écrivent un mot à la fois (un “token”), chacun dépendant du précédent. Les modèles de diffusion rédigent et affinent plusieurs parties d’une réponse en parallèle, un peu comme un éditeur améliorant une page entière à la fois au lieu d’un écrivain tapant de gauche à droite. La promesse pratique est la rapidité : Inception rapporte 1 068 tokens par seconde sur NVIDIA GPUs, ce qui est plusieurs fois plus rapide que de nombreux chatbots standards.
Un examen réalisé par Corey de The Neuron l’a soumis à huit petits tests via OpenRouter pour un coût total d’environ quatre cents. Les résultats ont été mitigés de manière utile. Les calculs commerciaux étaient corrects, à l’exception d’une légère confusion entre le bénéfice par tasse et le pourcentage de marge. Une nouvelle était drôle mais dépassait la limite de mots et dérivait du cadre d’une seule pièce. Un petit jeu d’exploration de donjon a réussi une vérification de syntaxe et 2 000 vérifications de carte aléatoires. Il a rejeté une mission inventée par la NASA, bien qu’il ait ajouté une fausse affirmation concernant les lancements de Shuttle. L’examinateur appelle ces contrôles ponctuels informels et non un véritable benchmark.
Les spécifications sont attrayantes. La fenêtre contextuelle (la quantité de texte qu’elle peut garder en vue à la fois) est de 1 million de tokens, contre 260 000 dans la version précédente. Les prix standard sont de 0,20 $ par million d’entrées tokens et de 0,70 $ par million de tokens de sortie, avec une remise de lancement de moitié. Inception indique qu’il correspond ou bat GPT-6 Luna et Claude Haiku 5,5 sur plusieurs tests, par exemple 55,18 contre 50,50 et 45,78 sur BrowseComp+, bien que Haiku soit en tête sur certains et Luna sur un test à contexte long. Ce sont des chiffres déclarés par l’entreprise. Les nouveaux comptes API reçoivent 100 millions de tokens gratuits.
Qu’est-ce qu’il y a derrière : la vitesse compte plus qu’il n’y paraît. Lorsqu’un agent IA doit effectuer des dizaines de petites étapes, telles que parcourir, vérifier et réessayer, chaque étape lente s’additionne, et des modèles rapides et bon marché rendent ces boucles pratiques. Jusqu’à présent, le compromis en matière de diffusion a été la précision. L’examen note une gestion imparfaite des contraintes et des explications trop confiantes, ce genre de choses auxquelles vous ne faites confiance qu’après des tests indépendants.
Ce que cela signifie pour vous : si vous utilisez l’IA avec désinvolture, vous ne remarquerez rien de tout cela aujourd’hui. Si vous créez des applications ou automatisez des tâches, l’allocation gratuite token fait du Mercury 3 une expérience facile et presque gratuite, en particulier pour les tâches où la vitesse dépasse la perfection, comme les aides à la rédaction, à la classification ou à la recherche. Gardez un modèle plus solide pour tout ce qui pourrait faire mal à une petite erreur factuelle.
Sources
Sources: https://www.theneuron.ai/news/mercury-3-review-diffusion-language-models/
Microsoft ajoute un frein de sécurité pour les agents IA de l'entreprise : coupez leur accès, demandez à un humain ou éteignez-les
Microsoft a présenté en avant-première des outils qui évaluent le risque de chaque agent IA et peuvent le limiter, exiger une approbation ou l'arrêter. Toujours en avant-première privée, avec un lancement plus large prévu pour Ignite.
