Recensione Mercury 3: un chatbot che scrive la risposta in blocchi, non parola per parola

Inception ha lanciato Mercury 3, che definisce il suo modello linguistico di “diffusione” più capace. La maggior parte dei chatbot scrive una parola (un “token”) alla volta, ciascuna a seconda di quelle precedenti. I modelli di diffusione invece redigono e perfezionano diverse parti di una risposta in parallelo, un po’ come un editor che migliora un’intera pagina in una volta invece di uno scrittore che digita da sinistra a destra. La promessa pratica è la velocità: Inception segnala 1.068 tokens al secondo su NVIDIA GPUs, che è molte volte più veloce di molti chatbot standard.

Una recensione di Corey di The Neuron lo ha sottoposto a otto piccoli test tramite OpenRouter per un costo totale di circa quattro centesimi. I risultati sono stati mescolati in modo utile. I calcoli aziendali erano corretti, a parte un piccolo errore tra profitto per tazza e margine percentuale. Un racconto era divertente ma ha superato il limite delle parole e si è allontanato dall’ambientazione di una stanza. Un piccolo gioco dungeon crawler ha superato un controllo di sintassi e 2.000 controlli di mappa casuali. Ha rifiutato una missione NASA inventata, anche se ha aggiunto un’affermazione sbagliata sui lanci Shuttle. Il revisore chiama questi controlli casuali informali, non un vero e proprio benchmark.

Le specifiche sono attraenti. La finestra di contesto (quanto testo può tenere in vista contemporaneamente) è 1 milione di token, rispetto ai 260.000 della versione precedente. I prezzi standard sono 0,20 dollari per milione di token di input e 0,70 dollari per milione di token di output, con uno sconto di lancio pari alla metà. Inception afferma che eguaglia o batte GPT-6 Luna e Claude Haiku 5.5 in diversi test, ad esempio 55.18 contro 50.50 e 45.78 su BrowseComp+, sebbene Haiku sia in testa in alcuni e Luna in un test a lungo contesto. Questi sono i numeri riportati dall’azienda. I nuovi account API ricevono 100 milioni di token gratuiti.

Cosa c’è dietro: la velocità conta più di quanto sembri. Quando un agente AI deve eseguire dozzine di piccoli passaggi, come sfogliare, controllare e riprovare, ogni passaggio lento si somma e i modelli veloci ed economici rendono questi cicli pratici. Finora il compromesso con la diffusione è stato la precisione. La revisione rileva una gestione imperfetta dei vincoli e alcune spiegazioni troppo sicure, che è il genere di cose di cui ti fidi solo dopo test indipendenti.

Cosa significa per te: se usi l’intelligenza artificiale con disinvoltura, oggi non noterai nulla di tutto ciò. Se crei app o automatizzi attività, l’indennità token gratuita rende Mercury 3 un esperimento facile, quasi gratuito, soprattutto per i lavori in cui la velocità batte la perfezione, come la redazione, la classificazione o gli aiutanti di ricerca. Mantieni un modello più forte per tutto ciò in cui un piccolo errore fattuale farebbe male.

Fonti

• The Neuron: recensione Mercury 3, i modelli del linguaggio di diffusione fanno sul serio
• The Neuron: Tutto quello che è successo nell’intelligenza artificiale oggi, 20 ottobre