Mercury 3 im Test: Ein Chatbot, der seine Antwort in Blöcken schreibt, nicht Wort für Wort
Der Mercury 3 von Inception ist ein Diffusionssprachenmodell, das zu niedrigen Preisen über 1.000 Tokens pro Sekunde beansprucht. Ein praktischer Test ergab, dass es schnell und günstig ist, aber auch seine Ecken und Kanten hat.
Inception hat Mercury 3 auf den Markt gebracht, das es als sein leistungsfähigstes „Diffusions“-Sprachmodell bezeichnet. Die meisten Chatbots schreiben jeweils ein Wortstück (ein „Token“), jeweils abhängig von den vorherigen. Stattdessen entwerfen und verfeinern Diffusionsmodelle mehrere Teile einer Antwort parallel, ähnlich wie ein Redakteur, der eine ganze Seite auf einmal verbessert, anstatt wie ein Autor, der von links nach rechts tippt. Das praktische Versprechen ist Geschwindigkeit: Inception meldet 1.068 Tokens pro Sekunde auf NVIDIA GPUs, was um ein Vielfaches schneller ist als viele Standard-Chatbots.
In einem Testbericht von The Neuron wurde der Corey mit dem OpenRouter acht kleinen Tests unterzogen, wobei die Gesamtkosten etwa vier Cent betrugen. Die Ergebnisse waren auf nützliche Weise gemischt. Die Geschäftsrechnung war korrekt, abgesehen von einer kleinen Verwechslung zwischen Gewinn pro Tasse und prozentualer Marge. Eine Kurzgeschichte war lustig, überschritt aber ihre Wortgrenze und entfernte sich von der Ein-Raum-Situation. Ein kleines Dungeon-Crawler-Spiel hat eine Syntaxprüfung und 2.000 zufällige Kartenprüfungen bestanden. Es lehnte eine erfundene NASA-Mission ab, fügte jedoch eine falsche Behauptung über Shuttle-Starts hinzu. Der Rezensent nennt diese informellen Stichproben keine richtige Benchmark.
Die Spezifikationen sind attraktiv. Das Kontextfenster (wie viel Text gleichzeitig angezeigt werden kann) beträgt 1 Million Tokens, gegenüber 260.000 in der Vorgängerversion. Die Standardpreise betragen 0,20 $ pro Million Input Tokens und 0,70 $ pro Million Output Tokens, mit einem Einführungsrabatt von der Hälfte davon. Inception sagt, dass es bei mehreren Tests mit 5,5 von GPT-6 Luna und Claude Haiku gleichzieht oder diese übertrifft, zum Beispiel 55,18 gegenüber 50,50 und 45,78 bei BrowseComp+, obwohl Haiku bei einigen und Luna bei einem Langkontexttest vorne liegt. Hierbei handelt es sich um vom Unternehmen gemeldete Zahlen. Neue API-Konten erhalten 100 Millionen kostenlose Tokens.
Was dahinter steckt: Geschwindigkeit ist wichtiger als es klingt. Wenn ein KI-Agent Dutzende kleiner Schritte wie Durchsuchen, Überprüfen und Wiederholen ausführen muss, summiert sich jeder langsame Schritt, und billige schnelle Modelle machen diese Schleifen praktisch. Der Kompromiss mit der Diffusion bestand bisher in der Präzision. In der Rezension wird auf einen mangelhaften Umgang mit Einschränkungen und einige übertriebene Erklärungen hingewiesen, denen man erst nach unabhängigen Tests vertrauen kann.
Was das für Sie bedeutet: Wenn Sie KI gelegentlich nutzen, werden Sie heute davon nichts bemerken. Wenn Sie Apps erstellen oder Aufgaben automatisieren, macht das kostenlose Token-Guthaben Mercury 3 zu einem einfachen, nahezu kostenlosen Experiment, insbesondere für Aufgaben, bei denen Geschwindigkeit vor Perfektion geht, wie z. B. beim Entwerfen, Klassifizieren oder bei Suchhilfen. Behalten Sie ein stärkeres Modell für alles bei, bei dem ein kleiner sachlicher Ausrutscher schaden würde.
Quellen
Quellen: https://www.theneuron.ai/news/mercury-3-review-diffusion-language-models/
Microsoft fügt eine Sicherheitsbremse für KI-Agenten in Unternehmen hinzu: Sperren Sie ihnen den Zugriff, fragen Sie einen Menschen oder schalten Sie sie aus
Microsoft stellte eine Vorschau der Tools vor, die das Risiko jedes KI-Agenten bewerten und es begrenzen, eine Genehmigung erfordern oder es abschalten können. Noch in der privaten Vorschau, eine breitere Einführung ist für Ignite geplant.
