Als die Agenten gesprächig wurden, sanken die Margen dieses Startups auf minus 50 Prozent
Bloomberg berichtet, dass die juristische KI-Firma Harvey beobachtete, wie die Bruttomargen bis Juni von etwa 50 Prozent auf minus 50 Prozent sanken, da die Token-Nutzung um das Zwanzigfache stieg. Es erholte sich durch den Bau eines hauseigenen Modells auf der offenen Kimi K3 von Moonshot.
Harvey verkauft KI-Tools an Anwaltskanzleien und hat einen Wert von rund 15,6 Milliarden Dollar. Laut Bloomberg stieg die Bruttomarge von rund 50 Prozent zu Beginn des Jahres auf minus 50 Prozent im Juni, was bedeutet, dass jeder Dollar Umsatz etwa einen Fünfzig Dollar kostete. Der Auslöser war ein März-Update, das sein Produkt in Agenten verwandelte, eine Software, die eine Aufgabe in vielen Schritten abarbeitet, anstatt eine Frage zu beantworten. Die Token-Nutzung stieg um das Zwanzigfache. Da OpenAI und Anthropic eine Gebühr pro Token erheben und Harvey seinen Kunden ein Pauschalabonnement berechnet, landete der gesamte Anstieg bei Harvey.
Die Lösung bestand darin, die Vermietung des Motors einzustellen. Im August brachte Harvey sein eigenes internes Modell auf den Markt, das nach dem Training auf Kimi K3, dem Modell mit offenem Gewicht des chinesischen Labors Moonshot AI, trainiert wurde. Nach dem Training bedeutet, dass man das fertige Modell einer anderen Person nimmt und es anhand der eigenen Daten und Aufgaben weiter trainiert. Dies ist nur möglich, wenn die Gewichte herunterladbar sind. Die Margen waren wieder positiv. Bloomberg nennt Abridge im Gesundheitswesen, Decagon im Kundensupport und Ramp im Finanzwesen ähnliche Schritte, mit Unterstützung von Sequoia Capital und General Catalyst.
Was steckt dahinter
Dies ist die Kollision zweier Geschäftsmodelle, die nie aufeinander abgestimmt waren. Softwareunternehmen haben schon immer Arbeitsplätze verkauft: zu einem festen Preis pro Benutzer und Monat, wobei sich die Kosten kaum ändern, wenn der Benutzer härter arbeitet. KI-Agenten brechen dagegen, denn ein sorgfältiger Agent, der seine Arbeit überprüft, ist ein Agent, der mehr von Ihrem Geld ausgibt, und je besser Ihr Produkt wird, desto schlechter sieht die Wirtschaftlichkeit Ihrer Einheit aus. Das ist eine ungewöhnliche und ziemlich brutale Form für ein Unternehmen.
Es gibt drei Auswege, und jeder probiert eine Mischung davon aus. Kunden werden nach Nutzung berechnet, was sie hassen und das Budget unvorhersehbar macht. Warten Sie, bis die Preise fallen, was sie auch tun, obwohl die Nachfrage bisher schneller gestiegen ist. Oder verlagern Sie die Arbeitslast auf ein Modell, das Sie steuern. Die dritte Option wurde erst realistisch, weil Open-Weight-Modelle aus chinesischen Labors in diesem Jahr gut genug waren, weshalb ein New Yorker legales Startup schließlich auf einem Modell aus Peking aufbaute. Es lohnt sich, den Vorbehalt genau zu formulieren: Der Betrieb eines eigenen Modells ist nicht kostenlos, es kostet eine Rechnung pro Token für technisches Personal, Hardware und das Risiko, hinter die Grenzen zu geraten.
Was das für Sie bedeutet: Wenn Sie KI-Software kaufen, fragen Sie Ihren Anbieter, wie er für Inferenz bezahlt, denn ein Anbieter, der bei jedem intensiven Nutzer Geld verliert, wird irgendwann die Preise erhöhen, die Nutzung drosseln oder Sie stillschweigend zu einem günstigeren Modell weiterleiten. Achten Sie auf Nutzungsobergrenzen, die in Plänen angezeigt werden, die Sie bereits haben. Und wenn Sie etwas auf der Grundlage eines kostenpflichtigen Modells aufbauen, messen Sie die Token-Nutzung pro abgeschlossener Aufgabe frühzeitig und nicht erst nach dem Start. Das interessante Signal für alle anderen ist, dass „offene Gewichte sind etwas für Bastler“ nicht mehr wahr ist. Es handelt sich mittlerweile um eine Margenentscheidung milliardenschwerer Unternehmen.
Quellen
Alibabas neues Modell schaut und hört zu und verlangt dafür fast nichts
Qwen3.8-Omni-Flash verarbeitet Text, Bilder, Audio und Video in einem Modell mit einem Millionen-Token-Kontext. Alibaba meldet einen Rückgang der stündlichen Kosten für die Audioaufnahme um mehr als 98 Prozent. Keine offenen Gewichte beim Start.
