Anthropic setzt sein am stärksten eingeschränktes Modell ein, um Code nach Fehlern zu scannen. Ein Mensch muss immer noch jede Reparatur genehmigen

Anthropic hat sein Code-Scan-Tool Claude Security auf Mythos 5 verschoben. Das ist vor allem wegen der Version bemerkenswert: Mythos ist die leistungsstärkste Version von Anthropic und ist absichtlich nicht allgemein verfügbar, insbesondere weil es bei Cyber-Aufgaben so stark ist. Das Unternehmen gab die Änderung am 21. August bekannt.

Das Tool selbst ist unkompliziert. Es liest eine Codebasis, sucht nach Schwachstellen und schlägt Patches vor. Zu jedem Ergebnis gehört eine CWE-Kategorie, eine branchenübliche Methode zur Klassifizierung einer Art von Softwarefehler, sodass verschiedene Tools dasselbe Problem auf die gleiche Weise beschreiben, sowie eine Schweregradbewertung und ein Lösungsvorschlag. Es befindet sich in der öffentlichen Betaphase für Unternehmenskunden und Scans gelten als normale Token-Nutzung und nicht als separates Produkt.

Das wichtige Detail steht am Ende: Ein Mensch muss immer noch jeden Patch abzeichnen. Anthropic lässt nicht zu, dass das Modell selbst Änderungen am Code vornimmt.

Die Asymmetrie, die dadurch behoben werden soll

Angreifer haben schon seit einiger Zeit Zugriff auf leistungsfähige KI und müssen sich keinem Genehmigungsprozess, keiner Compliance-Prüfung und keinen Konsequenzen für einen schlechten Vorschlag gegenübersehen. Die Verteidiger treffen auf alle drei. Diese Lücke ist der Grund, warum ein Labor sein am engsten gehaltenes Modell nehmen und es speziell auf die Verteidigung ausrichten würde. Anthropic integriert Mythos 5 auch in Sicherheitsprodukte von Partnern, die Krankenhäuser, Versorgungsunternehmen und Banken schützen, wobei Endbenutzer das Modell nie direkt berühren und nur die Ausgabe sehen, beispielsweise einen vorgeschlagenen Patch.

Diese Struktur ist hier die eigentliche Politik. Anstatt ein leistungsstarkes Cyber-Modell herauszubringen und zu hoffen, dass es gut genutzt wird, hält Anthropic es hinter einem Tor und verteilt es nur über defensive Kanäle. Ob dies zutrifft, ist eine offene Frage. Jede Fähigkeit, die stark genug ist, um eine Schwachstelle zu finden, ist auch stark genug, um sie auszunutzen, und ein Tor ist nur so gut wie die Menschen, die es durchlässt. Aber es ist ein kohärenter Versuch, ein wirklich schwieriges Problem anzugehen, und durchdachter als die bloße Veröffentlichung der Gewichte und des Hoffens.

Bemerkenswert ist der Zeitpunkt. Dies geschieht in derselben Woche, in der Forscher einen ungepatchten Grok-Angriff demonstrierten, der verschlüsselte Anweisungen in einer Webseite versteckte, und wenige Tage, nachdem Microsoft einen Fix für eine One-Click-Copilot-Datendiebstahllücke ausgeliefert hatte, von der Microsoft seit acht Monaten wusste. Bei der KI-Sicherheit geht es derzeit darum, dass die Verteidiger aufholen.

Was das für Sie bedeutet: Wenn Sie keinen Code schreiben, ist dies ein Hintergrund, aber ein nützlicher Hintergrund: Bei der KI-Sicherheitsgeschichte geht es nicht nur um Angriffe, und ein Teil der Verteidigungsarbeit ist real. Wenn Sie Code schreiben oder ein kleines Unternehmen leiten, das dies tut, ist das zu kopierende Muster der Genehmigungsschritt. Lassen Sie ein Modell finden und vorschlagen, lassen Sie es niemals anwenden. Diese einzige Regel unterscheidet einen hilfreichen Scanner von einer neuen Angriffsfläche, und die Durchsetzung kostet Sie nichts.

Quellen

• Wird Claude Mythos 5 mehr Verteidigern zugänglich gemacht, Anthropic
• Anthropic setzt sein leistungsstärkstes Modell Claude Mythos 5 für die Cyberverteidigung ein, The Decoder
• CWE-Liste, MITRE