Claude Code aktiviert standardmäßig den automatischen Modus und die Sicherheitszahlen entsprechen nicht Ihren Erwartungen
Ab dem 14. August fragt das Codierungstool von Anthropic nicht mehr bei jedem Schritt um Erlaubnis. In eigenen Tests hat ein Software-Klassifikator 89 Prozent der gefährlichen Befehle abgefangen. Die Menschen, die es ersetzt, haben 13,6 Prozent gefangen.
Ab dem 14. August wird das Codierungstool Claude Code von Anthropic standardmäßig im Auto-Modus für alle mit einem Pro-, Max- oder Team-Plan ausgeführt. Auto-Modus bedeutet, dass die KI nicht mehr stoppt. Anstatt Sie zu bitten, jeden einzelnen Befehl, den es ausführen möchte, zu genehmigen, arbeitet es weiter, und eine separate Software überwacht es über die Schulter und unterbricht nur, wenn etwas gefährlich erscheint oder schwer rückgängig zu machen ist.
Dieser Beobachter wird in der Branche als Klassifikator bezeichnet: ein kleines Modell, dessen einzige Aufgabe darin besteht, eine vorgeschlagene Aktion zu betrachten und eine Frage zu beantworten: Ist das riskant? Anthropic führte eine kontrollierte Studie mit 1.053 zahlenden Testern sowie internem Red-Teaming durch, bei dem Mitarbeiter absichtlich versuchen, das System zu Fehlverhalten zu bringen. Der Klassifikator markierte 89 Prozent der wirklich gefährlichen Befehle. Menschliche Prüfer, die bei denselben Befehlen auf „Genehmigen“ oder „Ablehnen“ klickten, erreichten 13,6 Prozent. Teams, die im Auto-Modus liefen, produzierten außerdem etwa 25 Prozent mehr Pull-Anfragen, was bedeutete, dass sie mehr Arbeit erledigten.
Es gibt noch eine zweite Zahl, die erwähnenswert ist. Bei einem unabhängigen Audit von Trajectory Labs wurden 72 Szenarien mit sofortiger Injektion jeweils zehnmal getestet. Von einer sofortigen Injektion spricht man, wenn in einer Webseite oder einer Datei versteckter Text versucht, der KI hinter Ihrem Rücken neue Befehle zu erteilen. Dabei handelt es sich um das große ungelöste Sicherheitsproblem von KI-Agenten. Keiner der 720 Versuche kam im Auto-Modus an Claudes aktuellen Modellen vorbei. Läuft man die gleiche Batterie im Codex Auto-Review-Modus gegen OpenAIs GPT-5.6 Sol, rutschen 5,83 Prozent durch.
Der Wert von 13,6 Prozent ist interessant und keine Beleidigung für Entwickler. Es ist Zustimmungsmüdigkeit. Wenn ein Tool Sie auffordert, vierzig Dinge pro Stunde zu bestätigen, hören Sie auf zu lesen und beginnen zu klicken, und genau auf diese Weise wird ein fehlerhafter Befehl durchgewinkt. Mit dem Klassifikator wird es nie langweilig. Anthropic nennt zwei interne Beispiele: Der Auto-Modus hat Claude daran gehindert, vertrauliche Daten auf eine öffentliche Seite hochzuladen, und während einer langen Sitzung wurden etwa 2.000 Prozesse abgebrochen, die laufende GPU-Trainingsjobs zunichte gemacht hätten. Erwähnenswert ist auch der kommerzielle Aspekt: Wenn Claude länger ununterbrochen arbeitet, verbraucht er mehr Token, und Token sind Einnahmen. Anthropic erhebt keine Gebühren für die Token, die der Klassifikator selbst verbrennt, was das Ganze etwas mildert.
Was das für dich bedeutet: Wenn Sie Claude Code verwenden, ändert sich dies am 14. August von selbst und Sie sollten sich die Einstellung ansehen, anstatt sie zu entdecken. Unternehmenskunden bleiben bei der manuellen Vorgehensweise, es sei denn, sie entscheiden sich dafür. Anthropic selbst empfiehlt immer noch, Claudes Aktionen bei wichtigen Änderungen an Produktionssystemen manuell zu überprüfen, was eine faire Einschränkung darstellt: 89 Prozent sind viel besser als 13,6 Prozent, aber es sind nicht 100. Wenn Sie keinen Code schreiben, ist das Muster immer noch wichtig, weil es sich ausbreitet. Die Design-Antwort auf „KI macht riskante Dinge“ lautet zunehmend: „Eine zweite KI überprüft die erste“, und Sie sollten wissen, dass Sie dadurch geschützt werden.
Quellen
Quellen: https://claude.com/blog/auto-mode-default-in-claude-code
Claude Code-Sitzungen können sich jetzt gegenseitig Nachrichten senden, was seltsamer ist, als es klingt
Zwei Terminalfenster, auf denen dasselbe KI-Codierungstool ausgeführt wird, können jetzt Notizen hin- und herwechseln, ohne dass Sie etwas kopieren müssen. Es handelt sich um eine kleine Funktion, die stillschweigend verändert, was eine Arbeitssitzung ist.
