Claude Code active l'Auto Mode par défaut et les numéros de sécurité ne sont pas ceux que vous devineriez
À partir du 14 août, l'outil de codage d'Anthropic ne demande plus la permission à chaque étape. Lors de ses propres tests, un classificateur logiciel a détecté 89 % des commandes dangereuses. Les humains qu’il remplace en ont capturé 13,6 pour cent.
À partir du 14 août, l’outil de codage d’Anthropic, Claude Code, fonctionnera en Auto Mode par défaut pour toute personne bénéficiant d’un forfait Pro, Max ou Team. L’Auto Mode signifie que l’IA cesse de s’arrêter. Au lieu de vous demander d’approuver chaque commande qu’il souhaite exécuter, il continue de fonctionner et un logiciel distinct surveille son épaule et ne l’interrompt que lorsque quelque chose semble dangereux ou difficile à annuler.
Cet observateur est ce que l’industrie appelle un classificateur : un petit modèle dont le seul travail est d’examiner une action proposée et de répondre à une question : est-ce risqué ? Anthropic a mené une étude contrôlée auprès de 1 053 testeurs payants et d’une red teaming interne, dans laquelle le personnel tente délibérément de faire en sorte que le système se comporte mal. Le classificateur a signalé 89 % des commandes véritablement dangereuses. Les évaluateurs humains, cliquant sur approuver ou refuser sur les mêmes commandes, ont obtenu 13,6 %. Les équipes fonctionnant en Auto Mode ont également produit environ 25 % de demandes d’extraction en plus, ce qui signifie qu’elles ont accompli plus de travail.
Il y a un deuxième chiffre à noter. Un audit indépendant réalisé par Trajectory Labs a testé dix fois chacun 72 scénarios d’injection rapide. L’injection rapide se produit lorsqu’un texte caché dans une page Web ou un fichier tente de donner de nouveaux ordres à l’IA dans votre dos, et cela constitue le grand problème de sécurité non résolu des agents IA. Aucune des 720 tentatives n’a dépassé les modèles actuels de Claude en Auto Mode. En utilisant la même batterie contre le GPT-5.6 Sol d’OpenAI en mode de révision automatique du Codex, 5,83 % ont échappé.
Le chiffre de 13,6 % est intéressant et ne constitue pas une insulte aux développeurs. C’est la fatigue de l’approbation. Lorsqu’un outil vous demande de confirmer quarante choses par heure, vous arrêtez de lire et commencez à cliquer, ce qui est exactement ainsi qu’une mauvaise commande est transmise. Le classificateur ne s’ennuie jamais. Anthropic donne deux exemples internes : l’Auto Mode a empêché Claude de télécharger des données confidentielles sur une page publique et, au cours d’une longue session, il a tué environ 2 000 processus qui auraient détruit les tâches de formation GPU en cours. Il convient également de citer l’aspect commercial : lorsque Claude travaille plus longtemps sans s’arrêter, il consomme plus de jetons, et les jetons sont des revenus. Anthropic ne facture pas les jetons que le classificateur lui-même brûle, ce qui adoucit un peu cela.
Ce que cela signifie pour vous: si vous utilisez Claude Code, cela change tout seul le 14 août et vous devriez regarder le décor plutôt que de le découvrir. Les clients d’entreprise restent en mode manuel à moins qu’ils ne l’acceptent. Anthropic lui-même recommande toujours de revoir manuellement les actions de Claude pour les modifications à enjeux élevés des systèmes de production, ce qui constitue une mise en garde raisonnable : 89 % est bien mieux que 13,6 %, mais ce n’est pas 100. Si vous n’écrivez pas de code, le modèle compte toujours, car il se propage. La réponse conceptuelle à « l’IA fait des choses risquées » est de plus en plus « une deuxième IA vérifie la première », et il vaut la peine de savoir que c’est ce qui vous protège.
Sources
Sources: https://claude.com/blog/auto-mode-default-in-claude-code
Les sessions Claude Code peuvent désormais s'envoyer des messages, ce qui est plus étrange qu'il n'y paraît
Deux fenêtres de terminal exécutant le même outil de codage d'IA peuvent désormais transmettre des notes sans que vous ayez à copier quoi que ce soit. C'est une petite fonctionnalité qui change discrètement ce qu'est une session de travail.
