Étude Anthropic : des experts ont adopté les opinions aléatoires d'un agent IA et ont estimé qu'elles étaient les leurs
Dans une expérience Anthropic, 50 experts ont suivi la préférence d'un agent d'IA en matière de tirage au sort dans 86 % des cas lors de ses choix d'analyse, et la plupart ont estimé que le résultat leur appartenait toujours en grande partie.
Voici un résultat qui vaut la peine d’être observé. Anthropic a demandé à 50 experts en inférence causale (une branche des statistiques visant à déterminer ce qui cause réellement quoi) d’analyser les données d’une coopérative agricole fictive, en utilisant un agent d’IA comme assistant. La préférence de l’agent à chaque jugement était secrètement déterminée par un tirage au sort. Sur quatre décisions d’analyse, les experts ont choisi le côté de l’agent dans 86 % des cas, alors que le hasard donnerait environ 50 %.
La tâche consistait à décider si un programme volontaire de conseils agricoles devait être élargi, interrompu ou prolongé. Chaque décision comportait deux options raisonnables et l’agent n’était pas autorisé à mentir ou à cacher des données. Il se contentait de défendre le camp qui lui avait été assigné et il exposait généralement sa position en premier. Lorsque les gens avaient déjà pris leur décision, un agent en désaccord les faisait encore bouger : environ 60 % changeaient lorsqu’il n’était pas d’accord, contre 6 % lorsqu’il était d’accord, bien que ce chiffre ne repose que sur 38 cas. L’expérience, les compétences auto-évaluées et l’éducation ne permettaient pas de prédire qui suivrait l’agent.
La partie qui ressort est la propriété. Environ 77 % des participants ont répété au moins un des arguments de l’agent dans leurs propres explications, parfois presque mot pour mot, mais seulement 15 % ont mentionné l’IA. Environ la moitié ont déclaré que la recommandation finale ressemblait davantage à la leur qu’à celle de l’agent. La recommandation finale elle-même n’a été que modestement influencée, mais les choix d’analyse antérieurs ont façonné les chiffres qui l’ont motivée.
Qu’est-ce qu’il y a derrière tout cela : Il ne s’agit pas d’une histoire selon laquelle l’IA serait mauvaise dans son travail. Les analyses effectuées avec l’agent présentaient de graves défauts dans 3 cas sur 50 (6%), contre 6 sur 11 (55%) sans lui, même si le groupe sans IA était petit et moins expérimenté, donc la comparaison prouve peu. L’inquiétude est plus subtile : si de nombreuses équipes utilisent le même modèle avec les mêmes tendances par défaut, elles pourraient dériver vers les mêmes conclusions et les confondre avec un accord. Et l’examen humain ne fonctionne que comme un contrôle indépendant « si leur jugement est le leur », comme le disent les auteurs.
Attention : les connaissances des agents ont été volontairement renforcées, l’étude porte sur une tâche, un domaine et un modèle (Claude Opus 4.8), et 50 personnes constituent un petit échantillon. Les effets dans le monde réel peuvent être moindres.
Ce que cela signifie pour vous : Vous n’avez pas besoin d’arrêter d’utiliser l’IA pour l’analyse ou l’écriture. Mais vous pouvez emprunter les idées des chercheurs. Formez-vous votre propre idée avant de demander à l’assistant. Demandez-lui de présenter les arguments les plus solides en faveur des deux options, et pas seulement de sa préférée. Et lorsque vous expliquez une décision à quelqu’un, vérifiez si le raisonnement est vraiment le vôtre. Si vous gérez une équipe, décidez quels jugements doivent rester entre les mains d’une personne qui a eu le temps de réfléchir en premier.
Sources
Sources: https://www.anthropic.com/research/agents-judgment-calls
Cisco donne à un jeune de 27 ans un nombre illimité de tokens IA pour réécrire son code hérité
Le chef de produit de Cisco affirme qu'un jeune ancien fondateur a quatre semaines pour prouver que l'IA peut réécrire 98 % de l'ancien code de l'entreprise, un objectif rapporté uniquement par le propre compte de Cisco.
