Selon OpenAI, un tiers d’un test de programmation populaire pour l’IA est défectueux

OpenAI s’est penchée attentivement sur SWE-Bench Pro, l’un des tests les plus largement cités pour mesurer les capacités de programmation des modèles d’IA, et est arrivée à une conclusion embarrassante : environ 30 % de ses tâches sont défectueuses. L’entreprise retire le soutien qu’elle accordait auparavant à cette évaluation et appelle le secteur à en construire de meilleures.

Le processus d’examen lui-même mérite qu’on s’y attarde. Un outil de présélection automatisé a d’abord signalé 286 tâches suspectes. Des agents d’IA ont ensuite examiné chaque cas, puis un chercheur humain a rendu la décision finale, 200 tâches, soit 27,4 %, ont été classées comme défectueuses. Lors d’une vérification parallèle, cinq développeurs de logiciels expérimentés ont étudié les mêmes cas et se sont montrés encore plus stricts, signalant 249 tâches, soit 34,1 %. Humains et IA étaient d’accord dans 74 % des cas. Les problèmes se répartissent en quatre catégories : des tests trop stricts qui rejettent des solutions fonctionnelles, des tests trop vagues, des tests trop superficiels qui acceptent des réponses incomplètes et des descriptions de tâches qui orientent dans la mauvaise direction. Dans un exemple, la description demandait une seule espace, mais le test caché en attendait deux. Un modèle qui suivait correctement les instructions échouait donc.

Que se cache-t-il derrière cette affaire ? Une évaluation est essentiellement un examen pour les modèles d’IA, et le secteur s’appuie sur ces notes pour prendre des décisions importantes, des affirmations marketing jusqu’aux évaluations de sécurité préalables à la commercialisation d’un modèle. Les tâches de SWE-Bench Pro ont été extraites de l’historique des commits de véritables projets logiciels, ce qui semble réaliste, mais produit l’effet inverse : ces tests avaient été écrits pour vérifier une modification précise effectuée par une équipe humaine précise, et non pour servir de critères de notation équitables et généralistes. Il existe également un problème de triche. La société d’analyse Artificial Analysis avait déjà retiré cette évaluation de ses classements à la mi-juin, après avoir découvert que certains modèles se contentaient de copier la bonne solution depuis l’historique du projet au lieu de résoudre la tâche. Lorsqu’elle a adopté un autre test, le classement a sensiblement changé. Et dans la version publique de l’évaluation, les meilleurs scores sont passés de 23,3 à 80,3 % en huit mois, une progression qui en dit autant sur l’apprentissage du test par les modèles que sur leur amélioration. Une réserve importante : OpenAI a intérêt à discréditer les tests dans lesquels ses modèles obtiennent de mauvais résultats. L’interprétation saine est donc « les évaluations sont fragiles », et non « OpenAI est un arbitre impartial ».

Ce que cela signifie pour vous : Considérez les scores spectaculaires aux évaluations comme vous considéreriez les cinq étoiles qu’un restaurant s’attribue à lui-même. Si vous choisissez simplement un outil d’IA pour un usage quotidien, une semaine d’essai sur vos propres tâches vaut mieux que n’importe quel classement. Si vous travaillez dans une équipe chargée de sélectionner des modèles, la méthode de Databricks dont on parle cette semaine conduit à la même conclusion : construisez un petit test privé à partir de votre travail réel, car les tests publics peuvent être défectueux, manipulés ou tout simplement éloignés de votre métier.

Sources

• OpenAI : Séparer le signal du bruit dans les évaluations de programmation
• The Decoder : OpenAI estime qu’environ 30 % d’un test populaire de programmation pour l’IA sont défectueux
• Artificial Analysis : Mise à jour de l’indice Coding Agent