Le Massachusetts veut des audits indépendants des modèles Frontier tous les quatre mois, et les laboratoires ne sont pas d'accord sur ce point

Un projet de loi soumis au Sénat du Massachusetts obligerait les grands développeurs d’IA à embaucher des évaluateurs indépendants pour évaluer leurs modèles en termes de risque catastrophique tous les quatre mois. La partie inhabituelle n’est pas la règle. Le fait est que l’industrie s’est publiquement divisée à ce sujet : Anthropic est pour, OpenAI et Google sont contre.

Le langage de l’IA s’inscrit dans un projet de loi de développement économique plus large. Le chef des relations avec les États et les gouvernements locaux d’Anthropic, Cesar Fernandez, a écrit lorsque le Sénat a adopté sa version qu’il “élevait la barre en matière de sécurité de l’IA tout en garantissant que l’innovation puisse se poursuivre”. Des organisations de sécurité, dont Encode et le Secure AI Project, ont envoyé des lettres de soutien au comité de la conférence.

OpenAI a écrit aux législateurs le mois dernier pour plaider en faveur d’un projet de loi plus proche d’un projet de loi de l’Illinois, qui demande des audits de sécurité annuels par des tiers plutôt que trois par an. Son objection porte moins sur l’audit lui-même que sur l’arithmétique : si chaque État rédige sa propre version, les développeurs seront confrontés à ce qu’OpenAI appelle une « surveillance fragmentée » et un « résultat malheureux ».

Qu’est-ce qu’il y a derrière ça

Une évaluation indépendante signifie ici qu’une organisation extérieure, et non la propre équipe de sécurité du laboratoire, teste un modèle pour les pires capacités : aider à fabriquer des armes, mener des cyberattaques à grande échelle, cette catégorie. Il est important de le faire tous les quatre mois plutôt qu’une fois par an, car les modèles frontières sont désormais expédiés plus rapidement que cela. Un audit annuel peut manquer deux générations de modèles.

Les États bougent parce que Washington ne bouge pas. Le Congrès a rejeté une proposition de moratoire de dix ans sur les lois des États sur l’IA en 2025, et une tentative ultérieure visant à associer un langage de préemption à la législation sur la défense a également échoué. Le Rhode Island a adopté des mesures de protection contre les chatbots en juin, la Californie travaille sur les audits et la confidentialité, et l’Utah et la Caroline du Sud sont de retour sur la sécurité en ligne des enfants. Le Massachusetts serait le plus strict du lot.

Il est également utile de remarquer l’angle commercial. Anthropic a bâti sa position sur le marché en tant que laboratoire avant-gardiste, de sorte que les règles qui rendent obligatoire l’évaluation par un tiers augmentent un coût que ses concurrents n’ont pas payé et qu’il a largement payé. Cela ne veut pas dire que sa position manque de sincérité. Cela signifie que la scission n’est pas simplement un désaccord sur l’éthique.

Ce que cela signifie pour vous : Vous ne remarquerez rien ce mois-ci. Mais ce sont les règles des États qui régissent réellement l’IA aux États-Unis, et la cadence choisie par le Massachusetts sera probablement copiée. Pour quiconque s’appuie sur ces modèles, un cycle d’audit de quatre mois signifie que la documentation de sécurité sur laquelle vous comptez est actualisée plus souvent, ce qui est véritablement utile. Pour tous les autres, il s’agit du premier cas où de grands laboratoires font ouvertement pression les uns contre les autres sur les règles de sécurité.

Sources

• PYMNTS : Anthropic rompt avec ses pairs sur le projet de loi sur la sécurité de l’IA dans le Massachusetts
• The Information: Anthropic se sépare de Google et OpenAI à propos du projet de loi national sur la sécurité de l’IA
• Insurance Journal: OpenAI met en garde contre la confusion alors que le Massachusetts prépare la répression