Hassabis de DeepMind veut un arbitre de l’IA sur le modèle du gendarme de Wall Street

Demis Hassabis, directeur général de Google DeepMind, a publié une proposition détaillée sur la manière d’encadrer l’IA avancée, en empruntant son modèle au secteur financier. Il souhaite créer aux États-Unis un nouvel organisme de normalisation inspiré de la FINRA, l’organisation financée par le secteur qui supervise les courtiers en valeurs mobilières, afin qu’il joue le rôle d’arbitre pour les modèles d’IA les plus puissants.

Cet organisme élaborerait des protocoles d’évaluation pour les modèles de pointe, la poignée de systèmes les plus performants issus des plus grands laboratoires, d’abord sur une base volontaire, puis de manière obligatoire. Il serait financé par le secteur lui-même et s’appuierait sur des bancs d’essai régulièrement actualisés, autrement dit des tests standardisés permettant de déterminer ce que les modèles peuvent ou ne peuvent pas faire de manière sûre. Si ces évaluations révélaient un élément inquiétant, l’organisme pourrait coordonner un ralentissement du développement à l’échelle du secteur. Deux choix de conception ressortent. Premièrement, les jeunes entreprises et les modèles issus de la recherche universitaire seraient exemptés, ce qui anticipe l’accusation de « capture réglementaire »de grandes entreprises qui utilisent la réglementation comme une échelle qu’elles retirent derrière elles. Deuxièmement, Hassabis présente l’ensemble sous l’angle de l’incertitude plutôt que de la catastrophe : « Personne au monde ne sait avec certitude ce qui va se passer à partir de maintenant, et même les experts ne sont pas d’accord », écrit-il. Lorsque les enjeux sont élevés et les certitudes faibles, il préconise un « optimisme prudent » : avancer tout en installant des garde-fous.

Pourquoi maintenant ? Le calendrier est notable. Quelques jours auparavant, plus de 200 économistes et chercheurs en IA, dont 16 lauréats du prix Nobel, avaient signé une lettre avertissant que le temps disponible pour se préparer aux conséquences économiques de l’IA se réduisait. Hassabis ne l’a pas signée, mais sa proposition ressemble à une réponse concrète à cette alarme abstraite. Il a également répété son opinion selon laquelle l’intelligence artificielle générale, une IA capable d’égaler les humains dans la plupart des tâches, ne serait probablement plus qu’à quelques années. Il faut toutefois garder des attentes raisonnables : les experts sont réellement en désaccord. Yann LeCun a qualifié l’idée d’une intelligence générale fondée sur les modèles de langage de « foutaise complète », tandis que Rich Sutton, lauréat du prix Turing, vient de fonder un laboratoire reposant sur le principe que les méthodes actuelles doivent être entièrement repensées. La proposition d’un dirigeant de laboratoire constitue une première offre, pas un projet porté par une dynamique politique. Un organisme capable de ralentir le développement aurait besoin d’une adhésion qui n’existe pas encore.

Ce que cela signifie pour vous : rien ne change aujourd’hui. Mais le signal est utile : les personnes qui conçoivent les systèmes d’IA les plus puissants élaborent désormais publiquement des freins pour leur propre secteur et débattent des institutions qui devraient en avoir la maîtrise. Si l’IA finit par se doter d’un organisme de surveillance comparable à la FINRA, les décisions sur ce que les modèles peuvent faire seront prises au moyen de protocoles de test et d’organismes de normalisation, en grande partie hors du regard du public. Savoir que ces débats existent est la première étape pour pouvoir y prendre part.

Sources

• Hassabis sur X
• The Decoder