Zuckerberg affirme que la sécurité est un avantage concurrentiel et non une raison pour ralentir

L’argument sur la question de savoir si les laboratoires d’IA devraient délibérément ralentir a rencontré lundi son principal dissident. Mark Zuckerberg a indiqué que les laboratoires ont déjà à la fois la responsabilité et l’incitation de former des modèles en toute sécurité, et que « tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard ». L’alignement, en termes simples, consiste à faire en sorte qu’un modèle se comporte comme ses créateurs l’avaient prévu, et l’affirmation de Zuckerberg est qu’un laboratoire qui l’ignore se retrouve avec un produit auquel les gens ne font pas confiance, ce qui est une punition suffisante sans un pacte industriel.

Le timing est le point important. Au cours du week-end précédent, Dario Amodei d’Anthropic a publié un essai exhortant les laboratoires pionniers à rythmer la rapidité avec laquelle ils développent leurs capacités, et Sam Altman, Elon Musk et Demis Hassabis ont largement soutenu l’idée, Satya Nadella affirmant que Microsoft se félicitait du « rythme délibéré nécessaire pour obtenir un bon alignement » et publiait un code de conduite en parallèle. Zuckerberg a pris le chemin inverse, se rapprochant de Jensen Huang de Nvidia, qui a soutenu que l’industrie n’avait pas besoin de nouvelles lois. Notamment, Zuckerberg n’a pas présenté Meta comme imprudent : il a déclaré que la société avait retenu Muse pendant plusieurs mois pour qu’elle travaille sur la sûreté et la sécurité. Il a simplement refusé de demander à quelqu’un d’autre de faire de même. Il a également réitéré son argument de longue date selon lequel la superintelligence devrait être largement répandue plutôt que détenue par une poignée d’institutions, car selon lui, la sécurité vient d’un équilibre des pouvoirs plutôt que de la prudence d’un petit groupe.

Qu’est-ce qu’il y a derrière ça

Il est utile de remarquer où se situe chaque entreprise. Anthropic et OpenAI sont en tête ou à proximité, et un ralentissement coordonné prend une avance tout en réduisant commodément d’énormes factures de calcul, une lecture notée par Axios et de nombreuses personnes en ligne ont fait moins poliment. Meta est en retard sur les modèles pionniers et a dépensé beaucoup d’argent pour rattraper son retard, donc un pacte pour assouplir la situation est un pacte pour le geler en place. Rien de tout cela ne rend quelqu’un peu sincère. Cela signifie que « nous devrions tous ralentir » et « nous devrions tous continuer » s’alignent parfaitement sur la position de l’orateur, et cela vaut la peine de garder à l’esprit quel que soit l’argument que vous trouvez le plus convaincant.

Ce que cela signifie pour vous : Rien ne change dans les outils que vous utilisez cette semaine. Ce que ce débat décide, lentement, c’est si la sécurité finit par devenir quelque chose que les entreprises choisissent ou quelque chose qu’exigent les règles, et la situation honnête est que ce n’est actuellement ni l’un ni l’autre : il n’y a pas d’accord, pas de loi, et un désaccord public entre les quatre ou cinq personnes qui pourraient en conclure un. Si vous souhaitez savoir de manière pratique si les propos d’un laboratoire sur la sécurité sont réels, regardez ce qu’il publie plutôt que ce qu’il dit. Les cartes modèles, les versions retardées et les résultats d’évaluation nommés sont vérifiables. Les essais ne le sont pas.

Sources

• CNBC : Mark Zuckerberg, PDG de Meta, se range aux côtés de Huang de Nvidia sur le débat sur la sécurité et le ralentissement de l’IA
• Benzinga : Zuckerberg dit que Meta a retardé Muse pendant des mois pour se concentrer sur la sécurité de l’IA et n’a pas demandé aux autres de ralentir
• The Tribune : Mark Zuckerberg appelle à un développement responsable de l’IA