Amodei : la publicité ne réglera pas la crise de confiance de l'IA, guérir le cancer peut-être
Le dirigeant d'Anthropic reconnaît que le secteur n'a pas tenu ses grandes promesses et soutient un régulateur central inspiré de la FINRA. C'est inhabituel pour le patron d'un laboratoire de pointe.
Dans un long message publié samedi sur X, Dario Amodei, directeur général d’Anthropic, a écrit que les entreprises d’IA « n’ont pas encore tenu leurs grandes promesses au bénéfice du monde » et que le problème central n’était pas la communication, mais la défiance institutionnelle. Sa prescription comportait deux volets, tous deux remarquables de la part du dirigeant d’un laboratoire de pointe.
Le premier est réglementaire. Amodei soutient un régulateur central de l’IA inspiré de la FINRA, l’organisme qui supervise les courtiers américains. La FINRA est une organisation d’autorégulation : une autorité financée par le secteur, dotée de véritables pouvoirs d’exécution et située entre les entreprises et l’État. C’est une proposition précise et légèrement inconfortable, ni l’autosurveillance légère que préfèrent les laboratoires, ni la réglementation directe contre laquelle beaucoup font pression.
Le second concerne l’opinion publique. La publicité ne fonctionnera pas, estime-t-il. « Ce qui fonctionnera, c’est vraiment guérir le cancer. » Il cite le programme AI for Science d’Anthropic et de premières lueurs de percées biologiques comme seule voie crédible pour regagner la confiance.
Lu généreusement, c’est un constat honnête. Lu avec scepticisme, c’est aussi un argument commode. Un organisme façon FINRA serait financé et fortement façonné par les plus grands acteurs, tandis que « jugez-nous sur de futurs progrès médicaux » reporte opportunément la responsabilité. Les deux lectures peuvent être vraies. Le calendrier compte : le message arrive quelques jours après qu’Anthropic a relevé son estimation du risque de désalignement de très faible à faible, et la semaine où un sondage CNBC montre qu’une large majorité des Américains de 18 à 34 ans ne font pas confiance aux dirigeants les plus connus du secteur. La crise décrite est mesurable, pas hypothétique.
La nouveauté réelle est qu’un chef de laboratoire reconnaisse publiquement l’écart au lieu d’affirmer que les bénéfices sont déjà évidents. Depuis trois ans, le discours standard veut que la technologie parle d’elle-même et que le public finisse par suivre. C’est l’argument inverse, formulé par quelqu’un qui a tout intérêt à ne pas le faire.
Ce que cela signifie pour vous : aucun produit ne change cette semaine, et méfiez-vous à la fois de la promesse et du cynisme. Un chatbot ne guérira pas le cancer cette année, et les « premières lueurs » portent beaucoup de poids. La proposition réglementaire mérite en revanche d’être suivie : un organisme inspiré de la FINRA est une idée institutionnelle concrète, et si le secteur s’y rallie, nous vivrons avec le résultat pendant des décennies. C’est aussi le moment de reconnaître votre propre sentiment. Se méfier des entreprises d’IA n’est pas irrationnel ; le dirigeant de l’une d’elles vient de vous donner raison.
Sources
Google désactive aujourd'hui trois modèles Imagen 4
Trois points d'accès de l'API Imagen 4 atteignent leur première date d'arrêt possible le 17 août. Le remplacement n'est pas immédiat, car la méthode de génération d'images disparaît entièrement.
