Amodei: la publicidad no arreglará la crisis de confianza de la IA; curar el cáncer quizá sí
El director de Anthropic admitió que el sector no ha cumplido sus grandes promesas y apoyó un regulador central al estilo de FINRA. Es algo inusual en el jefe de un laboratorio puntero.
En una larga publicación en X el sábado, Dario Amodei, director ejecutivo de Anthropic, escribió que las empresas de IA «todavía no han cumplido nuestras grandes promesas de beneficiar al mundo» y defendió que el problema central no es el mensaje, sino la desconfianza institucional. Su receta tenía dos partes, ambas notables viniendo de quien dirige un laboratorio puntero.
La primera es regulatoria. Amodei apoyó un regulador central de IA inspirado en FINRA, el organismo que supervisa a los corredores estadounidenses. FINRA es una organización autorreguladora: una autoridad financiada por el sector, con poderes reales de aplicación, situada entre las empresas y el Gobierno. Es una propuesta concreta y algo incómoda, pues no es la autorregulación ligera que suelen preferir los laboratorios ni la regulación estatal directa contra la que muchos presionan.
La segunda trata de cambiar la opinión pública. La publicidad no funcionará, afirmó. «Lo que funcionará es curar realmente el cáncer.» Señaló el programa AI for Science de Anthropic y los primeros indicios de avances biológicos como única vía creíble para recuperar la confianza.
Leído con generosidad, es un ajuste de cuentas honesto. Con escepticismo, también es un argumento conveniente. Un organismo tipo FINRA estaría financiado y muy influido por las mayores empresas, y «juzgadnos por futuros avances médicos» aplaza cómodamente la responsabilidad. Ambas lecturas pueden ser ciertas. El momento importa: llegó días después de que Anthropic elevara su estimación de desalineación de muy baja a baja, y la misma semana en que una encuesta de CNBC mostró que grandes mayorías de estadounidenses de 18 a 34 años no confían en los principales ejecutivos del sector. El problema es medible, no hipotético.
Lo realmente nuevo es que el jefe de un laboratorio reconozca públicamente la brecha en lugar de insistir en que los beneficios ya son obvios. Durante tres años, el discurso estándar fue que la tecnología habla por sí sola y el público se pondrá al día. Este es el argumento contrario, y procede de alguien con fuertes incentivos para no plantearlo.
Qué significa para ti: esta semana no cambia ningún producto, y debes desconfiar tanto de la promesa como del cinismo. Un chatbot no curará el cáncer este año, y «primeros indicios» carga con mucho peso. Merece seguimiento la propuesta regulatoria, porque un organismo tipo FINRA es una idea institucional concreta y, si el sector converge en ella, viviremos con el resultado durante décadas. También es buen momento para reconocer cómo te sientes. Desconfiar de las empresas de IA no es irracional, y quien dirige una acaba de darte la razón.
Fuentes
Un chatbot fue mejor que los estafadores humanos en una estafa romántica
En un estudio controlado de una semana, un estafador de IA convenció al 46 % de los participantes para instalar una aplicación. Los humanos lograron el 18 %. La mayoría sabía que hablaba con un bot.
