Hassabis, de DeepMind, quiere un árbitro para la IA inspirado en el supervisor de Wall Street
Demis Hassabis propone un organismo estadounidense de normalización para la IA de vanguardia inspirado en el regulador financiero FINRA: financiado por el sector, con protocolos de evaluación y capacidad para coordinar una ralentización. Las startups quedarían exentas.
Demis Hassabis, consejero delegado de Google DeepMind, ha publicado una propuesta detallada sobre cómo gobernar la IA avanzada, y su modelo está tomado del mundo financiero. Quiere un nuevo organismo estadounidense de normalización inspirado en FINRA, la organización financiada por el propio sector que supervisa a los agentes de bolsa, para que actúe como árbitro de los modelos de IA más potentes.
El organismo desarrollaría protocolos de evaluación para los modelos de vanguardia, el pequeño grupo de sistemas con mayor capacidad de los grandes laboratorios, primero voluntarios y más adelante obligatorios. Se financiaría con fondos del propio sector y se apoyaría en comparativas actualizadas periódicamente, es decir, pruebas normalizadas sobre aquello que los modelos pueden y no pueden hacer de forma segura. Si esas evaluaciones detectaran algo alarmante, el organismo podría coordinar una ralentización del desarrollo en todo el sector. Destacan dos decisiones de diseño. En primer lugar, las startups y los modelos de investigación académica quedarían exentos, lo que se adelanta a la acusación de «captura regulatoria»: que las grandes empresas utilicen la regulación como una escalera que retiran una vez han subido. En segundo lugar, Hassabis plantea todo el asunto en torno a la incertidumbre y no a la catástrofe: «Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, e incluso los expertos discrepan», escribe. Cuando hay mucho en juego y poca certeza, su receta es el «optimismo prudente»: avanzar mientras se instalan barreras de protección.
¿Qué hay detrás? El momento resulta significativo. Días antes, más de 200 economistas e investigadores de IA, entre ellos 16 premios Nobel, firmaron una carta en la que advertían de que se está cerrando el margen para prepararse ante el impacto económico de la IA. Hassabis no la firmó, pero su propuesta parece una respuesta concreta a su alarma abstracta. También ha reiterado su opinión de que la inteligencia artificial general, una IA que iguale a los seres humanos en la mayoría de las tareas, probablemente llegará en apenas unos años. Aun así, conviene mantener unas expectativas realistas: los expertos discrepan de verdad. Yann LeCun ha calificado la inteligencia general basada en modelos de lenguaje de «completa estupidez», y Rich Sutton, ganador del Premio Turing, acaba de fundar un laboratorio basado en la idea de que los métodos actuales necesitan una revisión fundamental. Una propuesta del consejero delegado de un laboratorio es un planteamiento inicial, no un plan con impulso político, y un organismo capaz de ralentizar el desarrollo necesitaría un apoyo que aún no existe.
Qué significa esto para ti: hoy no cambia nada. Pero constituye una señal útil: las personas que crean los sistemas de IA más potentes ya están diseñando públicamente frenos para su propio sector y debatiendo qué instituciones deberían controlarlos. Si la IA acaba teniendo un supervisor al estilo de FINRA, las decisiones sobre aquello que pueden hacer los modelos se tomarán mediante protocolos de prueba y organismos de normalización, en gran parte fuera de la vista del público. Saber que estos debates existen es el primer paso para poder participar en ellos.
Fuentes
Fuentes: https://x.com/demishassabis/status/2076957440109625718
Waze ya entiende «la carretera está cortada aquí» como una incidencia en el mapa gracias a Gemini
Waze está desplegando novedades impulsadas por Gemini: avisar de carreteras cortadas con solo decirlo, buscar destinos mediante una conversación, además de un modo para motocicletas y una opción «menos habladora». Se despliegan globalmente en Android e iOS.
