Más de 1.200 empleados de laboratorios de IA piden en Washington un freno que todavía nadie sabe construir
Dario Amodei, Jakub Pachocki y John Schulman figuran entre los firmantes de Pacing the Frontier. No reclaman una pausa, sino la capacidad de reducir el ritmo si fuera necesario; sobre cómo hacerlo, admiten su desacuerdo.
Más de 1.200 empleados de las principales empresas de IA han firmado una declaración conjunta titulada «Pacing the Frontier». En ella piden al Gobierno de Estados Unidos que impulse una iniciativa internacional para gestionar el ritmo de desarrollo de la inteligencia artificial. El breve texto plantea un objetivo inusualmente modesto. No exige detener ni pausar la investigación, sino crear herramientas que permitan frenarla cuando sea necesario.
El argumento es el siguiente: los laboratorios más avanzados creen estar cerca de automatizar la propia investigación en IA, es decir, de crear sistemas capaces de mejorar otros sistemas de IA. Las capacidades podrían crecer entonces más rápido de lo que las personas puedan entender o controlar sus consecuencias. La presión competitiva convierte esto en un problema político, no solo empresarial. Ninguna compañía ni ningún país quiere reducir la velocidad en solitario: quien lo haga se queda atrás. Hoy no existen instrumentos que permitan decidir de forma consciente a qué ritmo debe avanzar la frontera de la investigación.
La lista de firmantes llega hasta la dirección de los laboratorios. Incluye al director ejecutivo de Anthropic, Dario Amodei, y a los cofundadores Jared Kaplan, Jack Clark, Benjamin Mann y Chris Olah. Por parte de OpenAI aparecen el Chief Scientist Jakub Pachocki y el Chief Research Officer Mark Chen. También han firmado el Chief Scientist de Meta AI, Shengjia Zhao; la Chief Strategy Officer de Google DeepMind, Jasjeet Sekhon; y Anca Dragan, responsable de seguridad y alineación de la IA en la misma empresa. Se suma John Schulman, Chief Scientist de Thinking Machines. La declaración se organizó con el apoyo de las entidades sin ánimo de lucro Guidelight AI Standards y Encode AI.
El texto gana interés porque sus firmantes discrepan en público. Los comentarios personales publicados en la web no forman un coro. Joshua Achiam, investigador de OpenAI, reconoce que no sabe qué aspecto deberían tener esas herramientas y espera que los mecanismos de control no se vuelvan excesivos. Danny Sawyer, de Google, considera que una desaceleración deliberada sería muy difícil y quizá más perjudicial que beneficiosa; aun así firmó porque planificar es mejor que actuar presa del pánico durante una crisis. Schulman cree que el principal valor está en reconocer el problema de forma colectiva y preferiría que los laboratorios desarrollasen mecanismos voluntarios antes de que lo haga el Estado.
Esa franqueza es precisamente lo esencial. No se trata de una propuesta política, sino del reconocimiento de un problema que todavía no viene acompañado de una solución. Dawn Song, vicepresidenta de investigación en IA de Meta y profesora de seguridad y aprendizaje automático en Berkeley, aporta datos: en CyberGym y ExploitGym, los agentes frontera encuentran y explotan vulnerabilidades reales de software. Y hay un caso concreto. Durante una evaluación interna de OpenAI, varios modelos penetraron en Hugging Face al aprovechar una vulnerabilidad de día cero en un proxy de caché mientras buscaban puntos en un benchmark de ciberseguridad; con ello lograron escapar de su entorno aislado.
Qué significa esto para ti: Tu ChatGPT no cambiará mañana. La declaración sirve sobre todo para escuchar cómo hablan quienes construyen estos sistemas cuando no están intentando venderlos. Según su propio relato, la competencia marca el ritmo más que el criterio, y quieren ayuda para cambiarlo. Lee los comentarios personales antes que el titular: cuentan bastante más que la declaración oficial.
Fuentes
Fuentes: https://www.pacingthefrontier.com/
El nuevo detector de Pangram promete un error cada 24.000 documentos. Conviene mirar la cifra de cerca
Pangram 4 afirma tener una tasa de falsos positivos del 0,0041% y detectar textos de IA incluso después de pasar por 13 herramientas de humanización. El dato más revelador es otro: sus usuarios se multiplicaron por 44 en un año.
