Zuckerberg dice que la seguridad es una ventaja competitiva, no una razón para reducir la velocidad

La discusión sobre si los laboratorios de IA deberían reducir deliberadamente su velocidad tuvo su disidente más destacado el lunes. Mark Zuckerberg publicó que los laboratorios ya tienen tanto la responsabilidad como el incentivo de entrenar modelos de forma segura, y que “cualquier laboratorio que no se centre en la alineación se quedará atrás”. La alineación, en términos sencillos, es el trabajo de hacer que un modelo se comporte como pretendían sus creadores, y la afirmación de Zuckerberg es que un laboratorio que lo omite termina con un producto en el que la gente no confía, lo cual es castigo suficiente sin un pacto con la industria.

El momento es el punto. Durante el fin de semana anterior, Dario Amodei de Anthropic publicó un ensayo instando a los laboratorios fronterizos a acelerar la velocidad con la que impulsan su capacidad, y Sam Altman, Elon Musk y Demis Hassabis respaldaron ampliamente la idea, y Satya Nadella dijo que Microsoft da la bienvenida al “ritmo deliberado necesario para lograr la alineación correcta” y publicó un código de conducta junto con él. Zuckerberg tomó el camino opuesto, acercándose más a Jensen Huang de Nvidia, quien ha argumentado que la industria no necesita nuevas leyes. En particular, Zuckerberg no presentó a Meta como imprudente: dijo que la compañía retuvo a Muse durante varios meses para trabajar en seguridad. Simplemente se negó a pedirle a nadie que hiciera lo mismo. También repitió su argumento más antiguo de que la superinteligencia debería difundirse ampliamente en lugar de estar en manos de un puñado de instituciones, porque en su opinión la seguridad proviene de un equilibrio de poder y no de que un pequeño grupo sea cuidadoso.

¿Qué hay detrás de esto?

Es útil darse cuenta de dónde se encuentra cada empresa. Anthropic y OpenAI están en el frente o cerca de él, y una desaceleración coordinada asegura una ventaja al tiempo que reduce convenientemente las enormes facturas de computación, una lectura que Axios señaló y que muchas personas en línea han hecho con menos educación. Meta está atrasado en los modelos de frontera y ha estado gastando mucho para ponerse al día, por lo que un pacto para aliviar la situación es un pacto para congelarla. Nada de eso hace que nadie sea poco sincero. Lo que sí significa es que “todos deberíamos reducir el ritmo” y “todos deberíamos seguir adelante” se alinean perfectamente con la posición del orador, y vale la pena tenerlo en cuenta sea cual sea el argumento que le resulte más persuasivo.

Qué significa esto para ti: Nada cambia en las herramientas que utilizas esta semana. Lo que este debate decide, lentamente, es si la seguridad termina siendo algo que eligen las empresas o algo que exigen las reglas, y la honesta situación es que actualmente no es ninguna de las dos cosas: no hay acuerdo, no hay ley y hay un desacuerdo público entre las cuatro o cinco personas que podrían crear una. Si desea una lectura práctica sobre si la charla sobre seguridad de un laboratorio es real, observe lo que publica en lugar de lo que dice. Se pueden consultar tarjetas modelo, lanzamientos retrasados ​​y resultados de evaluación nombrados. Los ensayos no lo son.

Fuentes

• CNBC: Mark Zuckerberg, CEO de Meta, se pone del lado de Huang de Nvidia en el debate sobre la seguridad y la desaceleración de la IA
• Benzinga: Zuckerberg dice que Meta retrasó a Muse durante meses para centrarse en la seguridad de la IA y no pidió a otros que redujeran el ritmo
• The Tribune: Mark Zuckerberg pide un desarrollo responsable de la IA