Massachusetts quiere auditorías independientes de los modelos Frontier cada cuatro meses y los laboratorios no están de acuerdo al respecto

Un proyecto de ley que avanza en el Senado de Massachusetts requeriría que los grandes desarrolladores de IA contrataran evaluadores independientes para evaluar sus modelos en busca de riesgos catastróficos cada cuatro meses. Lo inusual no es la regla. Es que la industria se ha dividido públicamente al respecto: Anthropic está a favor, OpenAI y Google están en contra.

El lenguaje de la IA se encuentra dentro de un proyecto de ley de desarrollo económico más amplio. El jefe de relaciones con los gobiernos estatales y locales de EE. UU. de Anthropic, César Fernández, escribió cuando el Senado aprobó su versión que “eleva el nivel de seguridad de la IA al tiempo que garantiza que la innovación pueda continuar”. Las organizaciones de seguridad, incluidas Encode y Secure AI Project, han enviado cartas de apoyo al comité de la conferencia.

OpenAI escribió a los legisladores el mes pasado defendiendo algo más parecido a un proyecto de ley de Illinois, que solicita auditorías de seguridad anuales de terceros en lugar de tres por año. Su objeción tiene menos que ver con la auditoría en sí y más con la aritmética: si cada estado escribe su propia versión, los desarrolladores enfrentan lo que OpenAI llamó “supervisión fragmentada” y un “resultado infeliz”.

¿Qué hay detrás de esto?

Una evaluación independiente aquí significa que una organización externa, no el propio equipo de seguridad del laboratorio, prueba un modelo para las capacidades del peor de los casos: ayudar a construir armas, ejecutar ataques cibernéticos a gran escala, esa categoría. Hacerlo cada cuatro meses en lugar de anualmente es importante porque los modelos fronterizos ahora se envían más rápido que eso. Una auditoría anual puede pasar por alto dos generaciones de modelos.

Los estados se están moviendo porque Washington no. El Congreso rechazó una propuesta de moratoria de diez años sobre las leyes estatales de IA en 2025, y también fracasó un intento posterior de incorporar un lenguaje de preferencia a la legislación de defensa. Rhode Island promulgó salvaguardias para los chatbots en junio, California está trabajando en auditorías y privacidad, y Utah y Carolina del Sur han vuelto a ocuparse de la seguridad de los niños en línea. Massachusetts sería el más estricto de todos.

También ayuda a notar el ángulo comercial. Anthropic ha construido su posición en el mercado basándose en ser el laboratorio que apuesta por la seguridad, por lo que las reglas que hacen obligatoria la evaluación por parte de terceros aumentan un costo que sus competidores no han estado pagando y, en gran medida, él sí lo ha hecho. Esto no significa que su posición sea poco sincera. Lo que sí significa es que la división no es puramente un desacuerdo sobre ética.

Qué significa esto para ti: No notarás nada este mes. Pero las reglas estatales son donde realmente se está regulando la IA en los EE. UU., y la cadencia elegida por Massachusetts probablemente será copiada. Para cualquiera que se base en estos modelos, un ciclo de auditoría de cuatro meses significa que la documentación de seguridad en la que confía se actualiza con más frecuencia, lo cual es realmente útil. Para todos los demás, vale la pena verlo como el primer caso en el que los grandes laboratorios presionan abiertamente entre sí por las normas de seguridad.

Fuentes

• PYMNTS: Anthropic rompe con sus pares en el proyecto de ley de seguridad de la IA de Massachusetts
• The Information: Anthropic se separa de Google y OpenAI por el proyecto de ley estatal de seguridad de la IA
• Insurance Journal: OpenAI advierte sobre la confusión mientras Massachusetts prepara medidas enérgicas