Redwood Research
Un laboratorio de seguridad de IA sin fines de lucro centrado en el control, es decir, formas de mantenerse seguro incluso si un modelo está desalineado.
Redwood Research es una pequeña organización sin fines de lucro que trabaja en la alineación de la IA y, en particular, en lo que el campo llama control: la cuestión de cómo evitar que un modelo poderoso cause daño incluso si lo está intentando activamente, en lugar de asumir que, en primer lugar, puedes hacer que quiera las cosas correctas.
Aparece en la cobertura de noticias principalmente como crítico externo. Junto con METR, fue contratado para investigar de forma independiente la desalineación detrás del incidente Hugging Face de julio de 2026 de OpenAI. Ese rol, un grupo externo que revisa las tareas de un laboratorio, es una de las pocas formas de responsabilidad que tiene la industria actualmente.