← Glosario Empresa
METR
Un grupo independiente que examina modelos avanzados de IA en busca de capacidades peligrosas.
METR, Model Evaluation and Threat Research, es una organización sin ánimo de lucro que evalúa cuidadosamente los modelos más avanzados, sobre todo cuando sus capacidades podrían entrañar riesgos como ataques informáticos autónomos o auto-mejora.
Su trabajo importa porque no basta con que los laboratorios corrijan sus propios exámenes. Las pruebas independientes de METR ayudan a detectar problemas antes de que un modelo potente se publique de forma general.
Mencionado en
-
We Are Building an Invention Meant to Outgrow Its Inventors
-
The Most Valuable AI Skill Is Not Prompting. It Is Verification.
-
Los agentes de IA crearon software de investigación 60 veces más rápido y se equivocaron en formas que nadie detectó durante semanas
-
Hay diez millones de dólares para investigar qué ocurre cuando los agentes de IA se encuentran; el plazo termina el sábado
-
METR propone otra forma de preguntar si un agente de IA es realmente más barato que una persona