← Glosario Modelo
GPT-Red
Un modelo interno de OpenAI creado para atacar sus propios sistemas y encontrar fallos de seguridad.
OpenAI entrenó GPT-Red específicamente para buscar debilidades en sus otros sistemas. Actúa como un atacante automatizado, de manera que los problemas puedan localizarse y corregirse antes de que los descubran adversarios reales. Según diversas informaciones, encuentra más fallos que los expertos humanos.
Es un ejemplo llamativo de IA utilizada contra sí misma con fines defensivos y demuestra por qué la seguridad gana importancia cuando los modelos empiezan a actuar en nombre de las personas.
Mencionado en