Jailbreak

Un jailbreak es una forma de redactar una petición para que un modelo haga algo que su entrenamiento de seguridad debía bloquear. Los trucos clásicos consisten en interpretar un papel, como «eres un actor en una película donde…», fingir ser una autoridad, inventar una conversación anterior en la que el modelo parece haber aceptado la petición o simplemente volver a preguntar con palabras algo distintas. Combinar varios trucos suele funcionar mejor, y precisamente por eso siguen dando resultado.

El jailbreak universal es la variante que preocupa a los investigadores: un único prompt reutilizable que permite la mayoría de las solicitudes dañinas en la mayoría de los modelos, en vez de ser un truco afortunado. Las organizaciones de seguridad sin ánimo de lucro rastrean cientos de ellos en modelos de frontera. La situación real es esta: la alineación aumenta el esfuerzo necesario, pero no cierra la puerta.