Doble uso
Conocimiento o capacidad que sirve igual de bien al trabajo beneficioso y al dañino, de modo que una herramienta no puede bloquear solo la mitad mala.
Doble uso describe algo cuyas aplicaciones buenas y malas son la misma cosa vista desde ángulos distintos. El ejemplo clásico es la biología: desarrollar una vacuna viva implica cultivar el patógeno que se quiere evitar, y el captopril, un fármaco para la tensión, salió de aislar la parte tóxica del veneno de serpiente. La química, la ciberseguridad y la genética comparten esa propiedad.
Para las empresas de IA es el problema de seguridad más difícil que existe, porque no se puede filtrar por tema, solo por intención, y la intención es invisible. Un investigador y un delincuente pueden formular preguntas palabra por palabra idénticas. Por eso los modelos suelen bloquearse en áreas enteras en lugar de en peticiones concretas, y por eso el bloqueo casi siempre empieza siendo demasiado amplio y se afina después.