OpenAI quiere detectar el uso indebido sin ver sus datos

OpenAI ha presentado un avance de un sistema de seguridad construido en torno a una incómoda contradicción: ¿cómo se puede detectar a alguien haciendo mal uso de un modelo si se le ha prometido no almacenar nunca lo que escribió? La empresa lo llama Procesamiento de seguridad privada y está dirigido a empresas y clientes de API que utilizan Retención de datos cero, la configuración en la que no se guarda nada una vez que se ha respondido a una solicitud.

El truco está en lo que mantiene OpenAI. En lugar de indicaciones y respuestas, el sistema transmite una estrecha señal de seguridad: qué tipo de actividad vio y qué tan grave parecía. El personal de OpenAI nunca recibe el texto subyacente. Los datos del cliente permanecen en la propia infraestructura del cliente o permanecen cifrados y el cliente posee las claves. Aleah Houze, jefa de política de productos de OpenAI, dijo que el motivo del diseño es el tiempo, porque algunos riesgos sólo se vuelven visibles a través de varias conversaciones relacionadas en lugar de dentro de una sola. Se espera un lanzamiento y un documento técnico en septiembre.

Aquí hay una ventaja competitiva que OpenAI no oculta. Actualmente, Anthropic exige 30 días de retención de datos para los clientes empresariales que utilizan sus modelos más capaces, incluido Fable 5, y para bancos, hospitales, bufetes de abogados y cualquier persona que trabaje bajo estrictas normas de datos europeas y que sea un verdadero bloqueador. OpenAI apunta directamente a la brecha. La razón más profunda por la que existe el problema es que la IA está pasando de preguntas únicas a agentes, modelos que ejecutan largas cadenas de pasos por sí solos. Alguien puede hacer veinte preguntas individualmente inofensivas que suman algo dañino, y un control de seguridad que solo ve un mensaje no se dará cuenta. Vale la pena mantener las expectativas firmes: esta es una vista previa, el documento técnico no está publicado y “solo vemos una señal de seguridad” es una afirmación que nadie fuera de OpenAI puede verificar actualmente.

Qué significa esto para ti: si usas ChatGPT en un plan personal o Plus, nada cambia hoy. Esta es una característica empresarial y API, no de consumo. Si trabaja en un lugar que ha descartado las herramientas de inteligencia artificial por motivos de protección de datos, vale la pena reenviarlo a quien haga esa llamada, con la honesta advertencia de que aún no se ha enviado. Y si elige un proveedor para un proyecto de trabajo, las reglas de retención se han convertido silenciosamente en un verdadero punto de diferencia en lugar de una nota a pie de página. Lea la letra pequeña en ambos lados antes de comprometerse.

Fuentes

• Ofrece retención de datos cero para modelos de frontera, OpenAI
• OpenAI crea un sistema de seguridad que detecta el uso indebido sin almacenar datos del cliente, The Decoder
• OpenAI persigue a los clientes comerciales de Anthropic con un compromiso de retención de datos cero, The Register
• OpenAI presenta una vista previa del sistema de seguridad de retención cero ya que Anthropic requiere registros de datos, Axios