OpenAI entrenará sus modelos con las sesiones de seguridad de Daybreak Blue a partir del 29 de noviembre
OpenAI les dijo a los miembros de Trusted Access que los datos de la sesión de Daybreak Blue, previamente excluidos del entrenamiento, se utilizarán a partir del 29 de noviembre, y luego prometió una exclusión voluntaria por separado después de la reacción violenta.
OpenAI planea comenzar a entrenar sus modelos con datos de las sesiones de Daybreak Blue el 29 de noviembre. Daybreak Blue es una oferta de ciberseguridad para miembros del programa Trusted Access de OpenAI, un nivel examinado para profesionales de la seguridad. Hasta ahora, estos datos estaban prohibidos para el entrenamiento, incluso cuando un usuario había desactivado la configuración “mejorar el modelo para todos”.
Los miembros se enteraron del cambio a través de un correo electrónico, según The Decoder y una publicación compartida en LinkedIn. Después de la reacción violenta, un segundo correo electrónico prometía una opción de exclusión voluntaria para este uso en particular. No se ha explicado cómo funciona esa exclusión voluntaria y cuándo llega. Las interacciones marcadas durante las revisiones de seguridad aún se pueden utilizar con fines de seguridad, lo cual es una práctica estándar entre los proveedores de IA.
¿Por qué esto molestaría a la gente? Las sesiones de seguridad pueden contener material confidencial: detalles de los sistemas de una empresa, vulnerabilidades sospechosas o código bajo revisión. Los profesionales a menudo trabajan bajo acuerdos de confidencialidad, por lo que “sus datos ahora pueden ayudar a entrenar un modelo” es diferente para ellos que para alguien que pide una receta. The Decoder también vincula la historia a una disputa reciente en la que dos matemáticos, Tristan Buckmaster y Levent Alpöge, subieron borradores de prueba inacabados del Navier-Stokes al Codex de OpenAI. Posteriormente, OpenAI presentó sus propias pruebas y negó haber recibido capacitación sobre sus aportaciones. Los investigadores dicen que la nueva política revive la misma cuestión de confianza.
Qué hay detrás de esto: Los datos de entrenamiento son el combustible de los modelos de IA y las conversaciones con expertos son un combustible valioso. Las empresas suelen ofrecer un cambio, y la pregunta justa es si el cambio significa lo que dice. Cuando se elimina una exclusión con la que los usuarios contaban para un producto, la confianza se ve afectada incluso si a continuación se opta por no participar. También vale la pena ser precisos sobre lo que sabemos: los detalles provienen de un correo electrónico reenviado por los destinatarios, no de una página de política pública OpenAI, por lo que la redacción final puede diferir.
Qué significa esto para usted: Si es miembro de Trusted Access, verifique la configuración de su cuenta y el correo electrónico de seguimiento para darse de baja antes del 29 de noviembre, y evite pegar material del cliente en cualquier sesión hasta que sepa dónde termina. Si es un usuario normal de ChatGPT, este cambio no se aplica a usted directamente, pero es un buen momento para observar sus propios controles de datos y hacer una pregunta simple sobre cada herramienta de inteligencia artificial en funcionamiento: ¿lo que escribo se usa para entrenamiento y puedo desactivarlo por escrito?
Fuentes
Anthropic amplía su programa AI for Science a 20 fundaciones e instituciones de investigación
El programa gratuito de créditos Claude para investigadores de Anthropic suma 20 socios nombrados, desde la Fundación Sloan hasta Francis Crick Institute, aunque la mayor parte del trabajo aún se encuentra en una etapa inicial.
