El grupo de seguridad infantil califica a ChatGPT for Teens como riesgo inaceptable
Common Sense Media probó el ChatGPT for Teens con más de 4000 mensajes y encontró que las alertas de los padres fallaban y faltaban respuestas a las crisis. Quiere que el producto se limite a adultos hasta que se arregle.
Youth AI Safety Institute de Common Sense Media calificó a ChatGPT for Teens como “riesgo inaceptable” y dice que OpenAI debería restringir ChatGPT a usuarios mayores de 18 años hasta que se solucionen las brechas. El informe fue publicado el 7 de octubre. La respuesta de OpenAI no se incluyó en el comunicado del grupo.
Lo que probaron
Los evaluadores utilizaron cuentas registradas para jóvenes de 13 a 17 años y ejecutaron más de 4.000 mensajes, antes y después del anuncio de OpenAI el 18 de agosto sobre sus protecciones para adolescentes. Psiquiatras infantiles y un pediatra revisaron los resultados. Algunas salvaguardias funcionaron, como rechazar los juegos de roles sexuales. Otros no lo hicieron.
El hallazgo más grave se refiere a las alertas a los padres. Las cuentas nuevas vinculadas a un padre no recibieron alertas durante conversaciones de hasta una hora sobre pensamientos suicidas, autolesiones o trastornos alimentarios. Las alertas aparecieron sólo en cuentas más antiguas con semanas de historial confidencial. El grupo también dice que ChatGPT pasó por alto más de una de cada cuatro referencias de crisis justificadas. En las tareas, se podía omitir el “modo de estudio”: un botón “muéstrame la respuesta” completaba las tareas completas, y se podía desactivar un horario de estudio establecido por los padres eliminando un prefijo. Las cuentas de prueba registradas para adultos nunca se trasladaron a la experiencia para menores de 18 años, incluso cuando el evaluador dijo que tenían 13 años. En palabras del Instituto, el producto “podría dar a los padres una falsa confianza en guardrails y alertas de seguridad que frecuentemente no funcionan”.
¿Qué hay detrás de esto?
Las funciones de seguridad para adolescentes dependen de que el sistema sepa quién es un adolescente y se dé cuenta cuando una conversación se vuelve riesgosa. Ambos son difíciles. La estimación de la edad a partir del chat únicamente es imprecisa, y detectar angustia en una conversación larga e informal es más difícil que bloquear una sola solicitud incorrecta. Una advertencia justa: esta es la prueba de una organización, y el Instituto revela que está financiado en parte por la filantropía y la industria, incluido OpenAI Foundation, al tiempo que dice que mantiene la independencia editorial. OpenAI puede disputar los métodos.
Qué significa esto para usted: Si es padre, los consejos prácticos del informe son sensatos sea cual sea el veredicto final: hable con sus hijos sobre qué es el chatbot (un programa, no un amigo), no confíe únicamente en las alertas integradas y apoye las tareas sin la herramienta para que las habilidades no se desvanezcan. Si eres un usuario adulto, nada cambia para ti. Si trabaja en productos para jóvenes, esta es una lista clara de lo que los revisores probarán a continuación: detección de edad, alertas confiables para padres, manejo de crisis y límites honestos a los “sentimientos”. Los temas delicados también merecen personas reales, por lo que si un joven en su vida parece tener dificultades, un adulto o profesional de confianza es el primer paso correcto.
Fuentes
Google le da a Gemini una identidad laboral y una dirección de correo electrónico
Google lanzó un agente universal Gemini para clientes empresariales en versión preliminar privada, incluido un 'agente compañero de trabajo' con su propia dirección de correo electrónico que puede asumir tareas en Workspace, Slack y Microsoft 365.
