ChatGPT ahora tiene una versión separada para adolescentes y adivina quién la necesita
OpenAI comenzó a implementar ChatGPT para adolescentes el martes. Cualquier persona entre 13 y 17 años accede a él de forma predeterminada, un sistema de predicción de edad también envía casos inciertos y los padres pueden establecer horas de tranquilidad.
OpenAI comenzó a implementar ChatGPT para adolescentes el martes, una versión separada del chatbot para usuarios de 13 a 17 años. El lanzamiento es global y la compañía espera que finalice en aproximadamente dos semanas. Si alguien declara que es menor de 18 años, obtiene la versión para adolescentes automáticamente. Si una cuenta está vinculada a la cuenta de un padre, sucede lo mismo.
La parte más interesante es lo que sucede cuando nadie declara nada. OpenAI está utilizando lo que llama predicción de edad: el sistema estima la edad de un usuario a partir de cómo usa el producto, y cualquiera que lea como menor de 18 años pasa al modo adolescente sin que se lo pregunten. Cuando las señales son débiles o contradictorias, se utiliza de forma predeterminada la configuración más estricta. Los adultos sorprendidos por error pueden verificar su edad para desbloquear la versión normal.
Dentro del modo adolescente, ChatGPT rechaza conversaciones románticas y sexuales y maneja temas como autolesiones, trastornos alimentarios, violencia y acrobacias peligrosas con intervenciones integradas en lugar de respuestas ordinarias. Hay un modo de estudio que guía al estudiante a través de un problema en lugar de entregarle la respuesta terminada. Los padres cuyas cuentas están vinculadas a una cuenta de adolescente pueden establecer horas de silencio, durante las cuales ChatGPT simplemente no está disponible, ajustar un conjunto limitado de configuraciones y recibir notificaciones en un conjunto limitado de situaciones de alto riesgo.
Aquí está el fondo, menos el brillo del comunicado de prensa. OpenAI se enfrenta a demandas que conectan las conversaciones de ChatGPT con adolescentes que sufrieron daños, y los reguladores de varios países han estado dando vueltas a la cuestión de cómo los chatbots tratan a los menores. La predicción de la edad es la respuesta de la empresa a un problema que tiene todo servicio online: preguntar a la gente cuántos años tiene no funciona, porque un adolescente que quiera el producto para adultos simplemente escribirá un número diferente. Adivinar a partir del comportamiento es más sólido, pero también es una suposición. Significa que el sistema se forma silenciosamente una opinión sobre usted a partir de su escritura y sus patrones de uso, y actúa en consecuencia. OpenAI ha optado por pecar hacia el lado restrictivo, lo cual es defendible y seguirá molestando a un cierto número de adultos.
Qué significa esto para ti: si eres padre, esto vale diez minutos de tu velada. Vincula tu cuenta a la de tu adolescente, observa lo que realmente hacen las horas de silencio y habla sobre ello en lugar de instalarlo en silencio. Los controles son útiles, pero no son un filtro que piensa por ti. Si eres un usuario adulto, es posible que ocasionalmente te encuentres con la experiencia de adolescente y notes que ChatGPT rechaza las cosas que solía responder. Se trata de que el sistema de predicción de edad sea cauteloso y existe un camino de verificación para salir de él. Para todos los demás: nada cambia hoy, pero esta es la primera vez que un chatbot importante envía dos productos genuinamente diferentes bajo un mismo nombre en función de quién cree que eres. Espere que los demás lo sigan.
Fuentes
Fuentes: https://openai.com/index/our-approach-to-age-prediction/
Una IA escribió el error de seguridad. Otra IA lo encontró cinco días después
La firma de seguridad Wiz dice que un parche GitHub Copilot Autofix introdujo un agujero de inyección de comandos en un repositorio público de Snowflake. Luego, su propio agente autónomo lo explotó con un título de emisión elaborado.
