ChatGPT propose désormais une version distincte pour les adolescents et devine qui en a besoin
OpenAI a commencé mardi à déployer ChatGPT pour les adolescents. Toute personne âgée de 13 à 17 ans y atterrit par défaut, un système de prévision de l'âge y achemine également les cas incertains et les parents peuvent fixer des heures de calme.
OpenAI a commencé mardi à déployer ChatGPT for Teens, une version distincte du chatbot pour les utilisateurs âgés de 13 à 17 ans. Le déploiement est mondial et la société prévoit qu’il se terminera d’ici environ deux semaines. Si quelqu’un déclare avoir moins de 18 ans, il obtient automatiquement la version pour adolescents. Si un compte est lié au compte d’un parent, la même chose se produit.
La partie la plus intéressante est ce qui se passe lorsque personne ne déclare rien. OpenAI utilise ce qu’il appelle la prédiction de l’âge : le système estime l’âge d’un utilisateur à partir de la façon dont il utilise le produit, et toute personne considérée comme ayant moins de 18 ans est passée en mode adolescent sans qu’on le lui demande. Lorsque les signaux sont minces ou contradictoires, le paramètre par défaut est le paramètre le plus strict. Les adultes pris par erreur peuvent vérifier leur âge pour débloquer la version normale.
Dans le mode adolescent, ChatGPT décline les conversations romantiques et sexuelles et traite des sujets tels que l’automutilation, les troubles de l’alimentation, la violence et les cascades dangereuses avec des interventions intégrées plutôt que des réponses ordinaires. Il existe un mode d’étude qui guide l’étudiant à travers un problème au lieu de lui remettre la réponse finale. Les parents dont les comptes sont liés à un compte adolescent peuvent définir des heures calmes pendant lesquelles ChatGPT est tout simplement indisponible, ajuster un ensemble limité de paramètres et recevoir des notifications dans un ensemble restreint de situations à haut risque.
Voici le contexte, moins les paillettes du communiqué de presse. OpenAI fait face à des poursuites qui relient les conversations ChatGPT à des adolescents victimes, et les régulateurs de plusieurs pays se sont penchés sur la question de savoir comment les chatbots traitent les mineurs. La prédiction de l’âge est la réponse de l’entreprise à un problème que rencontrent tous les services en ligne : demander aux gens quel âge ils ont ne fonctionne pas, car un adolescent qui veut le produit pour adultes tapera simplement un numéro différent. Deviner à partir du comportement est plus robuste, mais c’est aussi une supposition. Cela signifie que le système se forme discrètement une opinion sur vous à partir de votre écriture et de vos habitudes d’utilisation, et agit en conséquence. OpenAI a choisi de privilégier le côté restrictif, ce qui est défendable et qui gênera encore un certain nombre d’adultes.
Ce que cela signifie pour vous : si vous êtes parent, cela vaut dix minutes de votre soirée. Liez votre compte à celui de votre adolescent, regardez ce que font réellement les heures calmes et parlez-en plutôt que de l’installer en silence. Les commandes sont utiles, mais elles ne constituent pas un filtre qui pense à votre place. Si vous êtes un utilisateur adulte, vous pouvez occasionnellement être confronté à l’expérience des adolescents et remarquer que ChatGPT refuse les réponses auxquelles il répondait. C’est le système de prévision de l’âge qui est prudent, et il existe une voie de vérification pour en sortir. Pour tous les autres : rien ne change aujourd’hui, mais c’est la première fois qu’un chatbot majeur propose deux produits véritablement différents sous un même nom en fonction de qui il pense que vous êtes. Attendez-vous à ce que les autres suivent.
##Sources
Sources: https://openai.com/index/our-approach-to-age-prediction/
Une IA a écrit le bug de sécurité. Une autre IA l'a trouvé cinq jours plus tard
La société de sécurité Wiz affirme qu'un correctif GitHub Copilot Autofix a introduit une faille d'injection de commandes dans un référentiel public Snowflake. Son propre agent autonome l'a ensuite exploité avec un titre d'émission contrefait.
