ChatGPT ora ha una versione separata per gli adolescenti e indovina chi ne ha bisogno
OpenAI ha iniziato a lanciare ChatGPT for Teens martedì. Chiunque di età compresa tra 13 e 17 vi arriva per impostazione predefinita, un sistema di previsione dell'età indirizza anche lì i casi incerti e i genitori possono impostare ore di silenzio.
OpenAI ha iniziato martedì a lanciare ChatGPT for Teens, una versione separata del chatbot per utenti di età compresa tra 13 e 17 anni. Il lancio è globale e la società prevede che venga completato entro circa due settimane. Se qualcuno dichiara di avere meno di 18 anni, riceve automaticamente la versione per adolescenti. Se un account è collegato all’account di un genitore, accade la stessa cosa.
La parte più interessante è cosa succede quando nessuno dichiara nulla. OpenAI utilizza quella che chiama previsione dell’età: il sistema stima l’età di un utente in base al modo in cui utilizza il prodotto e chiunque abbia meno di 18 anni viene spostato nella modalità adolescente senza che gli venga chiesto. Quando i segnali sono deboli o contraddittori, per impostazione predefinita viene utilizzata l’impostazione più rigorosa. Gli adulti colti per errore possono verificare la propria età per sbloccare la versione normale.
Nella modalità adolescenti, ChatGPT rifiuta conversazioni romantiche e sessuali e tratta argomenti come autolesionismo, disturbi alimentari, violenza e acrobazie pericolose con interventi integrati anziché risposte ordinarie. Esiste una modalità di studio che guida lo studente attraverso un problema invece di consegnare la risposta finita. I genitori i cui account sono collegati a un account per adolescenti possono impostare ore tranquille, durante le quali ChatGPT è semplicemente non disponibile, modificare una serie limitata di impostazioni e ricevere notifiche in una serie ristretta di situazioni ad alto rischio.
Ecco lo sfondo, senza i brillantini del comunicato stampa. OpenAI sta affrontando azioni legali che collegano le conversazioni ChatGPT ad adolescenti che hanno subito danni e le autorità di regolamentazione di diversi paesi hanno discusso la questione di come i chatbot trattano i minori. La previsione dell’età è la risposta dell’azienda a un problema che ogni servizio online ha: chiedere alle persone quanti anni hanno non funziona, perché un adolescente che desidera il prodotto per adulti dovrà semplicemente digitare un numero diverso. Indovinare dal comportamento è più robusto, ma è anche un’ipotesi. Significa che il sistema si sta formando silenziosamente un’opinione su di te in base a ciò che scrivi e ai tuoi modelli di utilizzo, e agisce di conseguenza. OpenAI ha scelto di sbagliare verso il lato restrittivo, che è difendibile e continuerà a infastidire un certo numero di adulti.
Cosa significa per te: se sei un genitore, questo vale dieci minuti della tua serata. Collega il tuo account a quello di tuo figlio, guarda cosa fanno effettivamente le ore tranquille e parlane invece di installarlo in silenzio. I controlli sono utili, ma non sono un filtro che pensa per te. Se sei un utente adulto, potresti occasionalmente imbatterti nell’esperienza per adolescenti e notare che ChatGPT rifiuta le cose a cui prima rispondeva. Questo significa che il sistema di previsione dell’età è cauto e c’è un percorso di verifica per uscirne. Per tutti gli altri: oggi non cambia nulla, ma questa è la prima volta che un importante chatbot spedisce due prodotti veramente diversi sotto lo stesso nome in base a chi pensa che tu sia. Aspettatevi che gli altri seguano.
Fonti
Fonti: https://openai.com/index/our-approach-to-age-prediction/
Un'intelligenza artificiale ha scritto il bug di sicurezza. Un'altra IA l'ha trovata cinque giorni dopo
La società di sicurezza Wiz afferma che una patch GitHub Copilot Autofix ha introdotto un buco nell'iniezione di comandi in un repository Snowflake pubblico. Il suo agente autonomo lo ha poi sfruttato con un titolo di emissione creato ad hoc.
