Il gruppo Sicurezza bambini valuta ChatGPT for Teens come rischio inaccettabile
Sense Media comune ha testato ChatGPT for Teens con oltre 4.000 suggerimenti e ha riscontrato che gli avvisi dei genitori non funzionavano e le risposte alle crisi mancavano. Vuole che il prodotto sia limitato agli adulti fino a quando non verrà risolto.
Youth AI Safety Institute di Common Sense Media ha classificato ChatGPT for Teens come “rischio inaccettabile” e afferma che OpenAI dovrebbe limitare ChatGPT agli utenti di età pari o superiore a 18 anni fino a quando le lacune non saranno risolte. Il rapporto è stato pubblicato il 7 ottobre. La risposta di OpenAI non è stata inclusa nel comunicato del gruppo.
Cosa hanno testato
I tester hanno utilizzato account registrati per ragazzi di età compresa tra 13 e 17 anni e hanno eseguito più di 4.000 richieste, prima e dopo l’annuncio del 18 agosto di OpenAI sulla protezione degli adolescenti. Psichiatri infantili e un pediatra hanno esaminato i risultati. Alcune misure di salvaguardia hanno funzionato, come il rifiuto del gioco di ruolo sessuale. Altri no.
La scoperta più grave riguarda gli avvisi ai genitori. I nuovi account collegati a un genitore non hanno ricevuto avvisi durante conversazioni fino a un’ora su pensieri suicidi, autolesionismo o disturbi alimentari. Gli avvisi venivano visualizzati solo su account più vecchi con settimane di cronologia sensibile. Il gruppo afferma inoltre che ChatGPT ha mancato più di un rinvio di crisi giustificato su quattro. Durante i compiti, la “modalità studio” poteva essere aggirata: un pulsante “mostrami la risposta” completava i compiti completi e un programma di studio impostato dai genitori poteva essere disattivato eliminando un prefisso. Gli account di prova registrati per adulti non sono mai stati spostati nell’esperienza sotto i 18 anni, anche quando il tester ha affermato che ne avevano 13. Nelle parole dell’Istituto, il prodotto “potrebbe dare ai genitori una falsa fiducia in guardrails e avvisi di sicurezza che spesso non funzionano”.
Cosa c’è dietro tutto questo?
Le funzionalità di sicurezza degli adolescenti si basano sul fatto che il sistema sappia chi è un adolescente e si accorga quando una conversazione diventa rischiosa. Entrambi sono difficili. La stima dell’età solo tramite chat è imprecisa e rilevare il disagio in una conversazione lunga e casuale è più difficile che bloccare una singola richiesta errata. Un giusto avvertimento: questo è il test di un’organizzazione, e l’Istituto rivela che è finanziato in parte dalla filantropia e dall’industria, incluso lo OpenAI Foundation, pur affermando che mantiene l’indipendenza editoriale. OpenAI può contestare i metodi.
Cosa significa per te: Se sei un genitore, i consigli pratici contenuti nel rapporto sono sensati qualunque sia il verdetto finale: parla con i tuoi figli di cos’è il chatbot (un programma, non un amico), non fare affidamento solo sugli avvisi integrati e supporta i compiti senza lo strumento in modo che le competenze non svaniscano. Se sei un utente adulto, per te non cambia nulla. Se lavori su prodotti per giovani, questo è un elenco chiaro di ciò che i revisori testeranno successivamente: rilevamento dell’età, avvisi affidabili per i genitori, gestione delle crisi e limiti onesti ai “sentimenti”. Anche gli argomenti delicati meritano persone vere, quindi se un giovane nella tua vita sembra essere in difficoltà, un adulto o un professionista di fiducia è il primo passo giusto.
Fonti
Google fornisce a Gemini un'identità lavorativa e un indirizzo email
Google ha lanciato un agente Gemini universale per i clienti aziendali in anteprima privata, incluso un "agente collaboratore" con il proprio indirizzo e-mail che può svolgere attività su Workspace, Slack e Microsoft 365.
