Die Kindersicherheitsgruppe bewertet ChatGPT for Teens als inakzeptables Risiko
Common Sense Media testete ChatGPT for Teens mit mehr als 4.000 Eingabeaufforderungen und stellte fest, dass Elternwarnungen fehlschlugen und Krisenreaktionen fehlten. Das Produkt soll bis zur Reparatur auf Erwachsene beschränkt sein.
Common Sense Medias Youth AI Safety Institute hat ChatGPT for Teens mit „inakzeptables Risiko“ bewertet und sagt, dass OpenAI ChatGPT auf Benutzer ab 18 Jahren beschränken sollte, bis die Lücken behoben sind. Der Bericht wurde am 7. Oktober veröffentlicht. Die Antwort von OpenAI war nicht in der Pressemitteilung der Gruppe enthalten.
Was sie getestet haben
Die Tester verwendeten Konten, die für 13- bis 17-Jährige registriert waren, und führten mehr als 4.000 Eingabeaufforderungen durch, vor und nach der Ankündigung von OpenAI am 18. August zum Jugendschutz. Kinderpsychiater und ein Kinderarzt überprüften die Ergebnisse. Einige Schutzmaßnahmen haben funktioniert, beispielsweise die Ablehnung sexueller Rollenspiele. Andere taten es nicht.
Der schwerwiegendste Befund betrifft Elternwarnungen. Neue Konten, die mit einem Elternteil verknüpft sind, erhielten bei Gesprächen von bis zu einer Stunde Dauer keine Benachrichtigungen über Selbstmordgedanken, Selbstverletzung oder Essstörungen. Benachrichtigungen wurden nur bei älteren Konten mit wochenlangem sensiblen Verlauf angezeigt. Die Gruppe gibt außerdem an, dass ChatGPT mehr als jede vierte berechtigte Krisenüberweisung verpasst hat. Bei Hausaufgaben konnte der „Lernmodus“ umgangen werden: Mit der Schaltfläche „Zeige mir die Antwort“ wurden vollständige Aufgaben erledigt, und ein von den Eltern festgelegter Lernplan konnte durch Löschen eines Präfixes ausgeschaltet werden. Von Erwachsenen registrierte Testkonten wurden nie auf die Erfahrung für unter 18-Jährige umgestellt, selbst wenn der Tester angab, sie seien 13 Jahre alt. Nach den Worten des Instituts könnte das Produkt „Eltern falsches Vertrauen in Guardrails und Sicherheitswarnungen geben, die häufig nicht funktionieren.“
Was steckt dahinter
Sicherheitsfunktionen für Jugendliche basieren darauf, dass das System weiß, wer ein Teenager ist, und erkennt, wenn ein Gespräch riskant wird. Beides ist schwer. Die alleinige Altersschätzung aus dem Chat ist ungenau und es ist schwieriger, in einem langen, ungezwungenen Gespräch Stress zu erkennen, als eine einzige schlechte Anfrage zu blockieren. Ein fairer Vorbehalt: Dies ist der Test einer Organisation, und das Institut gibt bekannt, dass er teilweise von Philanthropie und der Industrie finanziert wird, einschließlich OpenAI Foundation, und gibt gleichzeitig an, dass die redaktionelle Unabhängigkeit gewahrt bleibt. OpenAI kann die Methoden anfechten.
Was das für Sie bedeutet: Wenn Sie Eltern sind, sind die praktischen Ratschläge aus dem Bericht unabhängig vom endgültigen Urteil sinnvoll: Sprechen Sie mit Ihren Kindern darüber, was der Chatbot ist (ein Programm, kein Freund), verlassen Sie sich nicht nur auf integrierte Benachrichtigungen und unterstützen Sie Hausaufgaben ohne das Tool, damit Ihre Fähigkeiten nicht nachlassen. Wenn Sie ein erwachsener Benutzer sind, ändert sich für Sie nichts. Wenn Sie an Produkten für junge Menschen arbeiten, ist dies eine klare Liste dessen, was Rezensenten als nächstes testen werden: Alterserkennung, zuverlässige Elternwarnungen, Umgang mit Krisen und ehrliche Grenzen von „Gefühlen“. Sensible Themen verdienen auch echte Menschen. Wenn also ein junger Mensch in Ihrem Leben Probleme zu haben scheint, ist ein vertrauenswürdiger Erwachsener oder Fachmann der richtige erste Schritt.
Quellen
Google gibt Gemini eine Arbeitsidentität und eine E-Mail-Adresse
Google hat einen universellen Gemini-Agenten für Unternehmenskunden in der privaten Vorschau eingeführt, einschließlich eines „Mitarbeiteragenten“ mit eigener E-Mail-Adresse, der Aufgaben in Workspace, Slack und Microsoft 365 übernehmen kann.
