ChatGPT hat jetzt eine separate Version für Teenager und errät, wer sie braucht
OpenAI hat am Dienstag mit der Einführung von ChatGPT für Teenager begonnen. Standardmäßig landet jeder im Alter von 13 bis 17 Jahren darin, ein Altersvorhersagesystem leitet auch unsichere Fälle dorthin und Eltern können Ruhezeiten festlegen.
OpenAI hat am Dienstag mit der Einführung von ChatGPT for Teens begonnen, einer separaten Version des Chatbots für Benutzer im Alter von 13 bis 17 Jahren. Die Einführung erfolgt weltweit und das Unternehmen geht davon aus, dass sie in etwa zwei Wochen abgeschlossen sein wird. Wenn jemand angibt, unter 18 zu sein, erhält er automatisch die Jugendversion. Wenn ein Konto mit dem Konto eines Elternteils verknüpft ist, passiert dasselbe.
Der interessantere Teil ist, was passiert, wenn niemand etwas erklärt. OpenAI nutzt die so genannte Altersvorhersage: Das System schätzt das Alter eines Benutzers anhand der Art und Weise, wie er das Produkt verwendet, und jeder, der als unter 18 eingestuft wird, wird ungefragt in den Teenagermodus versetzt. Wenn die Signale dünn oder widersprüchlich sind, wird standardmäßig die strengere Einstellung verwendet. Erwachsene, die versehentlich erwischt wurden, können ihr Alter überprüfen, um die normale Version freizuschalten.
Im Teenagermodus lehnt ChatGPT romantische und sexuelle Gespräche ab und behandelt Themen wie Selbstverletzung, Essstörungen, Gewalt und gefährliche Stunts mit integrierten Interventionen statt mit gewöhnlichen Antworten. Es gibt einen Lernmodus, der einen Schüler durch ein Problem führt, anstatt ihm die fertige Antwort zu übergeben. Eltern, deren Konten mit einem Jugendkonto verknüpft sind, können Ruhezeiten festlegen, in denen ChatGPT einfach nicht verfügbar ist, eine begrenzte Anzahl von Einstellungen anpassen und Benachrichtigungen in einer begrenzten Anzahl von Situationen mit hohem Risiko erhalten.
Hier ist der Hintergrund, abzüglich des Glitzers der Pressemitteilung. OpenAI ist mit Klagen konfrontiert, die ChatGPT-Gespräche mit verletzten Teenagern in Verbindung bringen, und Aufsichtsbehörden in mehreren Ländern beschäftigen sich mit der Frage, wie Chatbots mit Minderjährigen umgehen. Die Altersvorhersage ist die Antwort des Unternehmens auf ein Problem, das jeder Online-Dienst hat: Menschen zu fragen, wie alt sie sind, funktioniert nicht, weil ein Teenager, der das Produkt für Erwachsene möchte, einfach eine andere Zahl eintippt. Das Erraten anhand des Verhaltens ist robuster, aber es ist auch eine Vermutung. Das bedeutet, dass sich das System im Stillen anhand Ihres Schreibens und Ihres Nutzungsverhaltens eine Meinung über Sie bildet und danach handelt. OpenAI hat sich für die restriktive Seite entschieden, was vertretbar ist und dennoch eine gewisse Anzahl Erwachsener verärgern wird.
Was das für Sie bedeutet: Wenn Sie Eltern sind, ist das zehn Minuten Ihres Abends wert. Verknüpfen Sie Ihr Konto mit dem Ihres Teenagers, sehen Sie sich an, was ruhige Stunden tatsächlich bewirken, und sprechen Sie darüber, anstatt es stillschweigend zu installieren. Die Steuerelemente sind nützlich, aber sie sind kein Filter, der für Sie denkt. Wenn Sie ein erwachsener Benutzer sind, werden Sie möglicherweise gelegentlich auf die Teenager-Erfahrung stoßen und bemerken, dass ChatGPT Dinge ablehnt, die früher beantwortet wurden. Das liegt daran, dass das Altersvorhersagesystem vorsichtig ist und es einen Weg zur Überprüfung gibt. Für alle anderen: Heute ändert sich nichts, aber dies ist das erste Mal, dass ein großer Chatbot zwei wirklich unterschiedliche Produkte unter einem Namen ausliefert, je nachdem, für wen er Sie hält. Erwarten Sie, dass die anderen folgen.
Quellen
Quellen: https://openai.com/index/our-approach-to-age-prediction/
Eine KI hat den Sicherheitsfehler geschrieben. Eine andere KI fand es fünf Tage später
Laut der Sicherheitsfirma Wiz hat ein GitHub Copilot Autofix-Patch eine Befehlsinjektionslücke in einem öffentlichen Snowflake-Repository geschaffen. Sein eigener autonomer Agent nutzte es dann mit einem gestalteten Ausgabetitel aus.
