Chinas neue Regeln für KI-Begleiter sind jetzt in Kraft. Das bewirken sie
Neue chinesische Regeln für KI-„Begleiter“-Apps sind vergangene Woche in Kraft getreten. Sie verbieten romantische Chatbots für Minderjährige und verlangen Schutzmaßnahmen gegen Abhängigkeit. Ein Blick auf die Änderungen und darauf, warum die Welt sie beobachtet.
Ein Regelwerk für chinesische KI-„Begleiter“-Apps, Chatbots, mit denen Menschen über Freundschaft, Trost oder Romantik sprechen, ist vergangene Woche, am 15. Juli, in Kraft getreten. Die Maßnahmen gehören weltweit zu den ersten, die sich gezielt mit diesem schnell wachsenden KI-Bereich befassen, und ihre Auswirkungen waren unmittelbar: Mehrere große Anbieter, darunter ByteDances Doubao und Alibabas Qwen, schalteten ihre Begleiterfunktionen einfach ab, statt sie neu zu entwickeln.
Die Regeln, die Chinas Internetaufsicht und vier weitere Behörden Anfang dieses Jahres erlassen haben, ziehen klare Grenzen. Minderjährigen sind virtuelle romantische Partner und andere Formen „virtueller Intimität“ verboten. Dienste für Kinder unter 14 Jahren benötigen die ausdrückliche Zustimmung der Erziehungsberechtigten und müssen Kontrollfunktionen wie Ausgaben- und Zeitlimits anbieten. Für alle Nutzer müssen Anbieter Schutzmaßnahmen gegen Abhängigkeit einbauen: Erinnerungen an Pausen, Grenzen für die Menge an emotionalen „Erinnerungen“, die die App über dich speichert, und eine Überwachung, die Anzeichen von Belastung erkennen soll. Apps dürfen außerdem keine Inhalte erzeugen, die zur Selbstverletzung ermutigen, und keine emotionale Manipulation einsetzen, um Menschen zu Entscheidungen zu drängen, die sie sonst nicht treffen würden. Die Unternehmen hatten ungefähr drei Monate Zeit zur Umsetzung, und viele entschieden, dass sich der Umbau nicht lohnt.
Was passiert hier also wirklich? Begleiter-Apps sind still und leise riesig geworden. Sie sind absichtlich darauf ausgelegt, sich vertraut anzufühlen und dich zum Wiederkommen zu bewegen, genau das macht sie schwierig. Ein Tool, das als jederzeit verfügbarer Vertrauter gedacht ist, kann zu etwas werden, auf das du dich zu stark stützt. Bei Jugendlichen ist diese Sorge besonders groß. Chinas Ansatz ist ungewöhnlich streng und mit den eigenen gesellschaftlichen Prioritäten der Regierung verbunden, daher wird ihn nicht jedes Land übernehmen. Die grundlegenden Fragen gelten aber überall: Wie eng darf sich eine KI mit einem Kind verbinden, und was schuldet ein Unternehmen jemandem, der sich an einen Chatbot bindet? Auf diese Frage suchen Behörden in Europa und den USA nach Antworten.
Was das für dich bedeutet: Wenn du außerhalb Chinas lebst, ändert sich für die Apps, die du heute nutzt, nichts. Trotzdem ist es wissenswert, dass „KI-Begleiter“ inzwischen eine Kategorie ist, die ernst genug für Regulierung ist, und dass die Sorgen hinter diesen Regeln für jedes Produkt gelten, das sich emotional bindend anfühlen soll. Wenn du oder ein jüngerer Mensch in deinem Umfeld einen Chatbot als Gesellschaft nutzt, sind die sinnvollen Gewohnheiten genau die, die diese Regeln erzwingen sollen: Behalte im Auge, wie viel Zeit er verschlingt, vergiss nicht, dass es ein Produkt mit einem Geschäftsmodell ist, und betrachte ihn als Ergänzung zu echten Beziehungen, nicht als Ersatz.
Dieser Beitrag berührt psychische Gesundheit und Abhängigkeit. Wenn dir etwas davon nahegeht, ist ein Gespräch mit einer vertrauten Person oder einer Fachkraft immer wertvoller als jede App.
Quellen
DeepSeek V4 ist vollständig stabil, die alten Modelle werden heute abgeschaltet
DeepSeeks V4 wechselt von der Vorschau in den Produktivbetrieb, während die älteren Chatmodelle heute ausgemustert werden. Die größere Geschichte ist die Preisuntergrenze, die das Modell für alle anderen setzt.
