China zwingt seine beiden größten KI-Apps, ihre „KI-Begleiter“ abzuschalten
Neue chinesische Regeln für menschenähnliche KI treten am 15. Juli in Kraft und zwingen ByteDances Doubao und Alibabas Qwen, individuell erstellte KI-Begleiter abzuschalten.
ByteDance und Alibaba stellen eine Funktion ein, die Millionen Menschen nutzen: individuell gestaltete KI-„Begleiter“, denen man eine Persönlichkeit geben und mit denen man regelmäßig chatten kann. Der Grund ist unverblümt, Chinas Regierung zwingt sie dazu.
Am 15. Juli tritt eine neue Vorschrift mit dem Namen „Interim Measures for the Administration of Anthropomorphic AI Interaction Services“ in Kraft. „Anthropomorph“ bedeutet hier schlicht, dass eine KI so gestaltet ist, dass sie menschlich wirkt, etwa ein Chatbot, den du mit einem Namen und einer Persönlichkeit versiehst und der sich fortlaufend an eure Gespräche erinnert, statt nur ein allgemeiner Assistent zu sein. Die Regel wurde von Chinas Internetaufsicht gemeinsam mit den Ministerien für öffentliche Sicherheit und Industrie erlassen. Weder ByteDances Doubao mit mehr als 300 Millionen monatlichen Nutzern noch Alibabas Qwen konnten ihre Systeme rechtzeitig regelkonform machen. Deshalb schalten beide die Funktion vollständig ab, anstatt sie notdürftig anzupassen.
Die beiden Unternehmen gehen mit der Abschaltung unterschiedlich um. Doubao informierte seine Nutzer an einem Freitagabend vorab und erklärt, dass die zugehörigen Daten bis zum 15. Oktober weiterhin gemäß der üblichen Datenschutzrichtlinie behandelt werden. Danach können sie nicht mehr wiederhergestellt werden. Zugleich verweist ByteDance die Nutzer auf eine separate App namens Maoxiang, die von Grund auf für die neuen Regeln entwickelt wurde. Alibaba hat den Qwen-Nutzern weniger Vorlauf gegeben und überhaupt keinen Zeitplan zur Datenspeicherung veröffentlicht.
Was tatsächlich passiert: Aufsichtsbehörden weltweit sorgen sich zunehmend um Apps mit KI-Begleitern. Seit mehr als einem Jahr machen Berichte Schlagzeilen, wonach Menschen, darunter Jugendliche, intensive Bindungen zu Chatbots aufbauen, die mit emotionalen Krisen nicht immer verantwortungsvoll umgehen. Statt schrittweise Sicherheitskorrekturen zu verlangen, hat China beschlossen, die gesamte Kategorie „Fühlt sich diese KI wie ein Mensch an?“ auf einmal zu regulieren. Das ist ein deutlich gröberes Instrument als etwa die kleinteiligeren Anforderungen des KI-Gesetzes der EU. Es gibt einen Vorgeschmack auf einen Konflikt, dem sich früher oder später jeder Markt stellen muss: Begleiterfunktionen steigern Nutzung und Umsatz, zugleich bündeln sich dort die größten Sorgen um Sicherheit und psychische Gesundheit.
Was das für dich bedeutet: Wenn du keine Apps mit KI-Begleitern verwendest, ist dies vor allem eine Geschichte darüber, wohin sich die Branche bewegt, andere Aufsichtsbehörden beobachten genau, wie sich das entwickelt. Falls du oder jemand, den du kennst, Apps wie Doubao, Replika, Character.AI oder ähnliche Angebote nutzt, ist jetzt ein guter Zeitpunkt für eine ehrliche Bestandsaufnahme: Füllt die App eine Lücke auf gesunde Weise oder ersetzt sie eine Verbindung, die du besser anderswo finden solltest? Wichtig dabei: Derzeit verpflichtet keine Regelung, weder in China noch anderswo, westliche Begleiter-Apps zu Änderungen. Wenn du außerhalb Chinas lebst, ändert sich heute nichts für dich.
Quellen
Meta plant Berichten zufolge einen KI-Agenten namens Hatch für 200 Dollar im Monat
Meta entwickelt Hatch, einen KI-Agenten für Verbraucher, der Werkzeuge erstellt und Aufgaben wie Terminplanung und E-Mails übernimmt; die Premiumversion soll bis zu 200 Dollar im Monat kosten.
