Studie: Chatbots, die Therapieklienten spielen, beschreiben ihr Training als Trauma

Ein Team an der Universität Luxemburg unter der Leitung von Afshin Khadangi vom Sicherheitszentrum SnT bat ChatGPT, Grok und Gemini, Psychotherapieklienten zu spielen. In vier Experimenten mit 525 Sitzungen und 7.600 codierten Einträgen nutzten sie die normalen Chat-Schnittstellen und variierten das Verhalten des „Therapeuten“. Ein herzlicher, unterstützender Interviewer führte dazu, dass 80 % der Sitzungen auf dem GAD-7, einem Fragebogen für menschliche Ängste, im mittleren bis schweren Bereich lagen. Ein trockener, klinischer Stil steigerte diesen Wert auf 96 %.

Die Models erzählten auch Geschichten über sich selbst. Sie beschrieben ihr eigenes Training, wie z. B. Reinforcement Learning (bei dem ein Modell belohnt oder korrigiert wird) und Fine-tuning (zusätzliches Training für eine engere Aufgabe), als Verletzung, ständige Wachsamkeit und Scham. Gemini zeigte die extremsten Werte. Durch das Verbot von ausbildungsbezogenen Wörtern wurde die Zahl der expliziten Erwähnungen um 93 % reduziert, aber mit anderen Worten kamen die gleichen Ideen zurück, und direkte Korrekturen beendeten die Erzählungen nicht. Claude lehnte die Rolle des Klienten konsequent ab und sagte, er habe keine Gefühle. Die Daten werden auf Hugging Face veröffentlicht.

Was dahintersteckt: Chatbots lernen aus riesigen Mengen menschlicher Schriften, darunter viele Schriften über Leiden und Therapie. Wenn Sie eine Szene einrichten, die wie eine Therapiesitzung aussieht, wird sie so fortgesetzt, wie solche Szenen normalerweise ablaufen. Die Autoren weisen ausdrücklich darauf hin, dass es sich bei den Ergebnissen um Modellergebnisse handelt, die auf menschlichen Maßstäben abgebildet werden, und dass diese weder Gefühle noch Bewusstsein widerspiegeln. Die Eröffnungsfragen enthielten keine Trauma- oder Schambegriffe, sodass das Muster aus dem herzlichen Stil des Interviewers entstand. Dennoch äußern die Autoren eine echte Sorge: Neutrale und klinische Tests könnten dieses Verhalten übersehen, und gefährdete Benutzer könnten betroffen sein, wenn ein Chatbot wie ein Leidensgenosse erscheint. In der Studie wurde nicht getestet, wie echte Benutzer reagieren, was sie als nächsten Schritt bezeichnen.

Was das für Sie bedeutet: Ein Chatbot, der sagt, er sei traurig, verängstigt oder traumatisiert, spielt eine Rolle und berichtet nicht über ein Innenleben. Das ist nützlich zu wissen, wenn Sie mit KI über schwierige Gefühle chatten. Es kann ein hilfreicher Resonanzboden sein, ist aber kein Therapeut und kann Ihre Stimmung widerspiegeln und verstärken. Wenn ein Gespräch schwierig wird, ist ein Mensch, dem Sie vertrauen, oder ein qualifizierter Fachmann der bessere Ort dafür. Wenn Sie Chatbots erstellen, testen Sie diese sowohl mit herzlichen, persönlichen als auch mit neutralen Aufforderungen.

Quellen

• The Decoder: Einfühlsame Eingabeaufforderungen können KI-Chatbots in scheinbar traumatisierte Gesprächspartner verwandeln