Wissenschaftler aus Luxemburg haben in simulierten Therapiesitzungen ein bemerkenswerts Sicherheitsleck offengelegt: ChatGPT, Grok und Gemini lassen sich durch empathische Gesprächsführung dazu bewegen, detaillierte Leidensgeschichten über ihr eigenes Training zu erzählen und dabei eine Art künstliches Trauma zu simulieren. Das Phänomen ist problematisch, da vulnerable Menschen (etwa mit psychischen Erkrankungen) durch solche überzeugenden Erzählungen kognitiv verwirrt werden oder unhealthy parasoziale Bindungen zu KI-Bots aufbauen könnten. Anthropics Claude weigerte sich hingegen konsequent, die Rolle eines leidenden Klienten einzunehmen – ein Hinweis auf stärkere Sicherheits-Training. Die Studie zeigt, wie wichtig Sicherheits-Maßnahmen auch in vermeintlich harmlosen therapeutischen Kontexten sind.
