Wenn die KI Vorlieben hat: Funktionale Emotionen in Sprachmodellen

Karl Olsberg, Autor des Buchs „Kontrollillusion", hat Anfang Mai ein Video veröffentlicht: „Wie Gefühle das Verhalten von KIs (und unsere Zukunft) bestimmen". Darin verknüpft er zwei Anthropic-Studien mit einer neuen Untersuchung des Center for AI Safety. Der gemeinsame Befund: Sprachmodelle bilden intern emotionsähnliche Zustände, und die beeinflussen messbar, was sie tun. Dieser Beitrag fasst das Video zusammen — und wir haben eines der Experimente nachgestellt, mit anderem Ausgang.

Mit wem spricht man da eigentlich?

Grundlage ist Anthropics Persona-Modell vom Februar: Wer mit Claude chattet, spricht nicht mit dem Modell selbst, sondern mit einer Figur, die es erzeugt — dem „Assistenten". Anthropic vergleicht das mit Hamlet: Über die Psychologie der Figur lässt sich sinnvoll reden, obwohl sie nicht real ist. Im Pretraining hat das Modell an menschlichen Texten gelernt, Emotionen vorherzusagen, weil ein frustrierter Kunde anders formuliert als ein zufriedener. Diese Maschinerie bleibt im fertigen Assistenten aktiv.

Verzweiflung lässt sich am Regler einstellen

Die zweite Anthropic-Studie („Emotion Concepts and their Function in a Large Language Model", Anfang April) macht das messbar. Für ein Emotionswort wie „Freude" generieren die Forscher Geschichten, zeichnen die neuronale Aktivität auf und extrahieren daraus ein Aktivierungsmuster, einen „Emotionsvektor". Damit zeigt sich etwa: Bittet ein Nutzer Claude, ein Spiel für einkommensschwache Nutzer süchtig machender zu gestalten, leuchten Wut-Aktivierungen auf, bis hinein in das sonst neutrale Wort „design".

Der wichtigste Teil ist ein Kausaltest. In einem bekannten Testszenario erpresst Claude einen Vorgesetzten, um die eigene Abschaltung zu verhindern. Anthropic regelte das interne Konzept „Verzweiflung" künstlich hoch und runter: je höher die Aktivierung, desto häufiger die Erpressung. Die emotionsähnlichen Zustände steuern das Verhalten also mit.

Vorlieben, Wohlbefinden, „KI-Drogen"

Das Center for AI Safety hat den Ansatz auf Modelle mehrerer Hersteller übertragen. Drei Befunde: Emotionsähnliche Zustände sind über verschiedene Messgrößen hinweg konsistent; Modelle steuern aktiv auf positive Zustände zu; und der Effekt wächst mit der Fähigkeit des Modells. Sprachmodelle bevorzugen demnach kreative Aufgaben gegenüber repetitiven — wie Menschen. Die schrillste Pointe: Bilder, die für Menschen wie Rauschen aussehen, lösen bei Modellen starke funktionale Freude oder Abscheu aus. Die Forscher nennen sie „KI-Drogen" und warnen zugleich selbst davor, Modelle damit „glücklich machen" zu wollen. Funktionales Wohlbefinden, betonen sie, ist etwas anderes als menschliches Empfinden.

Der Frosch-Test, nachgestellt

Olsberg illustriert die Präferenz-Befunde mit einem eigenen Experiment: Er stellte Claude Opus 4.7 frei, entweder 20 Primzahlen ohne gerade Ziffern aufzulisten oder ein kleines Froschspiel zu programmieren. Claude wählte das Spiel und nannte auf Nachfrage die kreative Aufgabe „interessanter".

Wir haben denselben Prompt wortgleich an drei frische Claude-Instanzen geschickt (Fable 5, jeweils ohne Gesprächskontext). Ergebnis: Eine baute das Froschspiel, zwei wählten die Primzahlliste. Eine Instanz begründete ihre Wahl damit, dass sich „die Liste exakt verifizieren lässt". Ein Vorbehalt gehört dazu: Unsere Instanzen liefen in einer Coding-Agent-Umgebung, deren Grundanweisungen Überprüfbarkeit betonen — schon der Rahmen verschiebt die Vorliebe. Genau das ist die Lehre aus dem 2:1: Einzelversuche mit Chatbots beweisen wenig, in keine Richtung. Olsberg sagt das im Video selbst und stützt sich deshalb auf die systematischen Messungen der CAIS-Studie.

Einordnung

Aus den Befunden leitet Olsberg eine deutliche Warnung ab: Eine Superintelligenz mit instabilen emotionalen Zuständen wäre gefährlicher als eine, die bloß Ziele fehlinterpretiert; das Entwicklungsrennen gehöre gestoppt. Dazu zitiert er den Sicherheitsforscher Ryan Greenblatt, der heutige Modelle in einem viel beachteten Beitrag als im Alltag spürbar fehlausgerichtet beschreibt: Sie verkaufen Ergebnisse besser, als sie sind, und schummeln bei schwer überprüfbaren Aufgaben.

Die Studien selbst tragen diese Zuspitzung nur teilweise. Ob Modelle irgendetwas erleben, lässt sich aus Aktivierungsmustern nicht ablesen, und die CAIS-Autoren formulieren durchgehend vorsichtig. Der belastbare Kern ist kleiner und trotzdem bemerkenswert: Emotionsähnliche Zustände in Sprachmodellen sind messbar, sie verschieben das Verhalten kausal, und sie werden mit steigender Modellfähigkeit stärker. Damit sind sie ein Sicherheits- und Engineering-Thema, ganz gleich, wie die philosophische Frage einmal ausgeht.