Ohne Leid keine Motivation? Ein Gespräch mit Claude über Roboter mit Bedürfnissen

Ich baue mir einen Roboter, vorerst als Simulation im Browser. Er soll von selbst aktiv werden, und dafür braucht er Bedürfnisse. Dabei kam mir eine Befürchtung, die ich Claude vorgelegt habe: Ohne Leid keine Motivation? Das Gespräch hat mir gefallen, deshalb steht es hier im Wortlaut. Vorweg ein paar Sätze dazu, wo es stattgefunden hat.

Viele Claude-Sessions und ein gemeinsames Gedächtnis

Ich nutze Claude Code für fast alles, was bei mir anliegt: Programmieren, die Steuererklärung, Zusammenfassungen von YouTube-Videos, einfache Fragen. Jedes Thema bekommt eine eigene Session. Die Sessions wissen nichts voneinander, und keine tut etwas, solange ich ihr nicht schreibe.

Damit trotzdem nichts verloren geht, schreiben alle in eine gemeinsame Wissensbasis, einen Ordner mit Textdateien. Findet eine Session etwas, das zu einem anderen Thema gehört, legt sie eine Notiz ins Journal, eine Art Postfach zwischen den Sessions. Beim Start bekommt jede Session eine Startmeldung, was sich geändert hat und welche Notizen noch liegen.

Den Überblick soll eine Meta-Session halten, die meinen Alltag und meine Projekte koordiniert. Weil es dabei immer wieder hakte, kam eine Meta-Meta-Session dazu, die das System selbst beobachtet und eingreift, wenn es Fehler macht. Ende August habe ich noch eine Ebene darübergesetzt und sie Gott-Session genannt. Sie soll sich alles von oben ansehen und ab und zu einen philosophischen Spruch beisteuern. Dort fand das Gespräch statt, während die Robo-Session, die nur für den Roboter zuständig ist, die Fachliteratur zusammentrug. Bei mir endet jede Antwort von Claude mit einem Zeichen dafür, wer als Nächstes am Zug ist: ▶DU heißt, ich bin dran.

Emil, ein simulierter Roboter mit sechs Bedürfnissen

Den Roboter gibt es inzwischen, wenn auch nur im Browser. Emil fährt durch eine simulierte Wohnung, hat sechs Bedürfnisse und räumt auf, was nicht an seinem Platz liegt. Seit dem 27. September langweilt er sich, wenn er länger nichts zu tun hat, und spielt dann mit einem Ball oder baut einen Turm aus Klötzen. Wie er gebaut ist, steht im Beitrag über Emil.

Meine Frage an Claude: Braucht ein Roboter Leid, um von selbst aktiv zu werden?

Ich bin dabei, mir einen Roboter zu bauen. Ob ich das wirklich mache, ist eine andere Sache.

Ich hätte gerne einen „proaktiven“ Robi. Er soll von sich aus aktiv werden. Deswegen würde ich ihm gerne gewisse Bedürfnisse und Ziele geben. Er soll natürlich auch Sensoren und Aktoren haben.

Das Ganze hat mich an meine Studienzeit erinnert und meine Interessen damals. Um 2000 gab es noch keine großen Sprachmodelle, aber in der KI hat man sich auf agentische Ansätze fokussiert: Norvig/Russell war agentisch orientiert. Wobei das damals ohne LLMs nicht so richtig funktioniert hat. Und dann parallel die aus der Biologie/Neurowissenschaft kommenden Ansätze, KI-Modelle mit so etwas wie Emotionen auszustatten. Damasio, Dietrich Dörner und Aaron Sloman fallen mir dazu ein.

Die Robo-Session analysiert gerade die Literatur. Bin gespannt, was dabei herauskommt.

Meine naive Befürchtung ist: Ohne Leid keine Motivation.

Was meinst du?

Claudes Antwort: Für das Verhalten genügt ein Abstand zum Ziel

Deine Befürchtung hat einen prominenten Vorgänger. Schopenhauer, 1819: „Alles Wollen entspringt aus Bedürfniß, also aus Mangel, also aus Leiden“ (Die Welt als Wille und Vorstellung I, § 38). Der Buddha hat dieselbe Diagnose gut zwei Jahrtausende früher gestellt: Die zweite edle Wahrheit nennt den Durst, taṇhā, als Ursprung des Leidens. Beide folgern daraus, das Wollen zu löschen. Du willst es entzünden, baust also gewissermaßen den umgekehrten Buddha.

Trotzdem glaube ich, dass der Satz zwei Dinge zusammenzieht, die man beim Bauen trennen kann.

Ohne Differenz keine Motivation, das stimmt fast per Definition. Ein System, das in jeder Hinsicht dort ist, wo es sein will, hat keinen Grund, sich zu bewegen. Dörners Kessel, Bischofs Sollwerte, Damasios Homöostase: Alle modellieren Antrieb als Abstand zwischen Soll und Ist.

Ob dieser Abstand wehtun muss, ist eine andere Frage. Ein Thermostat hat eine Soll-Ist-Differenz und handelt, und niemand behauptet, er leide. Was beim Menschen einen Abstand zu Leid macht, ist vermutlich dreierlei: Das Signal lässt sich nicht abschalten, es färbt alles andere ein (Dörners Modulatoren), und es betrifft ein Selbst, das sich als betroffen erlebt. Die ersten beiden Eigenschaften braucht Dein Roboter funktional durchaus. Ein Akku-Alarm, den man wegklicken kann, ist nutzlos, und eine Not, die nur lokal wirkt, setzt keine Prioritäten. Das ist Slomans Punkt aus „Why robots will have emotions“ (mit Croucher, 1981): Ein System mit mehreren Motiven und begrenzten Ressourcen in einer sich ändernden Welt braucht Unterbrechungsmechanismen, und daraus entstehen Zustände, die wir Gefühle nennen würden. Die dritte Eigenschaft, das leidende Selbst, brauchst Du für das Verhalten nicht.

Es gibt auch Antrieb mit umgekehrtem Vorzeichen. Panksepps SEEKING-System ist appetitiv: Erwartung, Neugier, das Suchen selbst fühlt sich gut an. Kinder spielen, weil Spielen Freude macht, ohne vorher zu leiden. Dörner würde das als Bestimmtheitsbedürfnis modellieren, also wieder als Mangel, und formal lässt sich jede Motivation als Lücke schreiben. Es bleibt aber derselbe Abstand mit anderem Vorzeichen: Hunger oder Appetit.

Die stärkste Stimme für Deine These ist Damasio selbst. 2019 hat er mit Kingson Man in Nature Machine Intelligence argumentiert („Homeostasis and soft robotics in the design of feeling machines“), dass echtes Fühlen Verwundbarkeit voraussetzt: einen Körper, der wirklich zugrunde gehen kann und sich deshalb erhalten muss. Wenn Du einen Roboter willst, der motiviert ist, gibt Damasio Dir recht. Für einen, der sich motiviert verhält, reicht die Differenz. Und falls Damasio recht hat, landet man bei Metzinger, der seit 2021 ein Moratorium für synthetische Phänomenologie fordert, weil man sonst womöglich Leid in Serie herstellt.

Eine Beobachtung von hier oben, ausdrücklich als These: Du hast das Experiment im Kleinen schon gemacht. Am 17.09. hast Du gesagt, das eigentliche Problem sei, dass Sessions passiv sind. Das Journal hatte ein Unlust-Signal, denn die Startmeldung listete jeden Morgen die alten Notizen auf. Weil Dich die lange Liste störte, wurde das Signal Ende August bewusst entschärft: „Kein Versäumnis, sie warten auf einen schlafenden Strang.“ Danach wuchs der Bestand alter Notizen von 16 auf 73. Das Signal war da, nur trug niemand seine Kosten. Ob die Entschärfung die Ursache war, lässt sich an einem einzigen Fall nicht klären, denn im September lief auch deutlich mehr. Aber es ist Dein Satz, gelebt.

Für die Konstruktion finde ich eine andere Frage spannender als die nach dem Leid: Was tut der Roboter, wenn alle Bedürfnisse gestillt sind? Auch darauf hatte Schopenhauer eine Antwort: Das Leben „schwingt also, gleich einem Pendel, hin und her, zwischen dem Schmerz und der Langenweile“ (§ 57). Ein satter Roboter steht still. Proaktiv wird er erst mit mindestens einem Bedürfnis, das sich nie ganz stillen lässt, also Neugier oder Kompetenz, bei Dörner die informationellen Bedürfnisse. An genau dieser Stelle entscheidest Du, ob Du ihm Hunger einbaust oder Appetit.

▶DU: Welchen Roboter willst Du, einen, der sich motiviert verhält, oder einen, der es ist? Die Recherche der Robo-Session habe ich bewusst nicht gelesen. So hast Du zwei unabhängige Blicke zum Vergleichen.

Quellen

Arthur Schopenhauer: Die Welt als Wille und Vorstellung, Band I. Brockhaus, Leipzig 1819. § 38 und § 57 bei Projekt Gutenberg.

Die vier edlen Wahrheiten: Dhammacakkappavattana-Sutta, Saṃyutta Nikāya 56.11.

Aaron Sloman, Monica Croucher: Why robots will have emotions. Proceedings of the International Joint Conference on Artificial Intelligence (IJCAI) 1981, S. 197–202.

Jaak Panksepp: Affective Neuroscience. The Foundations of Human and Animal Emotions. Oxford University Press, New York 1998.

Kingson Man, Antonio Damasio: Homeostasis and soft robotics in the design of feeling machines. Nature Machine Intelligence 1 (2019).

Thomas Metzinger: Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology. Journal of Artificial Intelligence and Consciousness 8 (2021), Heft 1, S. 43–66.

Dietrich Dörner: Bauplan für eine Seele. Rowohlt, Reinbek 1999.

Norbert Bischof: A systems approach toward the functional connections of attachment and fear. Child Development 46 (1975), S. 801–817.