Das chinesische Zimmer ist ein Gedankenexperiment von John Searle (1980) gegen die These, ein Programm könne verstehen: Ein Mensch befolgt Regeln für chinesische Zeichen, ohne ein Wort Chinesisch zu können — und Symbolverarbeitung allein erzeugt kein Verstehen.
Eine Person sitzt in einem geschlossenen Raum und beherrscht kein Chinesisch. Durch einen Schlitz erhält sie Zettel mit chinesischen Zeichen. Ein umfangreiches Regelbuch sagt ihr, welche Zeichen sie als Antwort zurückgeben soll — allein anhand ihrer Form, ohne dass irgendwo stünde, was sie bedeuten. Von außen betrachtet führt der Raum ein fließendes Gespräch auf Chinesisch. Die Person darin versteht kein Wort.
Searle überträgt das auf den Computer: Auch er verarbeitet Symbole nach Regeln, ohne Zugang zu ihrer Bedeutung. Sein Kernsatz lautet, dass Syntax für Semantik nicht hinreicht — die richtige Handhabung von Zeichen bringt kein Verstehen hervor. Ein Programm könnte also den Turing-Test bestehen und trotzdem nichts verstehen; die These der starken KI (siehe Schwache KI) wäre widerlegt.
Die meistgenannte Erwiderung ist die Systemantwort: Nicht die Person im Raum solle verstehen, sondern das Gesamtsystem aus Person, Regelbuch und Zetteln — so wie auch nicht ein einzelnes Neuron versteht, sondern das Gehirn. Searle entgegnete, die Person könne das Regelbuch auswendig lernen und den Raum verlassen; dann sei sie das ganze System und verstehe immer noch nichts. Weitere Einwände verweisen auf fehlende Verankerung in der Welt (ein Roboter mit Sensoren und Gliedmaßen wäre etwas anderes) oder auf die Geschwindigkeit: Ein Mensch bräuchte für einen Satz Jahrmillionen, und Intuitionen über solche Fälle sind unzuverlässig.
Das Argument ist seit vier Jahrzehnten umstritten und in keiner Richtung entschieden. Unbestritten ist sein Beitrag zur Begriffsklärung: Es trennt die Frage nach der Leistung von der Frage nach dem Verstehen. Wer über LLM sagt, sie „verstünden nichts, sie sagten nur Wörter vorher", argumentiert in Searles Linie. Die heutige, auf Sprachmodelle gemünzte Verwandte dieses Einwands heißt Stochastischer Papagei — allerdings empirisch begründet statt prinzipiell.
Hallo! Ich bin dein KI-Tutor.
Melde dich an, um mit mir zu chatten — ich erinnere mich dann auch an eure letzten Gespräche.
