Chinese Room Argument

Das Chinese Room Argument (deutsch Chinesisches Zimmer) ist ein 1980 vom US-amerikanischen Philosophen John R. Searle in dem Aufsatz Minds, Brains, and Programs (Behavioral and Brain Sciences 3 [3], S. 417–457) vorgelegtes Gedankenexperiment zur Frage, ob ein digitaler Computer durch bloße Symbolverarbeitung Verstehen, Bewusstsein oder Intentionalität erzeugen kann.

Searles Argument richtet sich gegen die starke KI-These (strong AI), nach der ein hinreichend komplex programmierter Computer ein Geist sei – und nicht nur ein Geist modelliere.

Zusammenfassung

Searle bittet die Leser:innen, sich folgende Szene vorzustellen: Er selbst, der kein Chinesisch versteht, sitzt in einem Raum mit einem dicken Regelbuch in englischer Sprache.

Außerhalb des Raumes werden chinesische Schriftzeichen hineingereicht; er konsultiert das Regelbuch, das angibt, welche Zeichen auf welche Eingabezeichen hin auszugeben sind, und reicht entsprechende Zeichen heraus. Aus der Außenperspektive entsteht der Eindruck einer kompetenten chinesischen Konversation.

Aus der Innenperspektive jedoch versteht Searle nach wie vor kein Chinesisch – er manipuliert lediglich Zeichen nach Form, ohne deren Bedeutung zu erfassen.

Daraus folgert Searle: Was hier vorliegt, ist Syntax, nicht Semantik; und da dasselbe für jeden digitalen Computer gilt, der Programme ausführt, kann reine Programmausführung kein Verstehen erzeugen. Das Argument hat eine breite, bis heute andauernde Debatte ausgelöst und ist eines der meistdiskutierten Gedankenexperimente der zeitgenössischen Philosophie des Geistes.

Argumentationsstruktur

Searle formuliert das Argument in mehreren Schritten:

Verstehen und Bewusstsein erfordern Semantik – Bezug auf außersymbolische Inhalte.
Computerprogramme sind rein syntaktisch – sie manipulieren Zeichen nur auf der Grundlage ihrer Form.
Syntax allein konstituiert keine Semantik.
Folglich kann Programmausführung allein kein Verstehen erzeugen.
Folglich ist die starke KI-These falsch.

Searle differenziert dabei zwei Varianten der KI-These: Die schwache KI-These (weak AI) – Computer können nützliche Werkzeuge zur Modellierung kognitiver Prozesse sein – wird von Searle nicht bestritten. Bestritten wird nur die starke KI-These, dass das Programm selbst, korrekt ausgeführt, ein Geist sei.

Verteidigung gegen Einwände

In seinem Originalaufsatz und in nachfolgenden Texten diskutiert Searle eine Reihe von Standardeinwänden:

Der Systems Reply (System-Einwand) argumentiert, dass nicht die Person im Raum, sondern das gesamte System (Person plus Regelbuch plus Raum) Chinesisch versteht. Searle erwidert: Die Person könnte das gesamte Regelbuch auswendig lernen und im Freien operieren – sie verstünde nach wie vor kein Chinesisch.

Der Robot Reply (Roboter-Einwand) schlägt vor, das System mit Sensoren und Aktoren auszustatten und in die Welt einzubinden, um Symbol-Welt-Verbindungen herzustellen. Searle erwidert: Symbole, die aus Kameras kommen, sind ebenso bloße Symbole; die zusätzliche Hardware ändert nichts am Grundproblem.

Der Brain Simulator Reply schlägt vor, ein Programm zu konstruieren, das die Synapsen-für-Synapsen-Aktivität eines chinesischsprechenden Gehirns simuliert. Searle erwidert mit der Chinese Gym-Variante: Auch ein simuliertes Gehirn aus chinesisch-unkundigen Sachbearbeiter:innen, die Synapsen-Signale weitergeben, versteht nicht.

Der Other Minds Reply wirft ein, die Argumentation könnte auch gegen die Annahme verwendet werden, dass andere Menschen verstehen. Searle erwidert, dass wir bei anderen Menschen aus guten biologischen Gründen Geistesfähigkeit annehmen – bei Programmen fehlen diese Gründe.

Diskussion

Die Debatte um das Chinese Room Argument ist seit 1980 in mehreren Strängen geführt worden:

Daniel Dennett (Consciousness Explained, 1991; Fast Thinking, 1987) hält das Argument für eine Intuitionspumpe, die Größenordnungen und Komplexitäten der erforderlichen Symbolverarbeitung systematisch unterschätzt. Wer ernsthaft die Komplexität einer kompetenten chinesischen Konversation durchdächte, käme nicht zum intuitiven Eindruck eines bloß zeichenmanipulierenden Sachbearbeiters.

Paul und Patricia Churchland (Could a Machine Think?, Scientific American 1990) argumentieren mit der Luminous Room-Analogie: Wer Maxwells These, Licht sei elektromagnetische Welle, in einem dunklen Raum durch Schütteln eines Magneten zu prüfen versuche, finde ebenfalls kein Licht. Daraus folge aber nicht, dass Licht keine elektromagnetische Welle sei. Komplexität ist eine ernstzunehmende Variable.

Stevan Harnad nimmt das Argument in The Symbol Grounding Problem (1990) auf und formuliert es als empirisches Forschungsproblem: Die Antwort liege nicht in der Verneinung der starken KI-These, sondern in einer Architektur, die symbolische Repräsentationen in nicht-symbolischen Grundlagen verankert.

Aus der Position des Funktionalismus (Hilary Putnam, Jerry Fodor, später revidiert) wird argumentiert, dass es die funktionale Organisation und nicht das materielle Substrat sei, die Geist konstituiert – eine Position, gegen die Searle sich explizit wendet.

Im LLM-Diskurs der 2020er Jahre hat das Argument unerwartete Aktualität gewonnen: Es wird sowohl von Vertreter:innen der Stochastic-Parrots-These (Emily M. Bender, Timnit Gebru) als auch von ihren Kritiker:innen (Christopher D. Manning, Steven T. Piantadosi) als Bezugspunkt aufgerufen, allerdings mit unterschiedlichen Schlussfolgerungen.

Eine differenzierte Zwischenposition hat Emma Borg (2024) in Inquiry vorgelegt. Sie überträgt Searles eigene Unterscheidung von intrinsischer und abgeleiteter Intentionalität auf LLMs.

Sie argumentiert, dass deren sprachliche Ausgaben eine genuine, aber abgeleitete – aus der menschlichen Sprachgemeinschaft geerbte – Bedeutung tragen können, ohne dass die Systeme selbst über originäre Intentionalität oder Assertionsfähigkeit (Wahrheitsverpflichtung) verfügten. Borg positioniert sich damit explizit zwischen Searles Skepsis und einem unkritischen Turing-Optimismus.

Bedeutung

Das Chinese Room Argument ist eines der wirkungsmächtigsten Gedankenexperimente der zeitgenössischen Philosophie des Geistes. Es hat den Begriff der Intentionalität (in Anknüpfung an Brentano) in die KI-Diskussion eingeführt, die Trennung von intrinsischer und abgeleiteter Bedeutung popularisiert und das Symbol Grounding Problem (Harnad 1990) vorbereitet.

Auch wenn die Mehrheit der zeitgenössischen Philosophie des Geistes Searles Schlussfolgerung nicht teilt, hat die Debatte um das Argument das Feld in seinen begrifflichen Standards substantiell geprägt.

Quellenangaben

Bender, Emily M. / Koller, Alexander (2020): Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), S. 5185–5198. DOI: 10.18653/v1/2020.acl-main.463.
Borg, Emma, 2024. LLMs, Turing Tests and Chinese Rooms: The Prospects for Meaning in Large Language Models. In: Inquiry, online first. DOI: 10.1080/0020174X.2024.2446241
Churchland, Paul M. / Churchland, Patricia Smith, 1990. Could a Machine Think? In: Scientific American 262 (1), S. 32–37.
Cole, David (2020): The Chinese Room Argument. In: Stanford Encyclopedia of Philosophy, hrsg. von Edward N. Zalta.
Dennett, Daniel C., 1991. Consciousness Explained.
Fodor, Jerry A. (1980): Searle on What Only Brains Can Do. In: Behavioral and Brain Sciences 3 (3), S. 431–432. DOI: 10.1017/S0140525X00005823.
Harnad, Stevan, 1990. The Symbol Grounding Problem. In: Physica D: Nonlinear Phenomena 42 (1–3), S. 335–346. DOI: 10.1016/0167-2789(90)90087-6
Penrose, Roger, 1989. The Emperor’s New Mind: Concerning Computers, Minds, and the Laws of Physics.
Searle, John R., 1980. Minds, Brains, and Programs. In: Behavioral and Brain Sciences 3 (3), S. 417–457. DOI: 10.1017/S0140525X00005756.
Searle, John R., 1984. Minds, Brains and Science.
Searle, John R., 1992. The Rediscovery of the Mind.

← Zurück zur Lexikon-Übersicht