Minds, Brains, and Programs

Minds, Brains, and Programs ist ein 1980 in der Fachzeitschrift Behavioral and Brain Sciences erschienener Aufsatz des Philosophen John R. Searle. Er enthält das Gedankenexperiment des Chinesischen Zimmers und begründet die Unterscheidung zwischen starker und schwacher KI.

Zusammenfassung

Searles Argument richtet sich gegen die Position, dass ein hinreichend gut programmierter Computer im wörtlichen Sinne über einen Geist verfüge. Sein Gedankenexperiment soll zeigen, dass Symbolmanipulation nach Regeln – Syntax – kein Verstehen von Bedeutung – Semantik – hervorbringt, gleichgültig wie überzeugend das äußere Verhalten ausfällt.

Der Aufsatz gehört zu den meistdiskutierten Texten der Philosophie des Geistes; die Fachzeitschrift druckte ihn nach ihrem Verfahren gemeinsam mit zahlreichen Erwiderungen und Searles Antwort darauf. Mit dem Aufkommen großer Sprachmodelle hat das Argument neue Aktualität gewonnen.

Das Gedankenexperiment

Searle bittet, sich eine Person vorzustellen, die des Chinesischen nicht mächtig ist und in einem geschlossenen Raum sitzt. Sie erhält chinesische Schriftzeichen und verfügt über ein umfangreiches Regelwerk in ihrer Muttersprache, das ihr anweist, welche Zeichen auf welche Eingabe hin auszugeben sind. Die Regeln sind so gut, dass die Ausgaben von denen eines chinesischen Muttersprachlers nicht zu unterscheiden sind.

Von außen betrachtet versteht der Raum Chinesisch. Die Person darin versteht kein Wort. Sie manipuliert Zeichen nach formalen Regeln, ohne deren Bedeutung zu kennen.

Searles Schluss: Da die Person genau das tut, was ein Computer tut – Symbole nach formalen Regeln verarbeiten –, und da sie dabei nicht versteht, versteht auch der Computer nicht. Bestandenes Verhalten belegt kein Verstehen.

Starke und schwache KI

Searle führt in dem Aufsatz eine bis heute gebräuchliche Unterscheidung ein:

• Schwache KI betrachtet den Computer als Werkzeug zur Untersuchung des Geistes. Programme simulieren mentale Vorgänge und helfen, Hypothesen darüber zu prüfen.
• Starke KI behauptet, ein angemessen programmierter Computer sei ein Geist: Er verstehe im wörtlichen Sinne und verfüge über kognitive Zustände.

Searles Angriff gilt ausschließlich der starken Position. Gegen die schwache erhebt er ausdrücklich keine Einwände.

Erwiderungen

Der Aufsatz erschien nach dem Verfahren der Zeitschrift zusammen mit Kommentaren zahlreicher Fachleute. Searle nimmt vier Haupterwiderungen vorweg und beantwortet sie:

Die System-Erwiderung. Nicht die Person versteht Chinesisch, sondern das Gesamtsystem aus Person, Regelwerk und Raum. Searle antwortet, die Person könne das gesamte Regelwerk auswendig lernen und im Freien arbeiten – dann sei sie das System und verstehe noch immer nichts.

Die Roboter-Erwiderung. Ein in einen Körper eingebettetes System mit Sensoren und Aktoren hätte durch Weltbezug echte Semantik. Searle antwortet, zusätzliche Eingabekanäle lieferten lediglich weitere Symbole.

Die Gehirnsimulator-Erwiderung. Ein Programm, das die neuronalen Vorgänge eines chinesischen Sprechers simuliert, müsse verstehen. Searle antwortet, die Simulation der Form reproduziere nicht die kausalen Kräfte des Originals.

Die Andere-Geister-Erwiderung. Bei anderen Menschen schließen wir aus Verhalten auf Verstehen; für Maschinen müsse dasselbe gelten. Searle antwortet, die Frage sei nicht, wie wir Verstehen erkennen, sondern worin es besteht.

Sein positiver Gegenvorschlag: Verstehen beruht auf den kausalen Kräften biologischer Gehirne. Andere Substrate seien nicht ausgeschlossen, müssten aber vergleichbare kausale Kräfte besitzen – formale Programmstruktur allein genüge nicht.

Wirkung und Kritik

Das Argument prägt die Debatte über maschinelles Verstehen bis heute und lieferte der Kritik an verhaltensbasierten Maßstäben ihre bekannteste Form.

Kritik richtet sich vor allem auf zwei Punkte. Zum einen wird die Intuitionsabhängigkeit bemängelt: Das Argument beruhe darauf, dass es der Person im Raum offensichtlich an Verstehen fehle, doch diese Offensichtlichkeit stelle sich möglicherweise nur ein, weil das Gedankenexperiment die tatsächliche Komplexität eines solchen Systems unterschätzt.

Zum anderen wird eingewandt, Searle setze in der Prämisse voraus, was er beweisen wolle, indem er Verstehen von vornherein an biologische Substrate bindet.

Mit dem Erscheinen großer Sprachmodelle hat die Debatte neue Nahrung erhalten. Positionen wie die der Stochastic Parrots-Kritik knüpfen an Searles Grundgedanken an: Sprachmodelle reproduzierten Wahrscheinlichkeitsverteilungen über Sprache, ohne Bedeutung zu erfassen. Gegner verweisen darauf, dass die Frage nach dem Verstehen ohne prüfbares Kriterium unentscheidbar bleibt und für die Bewertung der Systeme wenig austrägt.

Was der Aufsatz für die Gegenwart leistet

Bemerkenswert an der Wiederkehr des Arguments ist, dass es in der heutigen Debatte meist unter Absehung von seiner ursprünglichen Stoßrichtung verwendet wird.

Searle argumentierte gegen die Auffassung, ein Programm könne allein aufgrund seiner formalen Struktur einen Geist besitzen – eine These über Bewusstsein und Intentionalität. Wer sich heute auf ihn beruft, meint dagegen meist etwas Praktischeres: dass ein System die Bedeutung dessen, was es ausgibt, nicht erfasst und deshalb unzuverlässig ist.

Das ist ein anderer Vorwurf, und er ist prüfbar, während Searles ursprünglicher es nicht war. Ob ein System Bedeutung erfasst, lässt sich nicht messen; ob es an systematisch konstruierten Abwandlungen scheitert, für die es kein Muster gelernt hat, dagegen sehr wohl.

Die produktive Fortsetzung des Arguments verläuft deshalb nicht über die Frage nach dem Geist im Raum, sondern über die Konstruktion von Prüfaufgaben, an denen sich Abruf und Übertragung unterscheiden lassen.

Der Aufsatz behält damit eine Funktion, die von seiner metaphysischen Streitfrage unabhängig ist: Er hält die Möglichkeit offen, dass eine perfekte Leistung an einer Schnittstelle nichts über das dahinterliegende Verfahren aussagt. Diese Warnung ist in einer Zeit, in der Systembewertung fast vollständig über Ein- und Ausgabeverhalten erfolgt, praktisch bedeutsamer als in den 1980er Jahren.

Verwandte Begriffe

• Chinese-Room-Argument – das im Aufsatz entwickelte Gedankenexperiment
• John R. Searle – Autor
• Starke vs. schwache KI – die im Aufsatz eingeführte Unterscheidung
• Computing Machinery and Intelligence – Turings Text, gegen dessen Ansatz sich Searle richtet
• Turing-Test – Verfahren, dessen Aussagekraft Searle bestreitet
• Symbol-Grounding-Problem – verwandte Frage nach dem Weltbezug von Symbolen
• Stochastic Parrots – moderne Kritik mit verwandter Stoßrichtung
• Substratunabhängigkeit – Gegenposition zu Searles Bindung an biologische Kausalkräfte

Quellenangaben

1. Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
2. Mitchell, Melanie (2019): Artificial Intelligence: A Guide for Thinking Humans.
3. Searle, John R., 1980. Minds, Brains, and Programs. In: Behavioral and Brain Sciences 3 (3), S. 417–457. DOI: 10.1017/S0140525X00005756.
4. Turing, Alan M., 1950. Computing Machinery and Intelligence. In: Mind LIX (236), S. 433–460. DOI: 10.1093/mind/LIX.236.433.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.