Starke vs. schwache KI

Starke KI und schwache KI (englisch strong AI und weak AI) sind ein Begriffspaar, das der Philosoph John R. Searle 1980 in dem Aufsatz Minds, Brains, and Programs einführte.

Es unterscheidet zwei grundverschiedene Ansprüche, die man mit einem Computerprogramm verbinden kann: dass es ein nützliches Werkzeug zur Erforschung des Geistes sei – oder dass es, richtig programmiert, selbst ein Geist sei.

Das Begriffspaar ist eines der meistzitierten der KI-Philosophie und zugleich eines der am häufigsten falsch verwendeten: Im heutigen Sprachgebrauch bezeichnet starke KI meist nicht mehr Searles Bewusstseinsthese, sondern die Leistungsbreite eines Systems und ist damit weitgehend zum Synonym für AGI geworden. Diese Verschiebung ist dokumentiert und für das Verständnis der Debatte entscheidend, weil beide Lesarten völlig unterschiedliche Fragen stellen.

Zusammenfassung

Searles ursprüngliche Unterscheidung ist keine Skala und kein Stufenmodell. Sie trennt eine Position von einer metaphysischen. Die schwache These behauptet, dass Computer der Kognitionsforschung nützen, weil sie Hypothesen präzise formulierbar und prüfbar machen – eine Aussage über Forschungsmethodik, die Searle ausdrücklich teilt.

Die starke These behauptet, dass der angemessen programmierte Computer buchstäblich versteht und mentale Zustände hat; das Programm ist dann nicht Modell des Geistes, sondern Geist. Nur diese zweite These greift Searle mit dem Chinesischen Zimmer an.

Entscheidend ist, was in dieser Unterscheidung nicht vorkommt: die Frage, wie viele oder wie schwierige Aufgaben ein System bewältigt.

Searles starke KI kann ein sehr schmales Programm sein, solange es versteht; ein System, das jede menschliche Aufgabe löst, ohne zu verstehen, wäre nach seiner Terminologie schwache KI. Genau diese Achse hat der spätere Sprachgebrauch eingezogen und die ursprüngliche gestrichen.

Russell und Norvig halten den Vorgang im Standardlehrbuch des Faches nüchtern fest: Die Definition von strong AI habe sich mit der Zeit dahin verschoben, das zu bezeichnen, was auch human-level AI oder general AI genannt werde – Programme, die eine beliebig breite Aufgabenvielfalt so gut lösen wie ein Mensch.

Begriffsgeschichte

Searle schrieb 1980 in eine konkrete Forschungslage hinein. Der Symbolverarbeitungsansatz galt als das Paradigma der KI; Allen Newell und Herbert A. Simon hatten 1976 mit der Physical Symbol System Hypothesis die These formuliert, ein physikalisches Symbolsystem verfüge über die notwendigen und hinreichenden Mittel für allgemeines intelligentes Handeln (Newell / Simon 1976).

Roger Schanks Skript-Programme, auf die Searle sich direkt bezieht, beantworteten Fragen zu kurzen Geschichten und wurden von ihren Autoren als Modelle menschlichen Verstehens präsentiert. Searles Frage lautete: Was genau soll die Behauptung heißen, ein solches Programm verstehe?

Seine Antwort beginnt mit der Unterscheidung selbst. Nach der schwachen These bestehe der Hauptwert des Computers für die Erforschung des Geistes darin, dass er ein sehr mächtiges Werkzeug liefere.

Nach der starken These dagegen sei der Computer nicht bloß ein Werkzeug; vielmehr sei der angemessen programmierte Computer wirklich ein Geist – „in the sense that computers given the right programs can be literally said to understand and have other cognitive states” (Searle 1980).

Das Wort literally trägt die Last des ganzen Aufsatzes: Searle bestreitet nicht, dass man Programmen metaphorisch Verstehen zuschreiben kann, sondern dass die Zuschreibung wörtlich zutrifft.

Das Gedankenexperiment des Chinesischen Zimmers ist der Beleg, den Searle für seine Ablehnung der starken These anführt: Ein Mensch, der nach einem Regelbuch chinesische Zeichen manipuliert, ohne Chinesisch zu verstehen, führt genau das aus, was ein Programm ausführt – Syntax ohne Semantik.

Searle hat die Unterscheidung in Minds, Brains and Science (1984) und in seiner Auseinandersetzung mit Paul und Patricia Churchland im Scientific American (Searle 1990; Churchland / Churchland 1990) beibehalten und in The Rediscovery of the Mind (1992) in seinen biologischen Naturalismus eingebettet.

Die Bedeutungsverschiebung

Parallel dazu entstand ab den späten 1990er Jahren ein zweites Vokabular für eine andere Frage. Mark Gubrud verwendete 1997 den Ausdruck artificial general intelligence, den Shane Legg und Ben Goertzel ab 2001 popularisierten (Goertzel / Pennachin 2007). Dieses Vokabular fragt nicht nach Bewusstsein, sondern nach Reichweite: Wie viele und wie verschiedenartige Aufgaben bewältigt ein System?

Legg und Hutter trugen 2007 über siebzig Intelligenzdefinitionen zusammen und destillierten daraus eine rein leistungsbezogene Bestimmung – Intelligenz als Fähigkeit, Ziele in einer breiten Menge von Umgebungen zu erreichen. Von Verstehen oder Erleben ist darin nicht die Rede.

Die beiden Vokabulare sind dann verschmolzen, und zwar asymmetrisch: Der Ausdruck starke KI wanderte in die Reichweitenfrage ab, während für Searles ursprüngliche Frage kein eigener Ausdruck zurückblieb.

In populären Darstellungen, in Unternehmensberichten und in weiten Teilen des deutschsprachigen Diskurses steht starke KI heute für ein System mit menschenähnlicher Aufgabenbreite und schwache KI für die vorhandenen, aufgabenspezifischen Systeme. Das deutsche Begriffspaar ist eine direkte Lehnübersetzung und hat die Mehrdeutigkeit des englischen Originals vollständig geerbt, ohne dass die Verschiebung im Deutschen je eigens markiert worden wäre.

Aus dieser Verschiebung folgen zwei praktische Probleme. Erstens werden Aussagen aneinander vorbeigeführt: Wer sagt, starke KI sei „noch nicht erreicht”, meint fast immer Aufgabenbreite, während ein Einwand wie Searles sich auf Bewusstsein bezieht und durch keinen Fähigkeitszuwachs berührt würde.

Zweitens verschwindet in der neuen Lesart die Möglichkeit, die Searle gerade offenhalten wollte: dass ein System beliebig fähig sein kann, ohne dass irgendetwas in ihm versteht. Diese Möglichkeit ist nicht exotisch, sondern die Standardposition eines großen Teils der heutigen Debatte über Sprachmodelle.

Der Stanford-Eintrag zum Chinesischen Zimmer (Cole 2024) referiert die Debatte in Searles ursprünglicher Bedeutung und behandelt die Verschiebung nicht – ein Hinweis darauf, dass die philosophische und die technische Literatur die Begriffe inzwischen getrennt führen.

Systematische Stellung

Searles Unterscheidung ist selbst nicht neutral, sondern in eine Position eingebettet. Sie setzt voraus, dass die Frage nach dem Verstehen sinnvoll unabhängig von der Frage nach dem Verhalten gestellt werden kann – eine Voraussetzung, die der Funktionalismus bestreitet.

Wenn mentale Zustände durch ihre funktionale Rolle definiert sind, dann gibt es keinen Rest, um den es nach der vollständigen Verhaltensbeschreibung noch ginge, und die starke These wird trivial wahr statt substantiell strittig. Searle greift diese Voraussetzung frontal an, und ein erheblicher Teil der Sekundärliteratur richtet sich gegen genau diesen Punkt und nicht gegen das Gedankenexperiment.

Auf der anderen Seite steht die behavioristische Tradition, für die der Turing-Test das kanonische Kriterium liefert: Wenn ein System sich in der Konversation nicht von einem Menschen unterscheiden lässt, sei die Frage nach dem inneren Zustand entweder beantwortet oder unbeantwortbar (Turing 1950).

Ned Block hat diese Position 1981 mit einem Gegenbeispiel angegriffen, das strukturell an das Chinesische Zimmer erinnert: eine gigantische Nachschlagetabelle, die jede mögliche Konversation vorab enthält und den Test bestünde, ohne dass irgendjemand ihr Intelligenz zuschreiben würde. Blocks Punkt ist, dass nicht nur das Verhalten zählt, sondern wie es zustande kommt – eine dritte Position zwischen Searle und dem Funktionalismus.

Ein vierter Strang schließlich verlegt die Frage ins Empirische. Stevan Harnad formulierte 1990 das Symbol Grounding Problem als Forschungsaufgabe: Nicht die Verneinung der starken These sei die Antwort, sondern eine Architektur, in der symbolische Repräsentationen in nicht-symbolischen Grundlagen verankert sind. Damit wird aus einer metaphysischen Streitfrage eine Konstruktionsanforderung.

Kritik

Der wichtigste Einwand gegen die Unterscheidung selbst lautet, dass sie eine Zwischenposition ausschließt, die inzwischen die wahrscheinlichste ist. Searles Alternative ist binär – entweder das Programm ist ein Geist, oder es ist ein Werkzeug.

Zeitgenössische Positionen zu Sprachmodellen liegen fast durchweg dazwischen: Systeme, die semantisch gehaltvolle Leistungen erbringen, ohne dass ihnen deshalb Erleben zugeschrieben würde. Emma Borg hat das 2024 als abgeleitete Intentionalität ausbuchstabiert – sprachliche Ausgaben mit genuiner, aber aus der menschlichen Sprachgemeinschaft geerbter Bedeutung. In Searles Raster hat diese Position keinen Platz.

Ein zweiter Einwand betrifft die Asymmetrie der beiden Thesen. Die schwache These ist kaum bestreitbar und deshalb schwach im doppelten Sinn: Sie behauptet wenig und wird von niemandem angegriffen. Die starke These ist so formuliert, dass sie nur von einem Teil der KI-Forschung überhaupt vertreten wurde. Kritiker haben Searle deshalb vorgeworfen, ein Etikett für eine Position geschaffen zu haben, die er selbst zuschneidet.

Der dritte Einwand ist pragmatisch und richtet sich gegen den heutigen Gebrauch: Ein Begriffspaar, dessen beide Verwendungsweisen einander widersprechen, taugt nicht mehr als Ordnungsraster. In der technischen Literatur ist es entsprechend weitgehend durch das AGI-Vokabular ersetzt worden; in der philosophischen Literatur wird es weiter in Searles Sinn verwendet. Wer beide Literaturen liest, muss die Bedeutung jeweils aus dem Kontext erschließen.

Stand 2025/2026

Die Frage, um die es Searle ging, ist seit etwa 2023 aus der reinen Begriffsanalyse herausgetreten.

Ein interdisziplinärer Bericht von Patrick Butlin, Robert Long und siebzehn weiteren Autor:innen leitet aus fünf Bewusstseinstheorien berechenbare Indikatoreigenschaften ab und prüft aktuelle Systeme daran (Butlin u. a. 2023). Das Ergebnis ist doppelt bemerkenswert: Kein gegenwärtiges KI-System sei bewusst, aber es gebe auch keine offensichtlichen technischen Hindernisse, Systeme zu bauen, die diese Indikatoren erfüllen.

David Chalmers kommt unabhängig zu einer ähnlichen Struktur – heutige Sprachmodelle seien eher nicht bewusst, wobei er konkrete architektonische Defizite benennt (fehlende Rekurrenz, kein globaler Arbeitsraum, keine einheitliche Handlungsträgerschaft), die in absehbarer Zeit behebbar sein könnten (Chalmers 2023).

Damit hat sich das Verhältnis der beiden Lesarten umgekehrt. Solange starke KI im Sinne Searles eine rein philosophische Frage war, konnte man sie als Sprachverwirrung behandeln und zur Fähigkeitsdiskussion übergehen. Inzwischen liegt für die Bewusstseinsfrage ein Methodenvorschlag vor, der Indikatoren angibt und Systeme daran prüft.

Die praktische Konsequenz ist, dass die Vermischung der beiden Bedeutungen teurer wird: Aussagen darüber, wie fähig ein System ist, und Aussagen darüber, ob in ihm etwas vorgeht, werden gerade dann verwechselbar, wenn sie zum ersten Mal beide beantwortbar erscheinen. Der saubere Weg besteht darin, für die Reichweitenfrage konsequent AGI zu sagen und starke KI Searles Frage vorzubehalten.

Verwandte Begriffe

• Chinese Room Argument – das Argument, mit dem Searle die starke These bestreitet
• John R. Searle – Urheber des Begriffspaars
• AGI – das Vokabular, das die Reichweitenfrage stellt und starke KI in dieser Bedeutung abgelöst hat
• Funktionalismus – Gegenposition, für die die Unterscheidung ihre Substanz verliert
• Turing-Test – das behavioristische Kriterium, gegen das Searle argumentiert
• Symbol Grounding Problem – Harnads empirische Umformulierung derselben Frage
• Intentionalität – der Begriff, um den es in der starken These sachlich geht
• Philosophie des Geistes – Disziplin, in der die Unterscheidung steht
• Substratunabhängigkeit – die These, gegen die Searles biologischer Naturalismus sich richtet
• Moral Status of Digital Minds – praktische Folgefrage, falls die starke These zuträfe

Quellenangaben

1. Block, Ned, 1981. Psychologism and Behaviorism. In: The Philosophical Review 90 (1), S. 5–43.
2. Borg, Emma, 2024. LLMs, Turing Tests and Chinese Rooms: The Prospects for Meaning in Large Language Models. In: Inquiry, online first. DOI: 10.1080/0020174X.2024.2446241
3. Butlin, Patrick / Long, Robert / Elmoznino, Eric u. a., 2023. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv: 2308.08708
4. Chalmers, David J., 2023. Could a Large Language Model Be Conscious? In: Boston Review / arXiv: 2303.07103.
5. Churchland, Paul M. / Churchland, Patricia Smith, 1990. Could a Machine Think? In: Scientific American 262 (1), S. 32–37.
6. Cole, David, 2024. The Chinese Room Argument. In: Stanford Encyclopedia of Philosophy, hrsg. von Edward N. Zalta.
7. Goertzel, Ben / Pennachin, Cassio (Hrsg.), 2007. Artificial General Intelligence.
8. Gubrud, Mark, 1997. Nanotechnology and International Security. Fifth Foresight Conference on Molecular Nanotechnology.
9. Harnad, Stevan, 1990. The Symbol Grounding Problem. In: Physica D: Nonlinear Phenomena 42 (1–3), S. 335–346. DOI: 10.1016/0167-2789(90)90087-6
10. Legg, Shane / Hutter, Marcus, 2007. A Collection of Definitions of Intelligence. In: Frontiers in Artificial Intelligence and Applications 157, S. 17–24.
11. Newell, Allen / Simon, Herbert A., 1976. Computer Science as Empirical Inquiry: Symbols and Search. In: Communications of the ACM 19 (3), S. 113–126. DOI: 10.1145/360018.360022.
12. Russell, Stuart / Norvig, Peter, 2021. Artificial Intelligence: A Modern Approach. 4. Auflage. Hoboken: Pearson, Kapitel 27: Philosophy and Ethics of AI.
13. Searle, John R., 1980. Minds, Brains, and Programs. In: Behavioral and Brain Sciences 3 (3), S. 417–457. DOI: 10.1017/S0140525X00005756.
14. Searle, John R., 1984. Minds, Brains and Science.
15. Searle, John R., 1990. Is the Brain’s Mind a Computer Program? In: Scientific American 262 (1), S. 26–31.
16. Searle, John R., 1992. The Rediscovery of the Mind.
17. Turing, Alan M., 1950. Computing Machinery and Intelligence. In: Mind LIX (236), S. 433–460. DOI: 10.1093/mind/LIX.236.433.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.