Konnektionismus

Konnektionismus bezeichnet den Ansatz, geistige Leistungen als Ergebnis des Zusammenwirkens vieler einfacher, untereinander verbundener Verarbeitungseinheiten zu erklären, statt als Manipulation von Symbolen nach expliziten Regeln.

Wissen liegt in dieser Sichtweise nicht an einer Adresse, sondern in den Gewichten der Verbindungen – verteilt über das gesamte Netz und ohne dass sich einzelne Einheiten einzelnen Begriffen zuordnen ließen.

Der Konnektionismus ist damit zugleich eine Theorie der Kognition und ein Bauprinzip: Die heutigen Künstlichen Neuronalen Netze sind seine technische Fortsetzung, auch wenn die kognitionswissenschaftliche Begründung in der Praxis längst hinter der ingenieurmäßigen zurücktritt.

Zusammenfassung

Die Auseinandersetzung zwischen Konnektionismus und symbolischer KI ist der längste ungelöste Streit der Disziplin.

Allen Newell und Herbert Simon formulierten die symbolische Position 1976 als Physical Symbol System Hypothesis. Sie versteht Denken als Rechnen über diskreten Zeichen: Ein System, das Symbole nach Regeln umformt, verfügt über die notwendigen und hinreichenden Mittel für allgemeine Intelligenz. Wissen ist explizit, lokalisierbar und im Prinzip lesbar.

Der Konnektionismus bestreitet beides. Er nimmt das Gehirn zum Vorbild, nicht die Logik: Einheiten summieren gewichtete Eingaben, geben ein Signal weiter, und Lernen heißt, die Gewichte anzupassen. Was das Netz weiß, steht nirgends geschrieben – es zeigt sich nur im Verhalten.

Der Streit verlief in drei Wellen. Die erste, um Frank Rosenblatts Perzeptron (1958), endete 1969 an einem mathematischen Einwand von Marvin Minsky und Seymour Papert.

Die zweite begann 1986 mit dem zweibändigen Sammelwerk Parallel Distributed Processing und der Verbreitung der Backpropagation. Die dritte, seit etwa 2012, ist die heutige – und sie hat den Streit nicht entschieden, sondern die eine Seite so erfolgreich gemacht, dass die Frage anders gestellt werden muss.

Begriffsgeschichte

Vorläufer: McCulloch und Pitts (1943)

Warren McCulloch und Walter Pitts zeigten 1943 in A Logical Calculus of the Ideas Immanent in Nervous Activity, dass sich Netze aus stark vereinfachten, binären Neuronen so verschalten lassen, dass sie beliebige aussagenlogische Funktionen berechnen.

Bemerkenswert ist die Richtung dieses Ergebnisses: Es sollte nicht das Symbolische ersetzen, sondern zeigen, dass Nervengewebe symbolische Operationen ausführen kann. Der spätere Gegensatz war hier noch keiner.

Donald Hebb ergänzte 1949 in The Organization of Behavior das fehlende Stück – eine Lernregel. Seine Formulierung, dass die Verbindung zwischen zwei gemeinsam aktiven Zellen sich verstärkt, ist als Merksatz „what fires together, wires together” bekannt geworden und liegt allen späteren Lernverfahren als Grundgedanke zugrunde.

Perzeptron und der erste Winter (1958–1969)

Frank Rosenblatt stellte 1958 das Perzeptron vor, ein lernfähiges Netz mit einer anpassbaren Schicht, samt Konvergenzbeweis: Ist eine Aufgabe überhaupt linear trennbar, findet das Verfahren garantiert eine Lösung.

Marvin Minsky und Seymour Papert legten 1969 mit Perceptrons die Grenze offen. Ein einschichtiges Perzeptron kann die XOR-Funktion nicht darstellen, weil sie nicht linear trennbar ist. Das Argument war korrekt, und die Wirkung war weitreichender als der Befund – mehrschichtige Netze waren von der Kritik nicht betroffen, aber es fehlte ein Verfahren, sie zu trainieren.

Die Forschungsmittel wanderten zur symbolischen KI ab. Rosenblatt starb 1971. Die Arbeit an Netzen wurde nicht eingestellt, aber sie fand für anderthalb Jahrzehnte am Rand statt.

Die zweite Welle: PDP und Backpropagation (1982–1990)

John Hopfield beschrieb 1982 rückgekoppelte Netze mit einer Energiefunktion, deren Minima als gespeicherte Muster interpretierbar sind. Die Arbeit brachte physikalische Methoden in das Feld und machte es für Naturwissenschaftler wieder anschlussfähig; 2024 erhielt Hopfield dafür gemeinsam mit Geoffrey Hinton den Nobelpreis für Physik.

Den eigentlichen Bruch markiert 1986. David Rumelhart, Hinton und Ronald Williams veröffentlichten in Nature die Anwendung der Backpropagation auf mehrschichtige Netze und lösten damit das Problem, an dem die erste Welle gescheitert war. Im selben Jahr erschien Parallel Distributed Processing, herausgegeben von Rumelhart und James McClelland – das Werk, das dem Ansatz seinen Namen und sein Programm gab.

Der theoretische Kern von PDP sind die Distributed Representations: Ein Konzept wird nicht von einer Einheit repräsentiert, sondern von einem Aktivierungsmuster über viele. Daraus folgen Eigenschaften, die dem Symbolischen abgehen – Ähnlichkeit wird zu Nähe im Raum, Beschädigung führt zu allmählicher statt plötzlicher Verschlechterung, und Verallgemeinerung ergibt sich von selbst statt durch eigene Regeln.

Der Fodor-Pylyshyn-Einwand (1988)

Jerry Fodor und Zenon Pylyshyn formulierten 1988 in Connectionism and Cognitive Architecture den bis heute meistdiskutierten Einwand.

Ihr Argument setzt an der Systematizität an: Wer den Satz „Johann liebt Maria” versteht, versteht notwendig auch „Maria liebt Johann”. Dieses Zusammenspiel ist kein Zufall, sondern folgt aus der kombinatorischen Struktur der Repräsentation. Genau diese Struktur, so die Autoren, könne ein Netz mit verteilten Repräsentationen nicht besitzen – es könne beide Sätze lernen, aber nicht aus dem einen den anderen erschließen.

Der Schluss lautete: Konnektionistische Netze sind entweder keine Erklärung der Kognition oder bloß eine Implementierungsebene, auf der eine symbolische Architektur läuft. Die Debatte darüber ist nie förmlich beendet worden. Aus heutiger Sicht ist bemerkenswert, dass große Sprachmodelle die geforderte Systematizität weitgehend zeigen, ohne dass eine symbolische Ebene eingebaut wurde – ob das den Einwand widerlegt oder nur verschiebt, ist strittig.

Die dritte Welle (ab 2012)

Was den Konnektionismus ab 2012 durchsetzte, war keine neue Theorie, sondern das Zusammentreffen dreier Bedingungen: hinreichend große Datenmengen, Grafikprozessoren als bezahlbare Rechenleistung und eine Reihe technischer Verbesserungen an Aktivierungsfunktionen, Initialisierung und Regularisierung.

Der Sieg von AlexNet im ImageNet-Wettbewerb 2012 gilt als der Moment, an dem die Fachöffentlichkeit umschwenkte. Von dort führt die Linie über rekurrente Netze und LSTM bis zu den heutigen Sprachmodellen; die entscheidende Station auf diesem Weg ist die Transformer-Architektur von 2017.

Methodische Grundlagen

Vier Annahmen unterscheiden den konnektionistischen Ansatz vom symbolischen.

Verteilte statt lokaler Repräsentation. Ein Begriff entspricht keinem Speicherplatz, sondern einem Muster. Deshalb lässt sich aus einem trainierten Netz nicht ablesen, was es gelernt hat – das ist der Ausgangspunkt der gesamten Interpretierbarkeitsforschung.

Parallele Verarbeitung. Alle Einheiten einer Schicht rechnen gleichzeitig. Das entspricht der biologischen Vorlage und ist zugleich der Grund, warum Grafikprozessoren die passende Hardware sind.

Lernen statt Programmieren. Verhalten wird nicht spezifiziert, sondern aus Beispielen gewonnen. Die Aufgabe verschiebt sich vom Formulieren der Regel zum Bereitstellen der Daten und zum Festlegen des Fehlermaßes.

Weiche Beschränkungen. Ein Netz erfüllt viele Bedingungen näherungsweise und gleichzeitig, statt eine Regel exakt anzuwenden. Daher die Robustheit gegenüber unvollständigen Eingaben – und daher auch, dass es nie ganz richtig liegt.

Anwendungsfelder

Als Bauprinzip ist der Konnektionismus in praktisch jedem heutigen KI-System wirksam, vom Bildmodell bis zum Sprachmodell; sein Anspruch als Erklärung menschlicher Kognition ist damit aber nicht eingelöst.

In der Kognitionswissenschaft sind konnektionistische Modelle weiterhin ein eigenständiges Werkzeug, besonders dort, wo es um allmähliche Entwicklung geht.

Beim Spracherwerb etwa bilden Netze das charakteristische Muster der Übergeneralisierung nach. Und in der Modellierung von Wortschatzstörungen führen Beschädigungen des Netzes zu Ausfallmustern, die klinischen Befunden ähneln.

Kontroversen und Kritik

Erklärungsanspruch: Dass ein Netz eine Leistung erbringt, zeigt nicht, dass Menschen sie so erbringen. Der Einwand betrifft besonders die dritte Welle, deren Systeme mit Datenmengen trainiert werden, die kein Kind je sieht.

Systematizität und Kompositionalität: Der Fodor-Pylyshyn-Einwand ist durch die Leistungen großer Sprachmodelle empirisch unter Druck geraten, aber nicht ausgeräumt. Umstritten bleibt, ob generalisierende Leistung dieselbe Sache ist wie strukturelle Kompositionalität.

Undurchsichtigkeit: Verteilte Repräsentation und Erklärbarkeit stehen in einem Zielkonflikt, der nicht zufällig, sondern konstitutiv ist. Die mechanistische Interpretierbarkeit versucht, ihn nachträglich zu bearbeiten.

Datenhunger und Verankerung: Netze lernen aus Korrelationen in Zeichenketten. Ob damit Bedeutung im vollen Sinn erreicht wird, ist Gegenstand des Symbol-Grounding-Problems und in der Debatte um Sprachmodelle neu aufgeflammt.

Hybride Gegenentwürfe: Die neurosymbolische Forschungslinie hält den Streit für falsch gestellt und sucht Architekturen, die beides verbinden – bisher ohne die Breitenwirkung der reinen Netze.

Quellenangaben

Fodor, Jerry A. / Pylyshyn, Zenon W., 1988. Connectionism and Cognitive Architecture: A Critical Analysis. In: Cognition 28 (1–2), S. 3–71. DOI: 10.1016/0010-0277(88)90031-5.
Hebb, Donald O., 1949. The Organization of Behavior: A Neuropsychological Theory.
Hopfield, John J., 1982. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. In: Proceedings of the National Academy of Sciences 79 (8), S. 2554–2558. DOI: 10.1073/pnas.79.8.2554.
Krizhevsky, Alex / Sutskever, Ilya / Hinton, Geoffrey E., 2012. ImageNet Classification with Deep Convolutional Neural Networks. In: Advances in Neural Information Processing Systems 25 (NeurIPS 2012), S. 1097–1105.
McCulloch, Warren S. / Pitts, Walter, 1943. A Logical Calculus of the Ideas Immanent in Nervous Activity. In: Bulletin of Mathematical Biophysics 5 (4), S. 115–133. DOI: 10.1007/BF02478259.
Minsky, Marvin / Papert, Seymour, 1969. Perceptrons: An Introduction to Computational Geometry.
Newell, Allen / Simon, Herbert A., 1976. Computer Science as Empirical Inquiry: Symbols and Search. In: Communications of the ACM 19 (3), S. 113–126. DOI: 10.1145/360018.360022.
Rosenblatt, Frank, 1958. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. In: Psychological Review 65 (6), S. 386–408. DOI: 10.1037/h0042519.
Rumelhart, David E. / Hinton, Geoffrey E. / Williams, Ronald J., 1986. Learning Representations by Back-Propagating Errors. In: Nature 323 (6088), S. 533–536. DOI: 10.1038/323533a0.
Rumelhart, David E. / McClelland, James L. (Hrsg.), 1986. Parallel Distributed Processing: Explorations in the Microstructure of Cognition.
The Royal Swedish Academy of Sciences, 2024. The Nobel Prize in Physics 2024. Pressemitteilung, 8. Oktober 2024. nobelprize.org.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.