Stochastic Parrots

Stochastic Parrots (deutsch wörtlich stochastische Papageien; gelegentlich auch statistische Papageien) bezeichnet eine wissenschaftliche Metapher, die im März 2021 von Emily M. Bender, Timnit Gebru, Angelina McMillan-Major und Margaret Mitchell in dem auf der ACM-Konferenz FAccT 2021 publizierten Aufsatz On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 eingeführt wurde.

Die Metapher beschreibt große Sprachmodelle (Large Language Models, LLMs) als Systeme, die statistische Verteilungen menschlicher Texte rekonstruieren und auf dieser Grundlage flüssig erscheinenden Output erzeugen – ohne dabei die Bedeutung der produzierten Sprache zu verstehen.

Der Aufsatz, in dem die Metapher erstmals verwendet wurde, gehört zu den meistzitierten und wirkungsmächtigsten Beiträgen der jüngeren KI-Ethik-Literatur; Stochastic Parrots ist als analytisches Schlagwort in Forschung, Journalismus und Regulierungsdiskussion fest etabliert.

Die Veröffentlichungsgeschichte des Aufsatzes ist zugleich Ausgangspunkt einer institutionell folgenreichen Auseinandersetzung: Sie führte zum Ausscheiden von Timnit Gebru aus dem Google Ethical AI Team im Dezember 2020 und prägt seither den Diskurs um wissenschaftliche Unabhängigkeit in Konzern-Forschungsumgebungen.

Zusammenfassung

Der Aufsatz formuliert vier zentrale Argumente gegen die unbeschränkte Skalierung großer Sprachmodelle: Umwelt- und Ressourcenkosten, inhärente Verzerrungen der Trainingsdaten, das Fehlen semantischen Verstehens und Risiken absichtlichen Missbrauchs.

Der Begriff Stochastic Parrot ist eine memetisch wirkungsvolle Verdichtung des dritten Arguments.

Bender und Kollegin Alexander Koller hatten in einem vorangegangenen Aufsatz (Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data, ACL 2020) bereits theoretisch begründet, warum aus rein syntaktisch-statistischen Trainingsdaten kein semantisches Verstehen erwachsen könne. Stochastic Parrots überträgt diese Position auf die gegenwärtige Generation großer Sprachmodelle.

Der Aufsatz ist nicht nur konzeptuell folgenreich gewesen, sondern auch Auslöser einer der einschneidendsten institutionellen Auseinandersetzungen der jüngeren KI-Geschichte. Gegen einzelne seiner Thesen – insbesondere die kategorische Verstehensthese – ist von verschiedenen Seiten substantiell argumentiert worden; die zentrale Wirkung des Aufsatzes ist davon nicht beeinträchtigt.

Begriffsgeschichte

Vorläufer: Climbing towards NLU (Bender/Koller 2020)

Die theoretische Grundlage der Stochastic-Parrots-These geht auf Emily M. Bender (University of Washington, Linguistin) und Alexander Koller (Universität des Saarlandes, Computerlinguist) zurück.

In Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data (Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, ACL 2020) argumentierten beide für eine klare These. Systeme, die ausschließlich an textueller Form trainiert werden, ohne Verankerung in nicht-sprachlichem Erfahrungsweltbezug, können prinzipiell keine semantische Kompetenz im starken Sinne erwerben.

Das Argument wurde unter dem Begriff octopus test (in dem es um eine hypothetische, sehr intelligente Krake geht, die nur Textübertragungen abhört und gleichwohl keinen Begriff von der Welt erwerben kann, die diese Texte beschreiben) bekannt.

Entstehungsgeschichte des Aufsatzes

Der Aufsatz entstand aus einer Twitter-Direktnachrichten-Diskussion zwischen Bender und Gebru im Herbst 2020. Beteiligte waren neben Bender (University of Washington), Gebru und Margaret Mitchell (beide Google Ethical AI Team) auch Angelina McMillan-Major (University of Washington) sowie als nicht namentlich genannte Beitragende Vinodkumar Prabhakaran, Mark Díaz und Ben Hutchinson. Die Einreichung erfolgte zur ACM-Konferenz FAccT 2021.

Nach der internen Begutachtung wurde Gebru am 2./3. Dezember 2020 von ihrem Vorgesetzten Jeff Dean aufgefordert, den Aufsatz zurückzuziehen oder ihren Namen und die Namen der weiteren Google-Co-Autorinnen zu entfernen. Es folgte der im Eintrag Timnit Gebru näher dargestellte Konflikt.

Die Endfassung des Aufsatzes erschien – ohne Google-Affiliationen, mit Shmargaret Shmitchell als Pseudonym von Margaret Mitchell – im März 2021 in den FAccT-2021-Tagungsbandbeiträgen.

Namensgebung

Die Bezeichnung Stochastic Parrots ist von den Autorinnen mit doppelter Pointe gewählt: stochastisch verweist auf die Wahrscheinlichkeitsverteilung, aus der LLMs ihre Ausgaben sampeln; Papageien auf die Reproduktion ohne Verständnis. Das ergänzende Emoji 🦜 im Titel ist Bestandteil der offiziellen Zitation und Ausdruck einer dezidierten Diskurs-Ästhetik der Autorinnen.

Inhalt des Aufsatzes

Der Aufsatz identifiziert vier Hauptrisiken großer Sprachmodelle:

1. Umwelt- und Ressourcenkosten

Das Training großer Sprachmodelle erfordert erhebliche Rechenressourcen und damit erhebliche CO₂-Emissionen. Die Autorinnen weisen auf eine ungleiche Verteilung dieser Belastungen hin: Die ökologischen Kosten tragen tendenziell ärmere Regionen des Globalen Südens, die Nutzen entstehen tendenziell wohlhabenden Sprachgemeinschaften des Globalen Nordens (insbesondere des Englischen).

Die These ist seither in zahlreichen Folgestudien zu AI-Carbon-Footprint präzisiert worden (Strubell u. a. 2019, Patterson u. a. 2021); auch wenn einzelne Schätzungen revidiert wurden, ist die Grundthematik weiterhin Gegenstand der Forschung.

2. Inhärente Verzerrungen der Trainingsdaten

LLMs werden auf großen Textkorpora aus dem Internet trainiert; diese Korpora reproduzieren systematische Verzerrungen – sprachlich, geografisch, soziologisch, gender- und rassebezogen.

Skalierung verstärkt diese Verzerrungen, statt sie zu mildern, weil größere Korpora mehrheitlich aus denselben dominanten Quellen schöpfen. Der Aufsatz benennt insbesondere die Unter-Repräsentation marginalisierter Sprachen und Sprechergruppen sowie die Reproduktion diskriminierender Stereotype.

3. Mangelndes Verstehen – die Stochastic-Parrot-These im engeren Sinne

LLMs produzieren flüssigen Text, indem sie wahrscheinlichkeitsgewichtete Verteilungen über Wortfolgen aus ihren Trainingsdaten rekonstruieren. Sie verfügen jedoch – so die These – über kein Verstehen der von ihnen produzierten Inhalte.

Die unbedarfte Annahme der menschlichen Nutzer:innen, hinter dem produzierten Text stehe eine verstehende Instanz, ist ein konstitutiver Bestandteil dieses Risikos: Erst sie verleiht den Modellen pragmatische Wirkung jenseits ihrer formalen Kompetenz.

4. Risiken absichtlichen Missbrauchs

LLMs können für die automatisierte Produktion von Desinformation, Manipulation, Phishing, automatisierter Belästigung, gezielter Propaganda und betrügerischer Kundenkommunikation eingesetzt werden.

Die Autorinnen weisen darauf hin, dass diese Risiken nicht erst bei hypothetischer Allgemeiner Intelligenz, sondern bereits in den heutigen Generationen real und dokumentiert sind. Damit positioniert sich der Aufsatz auch in expliziter Distanz zur x-risk-fokussierten KI-Sicherheitsdebatte (Bostrom, Yudkowsky), die nach Auffassung der Autorinnen reale gegenwärtige Schäden zugunsten hypothetischer künftiger Katastrophen marginalisiere.

Theoretische Einbettung

Linguistische Grundlage

Die These des mangelnden Verstehens ist auf zwei linguistische Argumente gestützt:

• Form vs. Bedeutung: Bender/Koller (2020) argumentieren, dass linguistische Form (Syntax, Statistik, Wortverteilungen) und linguistische Bedeutung (referentielle und intentionale Beziehung zu außersprachlichen Sachverhalten) zwei unterschiedliche analytische Kategorien sind. Verstehen erfordert die Beziehung beider; Training auf reine Form kann diese Beziehung nicht herstellen.
• Ungrounded Statistics: Selbst sehr leistungsfähige statistische Modelle bleiben innerhalb des sprachlichen Raumes; sie haben keinen unabhängigen Zugriff auf den nicht-sprachlichen Erfahrungsraum, auf den sich Sprache bezieht. Embodiment und grounding sind in der heutigen LLM-Architektur strukturell ausgeschlossen.

Diskursive Anschlüsse

Die Stochastic-Parrots-These steht in Anschluss an mehrere Diskurse:

• Wissenschaftliche Linguistik: Bender als Sprachwissenschaftlerin (Computerlinguistik, Syntax-Forschung) bringt eine fachliche Perspektive ein, die im Mainstream der NLP-Industrie selten geworden ist.
• Critical AI Studies: Die Verbindung von technischer Argumentation und soziopolitischer Analyse ist programmatisch für Gebrus Werk.
• Posthumanismus: Auch wenn der Aufsatz selbst diese Bezugslinie nicht explizit zieht, lassen sich Anschlüsse an Hayles’ Unterscheidung von Information und Bedeutung herstellen.
• TESCREAL-Kritik: Die Distanzierung von der x-risk-fokussierten KI-Sicherheitsdebatte bildet einen frühen Beleg dessen, was später als TESCREAL-Kritik systematisiert wird.

Rezeption und Wirkung

Etablierung als Standardbegriff

Stochastic Parrot ist seit 2021 in der akademischen Literatur, in der journalistischen Berichterstattung und in regulatorischen Diskursen als analytisches Schlagwort etabliert. Das American Dialect Society wählte den Begriff zum AI-related Word of the Year 2023. Die Bezeichnung ist in der Diskussion um Hallucinations, Verlässlichkeit, Verstehen und Grounding großer Sprachmodelle einer der häufigsten Bezugspunkte.

Wirkung auf Forschung und Industrie

Die im Aufsatz formulierten Bedenken haben in mehrere Forschungs- und Industriebereiche gewirkt:

• Die Forschung zu Data Statements for NLP (Bender/Friedman 2018) und zu Datasheets for Datasets (Gebru u. a. 2018, 2021) hat zugleich an Verbreitung gewonnen.
• Constitutional AI, RLHF und nachfolgende Verfahren der Alignment-Forschung beziehen sich teils ausdrücklich auf die im Aufsatz formulierten Risiken.
• Die EU AI Act-Diskussion (Verordnung 2024) hat insbesondere zu Transparenz- und Dokumentationspflichten ähnliche Forderungen erhoben.

Buch The AI Con (2025)

Im Mai 2025 erschien das gemeinsam von Emily M. Bender und Alex Hanna (DAIR) verfasste Buch The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want (HarperCollins), das die Stochastic-Parrots-These in eine ausführliche Kritik der KI-Industrie und ihrer rhetorischen Selbstinszenierung einbettet. Das Buch ist eine programmatische Erweiterung des Aufsatzes von 2021 in das Format der populären Sachbuchliteratur.

Kritik

Methodische und konzeptuelle Einwände

Die kategorische Verstehensthese ist innerhalb der KI-Forschung kontrovers. Zu den substantiellsten Repliken gehören:

• Yoav Goldberg (Bar-Ilan University) hat in einem im Januar 2021 veröffentlichten Aufsatz die zentralen Punkte des Aufsatzes überwiegend gewürdigt, aber zugleich auf ungenauere Stellen hingewiesen – insbesondere darauf, dass die einfache Gleichsetzung „LLM = Papagei” empirisch unterbestimmt sei.
• Christopher D. Manning (Stanford University) hat in Human Language Understanding & Reasoning (Dædalus 151 [2], 2022) die strikte Form-Bedeutung-Trennung in Frage gestellt und argumentiert, dass aus der distributionellen Struktur der Trainingsdaten (das, was im Kontext mit anderen Wörtern gemeinsam vorkommt) sehr wohl etwas wie semantische Information emergieren kann.
• Steven T. Piantadosi und Felix Hill (Meaning without Reference in Large Language Models, 2022) argumentieren, dass Referenz – das, was der Aufsatz als Bedingung von Bedeutung voraussetzt – nicht die einzige Form sprachlicher Bedeutung sei, und dass konzeptuelle Rollen-Bedeutung (conceptual role semantics) sehr wohl in LLMs realisiert sein könne.
• Murray Shanahan (DeepMind, Imperial College London) hat in Talking About Large Language Models (2023) eine differenzierte Position formuliert: LLMs sind Stochastic Parrots in einem präzisen technischen Sinne; gleichwohl kann ihr Output unter Bedingungen menschlicher Interaktion und Vorbereitung Funktionen erfüllen, die wir kommunikativ als Verstehen interpretieren.

Kritik aus der x-risk-orientierten Community

Aus der x-risk-fokussierten KI-Sicherheits-Community (LessWrong, MIRI) ist wiederholt eingewendet worden, der Aufsatz adressiere die spezifischen Risiken zukünftiger agentischer Systeme nicht; Stochastic Parrots sei eine zutreffende Analyse heutiger LLMs, aber nicht der mittel- bis langfristigen Risiken hochkapabler KI.

Bender und Gebru haben diese Replik als symptomatisch für jene Verschiebung der öffentlichen Aufmerksamkeit zurückgewiesen, die Stochastic Parrots gerade kritisiert.

Selbstkritik aus angrenzenden Lagern

Auch innerhalb der KI-Ethik-Community ist diskutiert worden, ob die Stochastic-Parrots-Metapher in pragmatischen Diskussionen um konkrete LLM-Anwendungen zu kategorisch sei.

Eine differenzierende Lesart unterscheidet die deskriptive Analyse (LLMs rekonstruieren Wahrscheinlichkeitsverteilungen ohne Grounding) von der normativen These (LLMs sollten nicht als verstehende Systeme behandelt werden). Die deskriptive Analyse ist breit anerkannt; die normative Position bleibt diskursiv.

Bedeutung als analytisches Werkzeug

Trotz der genannten Einwände hat sich Stochastic Parrots als analytisches Werkzeug bewährt, weil es eine semantische Asymmetrie sichtbar macht, die in der Interaktion mit LLMs leicht übersehen wird. Während Nutzer:innen aufgrund kommunikativer Routinen ein verstehendes Gegenüber unterstellen, ist die rein statistische Architektur des Systems mit dieser Unterstellung in Spannung.

Der Aufsatz verbindet damit eine konzeptionelle Analyse mit einer methodischen Heuristik: Wer LLMs verlässlich einsetzen will, sollte sich der Versuchung des Anthropomorphismus widersetzen – eine Position, die in der praktischen NLP-Diskussion seither prägend geworden ist.

Verwandte Begriffe

• Timnit Gebru – Co-Autorin und durch den Aufsatz im Zusammenhang mit ihrem Ausscheiden aus Google
• Symbol Grounding Problem – philosophische Vorläuferdebatte
• Form vs. Meaning (Bender/Koller 2020) – theoretische Grundlage
• TESCREAL – ideologiekritischer Anschluss
• FAccT (Fairness, Accountability, Transparency) – wissenschaftliche Community

Quellenangaben

1. American Dialect Society (2024): 2023 AI-Related Word of the Year. Pressemitteilung, 5. Januar 2024.
2. Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
3. Bender, Emily M. / Koller, Alexander (2020): Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data. In: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), S. 5185–5198. DOI: 10.18653/v1/2020.acl-main.463.
4. Bender, Emily M. / Friedman, Batya (2018): Data Statements for Natural Language Processing: Toward Mitigating System Bias and Enabling Better Science. In: Transactions of the Association for Computational Linguistics 6, S. 587–604. DOI: 10.1162/tacl_a_00041.
5. Gebru, Timnit / Morgenstern, Jamie / Vecchione, Briana / Vaughan, Jennifer Wortman / Wallach, Hanna / Daumé III, Hal / Crawford, Kate, 2021. Datasheets for Datasets. In: Communications of the ACM 64 (12), S. 86–92. DOI: 10.1145/3458723.
6. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
7. Gebru, Timnit u. a. (2018/2021): Datasheets for Datasets. In: Communications of the ACM 64 (12), S. 86–92. DOI: 10.1145/3458723.
8. Goldberg, Yoav (2021): A Criticism of „On the Dangers of Stochastic Parrots”. gist.github.com, 23. Januar 2021.
9. Hanna, Alex / Bender, Emily M. (2025): The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want.
10. Hao, Karen (2020): We Read the Paper That Forced Timnit Gebru Out of Google. Here’s What It Says. In: MIT Technology Review, 4. Dezember 2020.
11. Manning, Christopher D. (2022): Human Language Understanding & Reasoning. In: Dædalus 151 (2), S. 127–138. DOI: 10.1162/daed_a_01905.
12. Patterson, David u. a., 2021. Carbon Emissions and Large Neural Network Training. arXiv: 2104.10350.
13. Piantadosi, Steven T. / Hill, Felix (2022): Meaning without Reference in Large Language Models. arXiv: 2208.02957.
14. Shanahan, Murray (2023): Talking About Large Language Models. In: Communications of the ACM 67 (2), S. 68–79. DOI: 10.1145/3624724.
15. Simonite, Tom (2021): What Really Happened When Google Ousted Timnit Gebru. In: WIRED, 8. Juni 2021.
16. Strubell, Emma / Ganesh, Ananya / McCallum, Andrew, 2019. Energy and Policy Considerations for Deep Learning in NLP. In: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL 2019), S. 3645–3650. DOI: 10.18653/v1/P19-1355.

← Zurück zur Lexikon-Übersicht