Critical AI Studies

Critical AI Studies (deutsch etwa kritische KI-Forschung) bezeichnet ein interdisziplinäres Feld, das KI-Systeme nicht als technische Gegenstände untersucht, sondern als gesellschaftliche Verhältnisse: als Anordnungen von Arbeit, Rohstoffen, Daten und Macht, die bestimmte Interessen begünstigen.

Zusammenfassung

Der leitende Gedanke ist eine Umkehrung der üblichen Fragerichtung. Die Standardfrage lautet, wie sich ein System verbessern lässt; die kritische Frage lautet, wessen Zwecken es dient und wer die Kosten trägt.

Daraus folgt ein anderer Gegenstandsbereich. Untersucht werden nicht Modellarchitekturen, sondern Lieferketten: der Abbau von Lithium und Kobalt, der Wasser- und Stromverbrauch der Rechenzentren, die Arbeit derjenigen, die Trainingsdaten aufbereiten und Inhalte prüfen.

Methodisch stützt sich das Feld auf die Wissenschafts- und Technikforschung, auf feministische und postkoloniale Theorie sowie auf die politische Ökonomie.

Es steht in einem gespannten Verhältnis zur KI-Sicherheitsforschung. Der Streit betrifft nicht bloß Schwerpunkte, sondern die Frage, worin das Problem überhaupt besteht.

Begriffsgeschichte

Vorläufer reichen weit zurück: die Kritik der instrumentellen Vernunft bei Horkheimer und Adorno, Joseph Weizenbaums Die Macht der Computer und die Ohnmacht der Vernunft von 1976, die Arbeiten Lucy Suchmans zur Mensch-Maschine-Interaktion.

Als eigenes Feld formierte es sich ab etwa 2015, parallel zum Durchbruch des Deep Learning und zur Gründung von Einrichtungen wie dem AI Now Institute 2017.

Prägend wurden mehrere Bücher in kurzer Folge: Safiya Noble zu Suchmaschinen 2018, Ruha Benjamin zu technisch vermittelter Diskriminierung 2019, Kate Crawford zur materiellen Grundlage der Branche 2021.

Der Aufsatz On the Dangers of Stochastic Parrots von 2021 verband die kritische Perspektive erstmals unmittelbar mit großen Sprachmodellen – und wurde durch die Entlassung Timnit Gebrus bei Google zum Gründungsereignis des Feldes in seiner heutigen Gestalt.

Seit 2023 gibt es mit der Zeitschrift Critical AI ein eigenes Publikationsorgan.

Methodische Grundlagen

Materialität statt Abstraktion. Der Ausgangspunkt: Ein Modell ist kein Gedanke, sondern eine Anlage mit Standort, Stromanschluss und Lieferkette.

Sichtbarmachung verdeckter Arbeit. Die Aufbereitung von Trainingsdaten und die Prüfung von Ausgaben verrichten Menschen, deren Arbeit in der Darstellung der Systeme nicht vorkommt.

Situiertes Wissen. Aus der feministischen Wissenschaftsforschung übernommen: Jede Beschreibung erfolgt von einem Standpunkt aus. Der Anspruch auf einen Blick von nirgendwo ist selbst ein Machtanspruch.

Historische Einordnung. Klassifikationssysteme werden auf ihre Vorgeschichte hin untersucht – von der Rassenkunde des 19. Jahrhunderts bis zu heutigen Kategorien in Datensätzen.

Kritik der Metaphern. Begriffe wie Lernen, Halluzination oder Intelligenz werden nicht als neutrale Fachwörter behandelt, sondern als Zuschreibungen mit Wirkung.

Anwendungsfelder

Prüfung von Systemen. Untersuchungen wie Gender Shades zur ungleichen Fehlerrate von Gesichtserkennung haben unmittelbare Folgen für Beschaffungsentscheidungen gehabt.

Regulierungsdebatte. Das Feld liefert die Argumente für Verbote bestimmter Anwendungen – biometrische Fernidentifizierung, Sozialbewertung – die im EU AI Act Eingang gefunden haben.

Dokumentationspraxis. Verfahren wie Datasheets for Datasets und Modellkarten stammen aus diesem Umfeld.

Lehre. An Universitäten entstehen Studiengänge, die technische Ausbildung mit gesellschaftswissenschaftlicher Analyse verbinden.

Gewerkschaftliche Arbeit. Die Organisierung von Beschäftigten in der Datenaufbereitung stützt sich auf Befunde des Feldes.

Kontroversen und Kritik

Technische Genauigkeit. Ein häufiger Einwand aus der Informatik: Die Beschreibungen enthalten Ungenauigkeiten, die den Schluss auf die gesellschaftliche Wirkung schwächen.

Politische Vorfestlegung. Kritiker sehen ein Feld, dessen Befunde aus seinen Voraussetzungen folgen. Vertreter halten dem entgegen, dass die vermeintlich neutrale Gegenposition ebenfalls Voraussetzungen hat – nur unausgesprochene.

Fehlende Alternativen. Ein pragmatischer Einwand: Das Feld beschreibt, was falsch läuft, ohne anzugeben, wie es besser ginge. Arbeiten wie die von Dan McQuillan begegnen dem mit Vorschlägen zu genossenschaftlicher Datenverwaltung.

Streit mit der Sicherheitsforschung. Die schärfste Auseinandersetzung. Aus kritischer Sicht lenkt die Sorge um künftige Superintelligenz von belegten gegenwärtigen Schäden ab und dient dabei den Interessen der Anbieter. Aus der Gegenrichtung wird eingewandt, dass belegte Schäden und mögliche künftige einander nicht ausschließen.

Wirkung auf die Praxis. Ob die Kritik die Entwicklung verändert hat oder von ihr aufgenommen und entschärft wurde, ist innerhalb des Feldes selbst umstritten.

Warum der Streit sich nicht schlichten lässt

Die Auseinandersetzung zwischen kritischer Forschung und Sicherheitsforschung wird häufig als Streit um Prioritäten dargestellt – heutige Schäden gegen künftige Risiken. Diese Darstellung ist zu freundlich.

Der Gegensatz sitzt tiefer, nämlich in der Frage, was ein KI-System überhaupt ist. Für die Sicherheitsforschung ist es ein Optimierer mit einem Ziel, das falsch spezifiziert sein kann; das Problem liegt im Verhältnis zwischen Vorgabe und Absicht.

Für die kritische Forschung ist es eine Anordnung von Kapital, Arbeit und Rohstoffen, die genau das tut, wofür sie gebaut wurde. Ein System, das Bewerbungen aussortiert und dabei bestehende Ungleichheit fortschreibt, ist in dieser Sicht kein Fehlschlag – es funktioniert.

Damit unterscheiden sich nicht bloß die Antworten, sondern die Fehlerbegriffe. Wo die eine Seite eine Panne sieht, sieht die andere die Absicht; und Vorschläge, die auf besseren Zielvorgaben beruhen, verfehlen aus kritischer Sicht den Punkt, weil sie voraussetzen, dass jemand ein anderes Ziel wollte.

Das erklärt, warum der Streit nicht durch Zugeständnisse in der Sache beigelegt wird. Beide Seiten können die Befunde der anderen anerkennen, ohne ihre Deutung zu übernehmen – und genau das geschieht.

Verwandte Begriffe

• AI Now Institute – zentrale Einrichtung des Feldes
• Timnit Gebru – prägende Figur
• DAIR – von ihr gegründetes Forschungsinstitut
• Stochastic Parrots – Schlüsselarbeit zu Sprachmodellen
• Atlas of AI – prägendes Buch des Feldes
• Algorithmic Bias – zentraler Untersuchungsgegenstand
• TESCREAL – ideologiekritischer Gegenbegriff
• Datasheets for Datasets – aus dem Feld stammendes Verfahren

Quellenangaben

1. Benjamin, Ruha, 2019. Race After Technology: Abolitionist Tools for the New Jim Code.
2. Crawford, Kate, 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence.
3. McQuillan, Dan (2022): Resisting AI: An Anti-fascist Approach to Artificial Intelligence.
4. Noble, Safiya Umoja, 2018. Algorithms of Oppression: How Search Engines Reinforce Racism.
5. Weizenbaum, Joseph (1976): Computer Power and Human Reason: From Judgment to Calculation.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.