AI Now Institute ist ein 2017 an der New York University (NYU) gegründetes interdisziplinäres Forschungsinstitut, das sich der kritischen Untersuchung der gesellschaftlichen Auswirkungen künstlicher Intelligenz widmet. Methodischer Schwerpunkt sind Machtkonzentration, strukturelle Diskriminierung, staatliche und unternehmerische Rechenschaftspflicht und die politische Ökonomie der KI-Industrie.
Das Institut wurde von Kate Crawford, damals Principal Researcher bei Microsoft Research, und Meredith Whittaker, Gründerin der Open-Research-Gruppe bei Google, gegründet; seit Mitte 2022 arbeitet es als eigenständige Non-Profit-Organisation außerhalb der Universität.
Es versteht sich als institutionelles Gegengewicht zu techno-optimistischen Forschungseinrichtungen und Frontier-Labs und hat die kritische KI-Forschung maßgeblich geprägt. Dazu zählen der jährliche AI Now Report (2017–2019), der Atlas of AI (Crawford 2021) und eine Reihe einflussreicher Berichte zu algorithmischer Diskriminierung, Gesichtserkennung und Arbeitsrechten in der KI-Industrie.
Stand 2025/2026 ist das AI Now Institute eines der einflussreichsten Policy-orientierten KI-Forschungszentren der USA und ein zentraler Referenzpunkt für Gesetzgebungsinitiativen zu algorithmischen Systemen, Biometrie-Regulierung und KI-Rechenschaftspflicht.
Zusammenfassung
Das AI Now Institute verbindet in seiner Forschungsagenda zwei Hauptlinien.
Die erste ist empirisch-dokumentarisch: Sie untersucht und kartiert konkrete Schadensfälle durch KI-Systeme – Diskriminierung bei Gesichtserkennung, algorithmisches Management von Arbeitenden, automatisierte Entscheidungen im Strafrecht und Sozialwesen.
Die zweite ist politökonomisch: Sie analysiert die Konzentration von KI-Entwicklungsmacht bei wenigen Unternehmen, die Ausbeutung von Trainingsdaten und Moderationsarbeit sowie die Verbindungen zwischen militärischer, staatlicher und kommerzieller KI-Infrastruktur.
Das Institut positioniert sich in Abgrenzung zur existenzrisiko-orientierten KI-Sicherheits-Community des TESCREAL-Komplexes: Während Organisationen wie FLI, MIRI oder Anthropics Sicherheitsforschung künftige Risiken durch superintelligente Systeme betonen, fokussiert das AI Now Institute auf gegenwärtige und nachweisbare Schäden durch bereits eingesetzte KI-Systeme.
Diese methodische und politische Differenz ist in der Sekundärliteratur als strukturierender Konflikt innerhalb der KI-Ethik- und -Sicherheitsdebatten beschrieben worden (Gebru/Torres 2024; Whittaker 2021).
Geschichte
Gründung und institutioneller Kontext (2017)
Das AI Now Institute wurde im Juli 2017 als Forschungszentrum an der New York University gegründet.
Die Gründerinnen kamen aus zwei verschiedenen Konzernen: Die australische Medienforscherin Kate Crawford arbeitete als Principal Researcher bei Microsoft Research, Meredith Whittaker war dreizehn Jahre bei Google, wo sie die Open-Research-Gruppe aufbaute und M-Lab mitgründete.
Gemeinsam organisierten sie die AI Now Symposia (2016, 2017) – öffentliche Veranstaltungen, die kritische Perspektiven auf KI-Systeme in Behörden, Gesundheit, Bildung und Arbeitswelt zusammenbrachten. Das erste Symposium im Jahr 2016 fand auf Einladung der Obama-Administration im Weißen Haus statt und zog führende KI-Forschende, Bürgerrechtsorganisationen und Regulierungsbehörden zusammen.
Die Gründung des Instituts erfolgte mit finanzieller Unterstützung der New York University; weitere Förderung kommt von der Ford Foundation, der Open Society Foundation, der MacArthur Foundation und anderen philanthropischen Geldgebern.
Das AI Now Institute positionierte sich von Beginn an als institutionelle Alternative zu technik-zentrischen KI-Einrichtungen: Methodisch wurden Rechtswissenschaft, Soziologie, Arbeitsforschung, Epidemiologie und Science and Technology Studies als gleichwertige Disziplinen neben Informatik etabliert.
AI Now Reports (2017–2019)
In den Jahren 2017, 2018 und 2019 publizierte das Institut jährliche AI Now Reports – interdisziplinäre Bestandsaufnahmen der gesellschaftlichen Auswirkungen von KI-Systemen. Der AI Now Report 2017 (Crawford u. a. 2017) identifizierte vier Bereiche als prioritär: Arbeitsmarkteffekte, Bias und Diskriminierung, Autonome Systeme und soziale Infrastruktur.
Der AI Now Report 2019 empfahl unter anderem ein Moratorium für den staatlichen Einsatz von Gesichtserkennung – eine Position, die in der Folgepolitik mehrerer US-Städte (San Francisco 2019, Boston 2020, New York 2021) Eingang fand.
Forschungsschwerpunkte und methodisch einflussreiche Berichte
Dirty Data, Bad Predictions (Richardson / Schultz / Crawford 2019, New York University Law Review) analysierte, wie mit strukturell diskriminierenden Daten trainierte Predictive-Policing-Systeme in US-Strafverfolgungsbehörden eingesetzt wurden und die zugrundeliegenden Diskriminierungsmuster reproduzieren und verstärken.
Anatomy of an AI System (Crawford / Joler 2018) visualisierte die vollständige materielle und datentechnische Infrastruktur hinter einem Amazon-Echo-Gerät – von Rohstoffabbau über Fabrikarbeit, Serverinfrastruktur und Datenarbeit bis zur Entsorgung. Sie wurde zu einer der meistzitierten Darstellungen der versteckten materiellen Kosten von KI-Konsumgütern.
In dieselbe Zeit fällt eine verwandte, aber institutionell getrennte Linie: Model Cards for Model Reporting (Mitchell u. a., Proceedings FAccT 2019, DOI: 10.1145/3287560.3287596) etablierte standardisierte Dokumentationskarten für KI-Modelle, die seither von Google, Hugging Face und anderen Anbietern übernommen wurden.
Die Arbeit entstand nicht am AI Now Institute, sondern bei Google; sie wird jedoch regelmäßig gemeinsam mit dessen Rechenschaftsforschung gelesen, weil beide dasselbe Mittel verfolgen – nachprüfbare Dokumentation als Voraussetzung von Verantwortlichkeit.
Kate Crawfords Atlas of AI (2021)
Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence (Crawford, Yale University Press 2021,) ist die umfassendste Synthese der AI-Now-Forschungsagenda.
Das Buch kartiert KI entlang seiner materiellen Infrastruktur – Lithium-Abbau in den Salzseen Boliviens, Datenzentren in den USA, Crowdwork-Plattformen in Kenia – und seiner Machtstrukturen – staatliche Überwachung, militärische Anwendungen, Arbeitsmarktsteuerung.
Der Atlas verbindet methodisch politische Ökonomie, kritische Geographie und STS-Forschung und wurde 2022 mit dem Sally Hacker Prize der Society for the History of Technology ausgezeichnet.
Meredith Whittaker und Signal Foundation (2022–2026)
Meredith Whittaker verließ das AI Now Institute 2022, um Präsidentin der Signal Foundation zu werden – der gemeinnützigen Organisation hinter dem verschlüsselten Messaging-Dienst Signal.
Whittaker gehörte im November 2018 zu den Organisatorinnen des Google Walkout, bei dem rund 20.000 Mitarbeitende gegen den Umgang des Konzerns mit sexueller Belästigung und Machtmissbrauch demonstrierten; im Juli 2019 verließ sie Google. An der Signal Foundation setzt Whittaker ihre Arbeit zu Datenschutz, staatlicher Überwachung und technologischen Machtstrukturen fort; ihre Verbindung zum AI Now Institute bleibt als Chief Advisor bestehen.
Policy-Arbeit und Regulierungseinfluss (2019–2026)
Das AI Now Institute ist einer der aktivsten zivilgesellschaftlichen Akteure in der US-amerikanischen KI-Regulierungsdebatte. Mitarbeitende des Instituts haben vor dem US-Kongress ausgesagt, an der Ausarbeitung des Algorithmic Accountability Act mitgewirkt und Beiträge zur FTC-Regulierungsdebatte zu KI und kommerzieller Überwachung geleistet.
International haben AI-Now-Forschende Beiträge zu EU-Gesetzgebungsprozessen rund um den EU AI Act und die AI Liability Directive geliefert. Der Schwerpunkt liegt auf Rechenschaftspflicht, Transparenz und dem Verbot hochriskanter Anwendungen – insbesondere biometrischer Massenüberwachung und prädiktiver Entscheidungssysteme in Strafrecht, Sozialwesen und Einwanderungsbehörden.
Methodische und inhaltliche Positionen
Das AI Now Institute vertritt in der KI-Debatte vier methodisch konsequent durchgehaltene Positionen:
- Keine Neutralität. KI-Systeme verkörpern die Machtstrukturen, Datenpraktiken und wirtschaftlichen Interessen ihrer Entwickler.
- Gegenwärtige Schäden. Die gesellschaftlichen Folgen sind konkret nachweisbar und verlangen Regulierung jetzt, nicht spekulatives Risikomanagement.
- Konzentration als demokratisches Problem. Dass wenige Konzerne die Entwicklung bestimmen, rechtfertigt staatliches Eingreifen.
- Sichtbare Arbeit. Datenlabeler, Moderatorinnen und andere unsichtbare Arbeitende gehören in die Analyse jedes KI-Systems.
Diese Positionen stehen in explizitem Kontrast zur existenzrisiko-orientierten KI-Sicherheits-Community: MIRI, FLI und Anthropics Sicherheitsforschung identifizieren superintelligente zukünftige Systeme als primäres Risiko.
Das AI Now Institute hält dem entgegen, dass diese Priorisierung gegenwärtige Schäden systematisch untergewichtet und die politische Aufmerksamkeit von konkreten Diskriminierungsfällen und Machtfragen ablenkt (Crawford 2021; Whittaker 2021).
Kritik
Die Positionierung des AI Now Institute als kritisches Gegeninstitut zur Tech-Industrie wird aus verschiedenen Richtungen diskutiert. Aus der technisch-optimistischen Seite wird argumentiert, dass das Institut Chancen von KI-Systemen – in Gesundheit, Wissenschaft, Klimaforschung – gegenüber Risiken untergewichte und regulatorische Einschränkungen Innovation behinderten.
Aus der radikaleren politischen Linken wird gelegentlich kritisiert, dass das Institut trotz seiner strukturkritischen Agenda auf philanthropische Stiftungsmittel angewiesen bleibe und damit implizit innerhalb der bestehenden Machtverhältnisse verbleibe. Bis zur Verselbstständigung 2022 betraf dieser Einwand zusätzlich die Anbindung an eine private US-Universität.
Die Fokussierung auf US-amerikanische und westliche KI-Systeme und Regulierungsdiskurse ist eine weitere in der Sekundärliteratur genannte Einschränkung; Forschende aus dem Globalen Süden haben auf die Unterrepräsentation nicht-westlicher KI-Schadensszenarien in der kritischen KI-Literatur hingewiesen (Mohamed u. a. 2020).
Stand 2025/2026
Stand August 2026 ist das AI Now Institute eine eigenständige Non-Profit-Organisation unter der gemeinsamen Leitung von Amba Kak und Sarah Myers West als Co-Executive Directors; Meredith Whittaker ist als Chief Advisor mit dem Institut verbunden.
Rashida Richardson, die 2018 als Director of Policy Research zum Institut gestoßen war, ist nicht mehr in dieser Funktion tätig. Der Einfluss des Instituts auf konkrete Gesetzgebungsinitiativen – insbesondere Verbote von Gesichtserkennung in mehreren US-Städten und die algorithmischen Rechenschaftspflicht-Debatten auf Bundesebene – ist in der Policy-Literatur dokumentiert.
Kate Crawford ist in der aktuellen Personalübersicht des Instituts nicht mehr aufgeführt; sie hat ihre Forschung zu materiellen und politischen Dimensionen von KI in weiteren Publikationen und öffentlichen Auftritten fortgesetzt.
Die methodische Linie des Instituts – kritische politische Ökonomie der KI statt existenzrisikobasierter Sicherheitsforschung – hat seit 2022 in der breiteren akademischen und journalistischen Debatte substanziell an Sichtbarkeit gewonnen.
Verwandte Begriffe
- Kate Crawford – Mit-Gründerin; Atlas of AI (2021)
- Meredith Whittaker – Mit-Gründerin; Signal Foundation ab 2022
- Timnit Gebru – methodisch verwandte kritische KI-Forscherin; DAIR Institute
- Algorithmic Justice League – verwandte Institution; Buolamwini, MIT
- Excavating AI – Crawford/Paglen 2019; methodisch verwandte Forschungslinie
- Mechanistic Interpretability – methodisch komplementäres, aber institutionell divergierendes Forschungsfeld
- Existenzielles Risiko – Gegenposition zur AI-Now-Forschungsagenda
- TESCREAL – ideologischer Rahmen der Gegenposition
- Foundation Models – analysierter Gegenstand der kritischen Institutionsforschung
Quellenangaben
- AI Now Institute, 2026. About Us. ainowinstitute.org. https://ainowinstitute.org/about
- Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
- Benjamin, Ruha, 2019. Race After Technology: Abolitionist Tools for the New Jim Code.
- Crawford, Kate u. a., 2017. AI Now 2017 Report. AI Now Institute, New York University. ainowinstitute.org.
- Crawford, Kate / Joler, Vladan, 2018. Anatomy of an AI System: The Amazon Echo as an Anatomical Map of Human Labor, Data and Planetary Resources. AI Now Institute / Share Lab, 7. September 2018.
- Crawford, Kate u. a., 2019. AI Now 2019 Report. AI Now Institute, New York University.
- Crawford, Kate, 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence.
- Crawford, Kate / Paglen, Trevor, 2019. Excavating AI: The Politics of Images in Machine Learning Training Sets. In: AI & Society (2021) 36, S. 1105–1116. DOI: 10.1007/s00146-021-01162-8.
- Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
- Mitchell, Margaret / Wu, Simone / Zaldivar, Andrew / Barnes, Parker / Vasserman, Lucy / Hutchinson, Ben / Spitzer, Elena / Raji, Inioluwa Deborah / Gebru, Timnit, 2019. Model Cards for Model Reporting. In: Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* 2019), S. 220–229. DOI: 10.1145/3287560.3287596.
- Mohamed, Shakir / Png, Marie-Therese / Isaac, William, 2020. Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. In: Philosophy & Technology 33 (4), S. 659–684. DOI: 10.1007/s13347-020-00405-8.
- Noble, Safiya Umoja, 2018. Algorithms of Oppression: How Search Engines Reinforce Racism.
- Richardson, Rashida / Schultz, Jason M. / Crawford, Kate, 2019. Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice. In: New York University Law Review Online 94 (1).
- Whittaker, Meredith, 2021. The Steep Cost of Capture. In: Interactions 28 (6), S. 50–55. DOI: 10.1145/3488666.