Partnership on AI (Abkürzung PAI) ist eine im September 2016 gegründete gemeinnützige Multi-Stakeholder-Organisation mit Sitz in San Francisco, die Forschende, Zivilgesellschaft, akademische Institutionen und Technologieunternehmen zusammenbringt, um Best Practices, Empfehlungen und Forschung zu den gesellschaftlichen Auswirkungen von KI-Systemen zu entwickeln.
Gegründet wurde PAI von Amazon, DeepMind, Facebook (Meta), Google, IBM und Microsoft; Apple trat kurz nach der öffentlichen Ankündigung im September 2016 bei. Es war der erste formalisierte Versuch der großen US-amerikanischen Tech-Konzerne, Fragen der KI-Governance kollektiv zu behandeln.
Zu den frühen Mitgliedern aus der Zivilgesellschaft gehörten das ACLU, das Center for Democracy & Technology und mehrere akademische Institutionen; später traten weitere Unternehmen, NGOs und Forschungseinrichtungen bei.
Stand 2025/2026 hat PAI über 100 Partnerorganisationen aus mehr als 15 Ländern und ist als Plattform für den Dialog zwischen Industrie, Zivilgesellschaft und Wissenschaft zu KI-Fragen aktiv, wird jedoch von Teilen der KI-Kritik-Gemeinschaft als strukturell von Industrie-Interessen dominiert eingeschätzt.
Zusammenfassung
PAI nimmt im Institutionenfeld eine eigenständige Position ein: Es ist weder ein technisches Sicherheitsforschungsinstitut wie MIRI oder Anthropic noch ein existenzrisikoorientiertes Policy-Zentrum wie FLI oder CSER, sondern eine Governance-Plattform, die Multi-Stakeholder-Prozesse organisiert und Konsensempfehlungen zu KI-Praktiken entwickelt.
PAIs thematische Schwerpunkte umfassen faire und rechenschaftspflichtige KI, die gesellschaftlichen Auswirkungen von Automatisierung, KI im Sicherheitsbereich (autonome Waffen, Überwachung), Datenschutz und die Arbeitsbedingungen von KI-Datenarbeitenden.
PAIs Beitrag liegt weniger in originärer Forschung als in der Produktion von Praxis-Empfehlungen (Tenets, Guidance Documents) und der Schaffung von Dialogräumen zwischen Akteuren, die sonst selten in strukturierten Formaten interagieren. Die kritische Literatur diskutiert PAI als Beispiel für Astroturfing und Ethics Washing durch Tech-Konzerne – eine Einschätzung, die PAI und seine Industriepartner bestreiten.
Geschichte
Gründung und Ankündigung (2016)
PAI wurde im September 2016 öffentlich angekündigt; die sechs Gründungsunternehmen Amazon, DeepMind, Facebook, Google, IBM und Microsoft hatten zuvor gemeinsam die Struktur entwickelt. Apple trat kurz nach der Gründung bei.
Die Ankündigung erfolgte in einem Moment wachsender öffentlicher Aufmerksamkeit für KI-Systeme – beschleunigt durch AlphaGos Sieg über Lee Sedol im März 2016 und durch Berichte über algorithmische Diskriminierung in der Strafverfolgung (COMPAS-Analyse, ProPublica 2016).
Die Gründungsstruktur sah eine paritätische Governance zwischen Unternehmenspartnern und Nicht-Unternehmenspartnern vor: Der Vorstand sollte je zur Hälfte aus kommerziellen und nicht-kommerziellen Vertretern bestehen. Diese formale Parität wurde in der Praxis von Beobachtern unterschiedlich bewertet: als genuines Gleichgewicht oder als nominelle Konzession, die die tatsächliche Machtasymmetrie verschleiert.
Frühe Aktivitäten und Tenets (2017–2019)
Im Januar 2017 veröffentlichte PAI seine Tenets – acht Leitprinzipien für verantwortungsvolle KI-Entwicklung, die Transparenz, Fairness, Rechenschaftspflicht, Sicherheit und gesellschaftlichen Nutzen adressieren. Die Tenets sind als Selbstverpflichtungsdokument ohne Durchsetzungsmechanismus konzipiert und wurden in der Sekundärliteratur als Beispiel für freiwillige Industriestandards mit begrenzter Bindewirkung diskutiert.
In den Jahren 2017–2019 führte PAI Arbeitsgruppen zu spezifischen Themen durch: algorithmische Fairness und Nicht-Diskriminierung, autonome und intelligente Systeme in sicherheitskritischen Domänen, Beschäftigungsauswirkungen von KI-Automatisierung, und KI und Medien. Die Ergebnisse wurden als Guidance Documents und Best Practices publiziert.
Diversifizierung und neue Mitglieder (2019–2022)
Ab 2019 erweiterte PAI seine Mitgliedschaft erheblich: Netzwerke aus dem Globalen Süden, Menschenrechtsorganisationen, Verbraucherschutzgruppen und kleinere Tech-Unternehmen traten bei. Diese Erweiterung war eine Reaktion auf Kritik, PAI repräsentiere primär US-amerikanische Tech-Konzerninteressen.
Die thematische Agenda wurde um KI-Anwendungen in humanitären Kontexten, den globalen KI-Arbeitskräfte-Bericht und Forschung zur KI-bedingten Arbeitsmarktverschiebung erweitert.
Politisch-rechtliche Arbeit und Guidance-Dokumente (2022–2026)
PAI hat seit 2022 mehrere Guidance-Dokumente veröffentlicht:
- Responsible Practices for Synthetic Media (2023) – Empfehlungen zur Kennzeichnung von KI-generierten Inhalten;
- AI Incident Database – eine kollaborative Datenbank, die KI-bedingte Schadensfälle dokumentiert und als Ressource für Forschung, Regulierungsbehörden und Journalismus angelegt ist;
- Recommendations for Fair Foundation Models (2023) – Empfehlungen zu Transparenz, Fairness und Rechenschaftspflicht bei großen vortrainierten Modellen.
Die AI Incident Database (AIID) ist methodisch PAIs eigenständigster Forschungsbeitrag: Sie sammelt, kategorisiert und öffentlich zugänglich macht dokumentierte Fälle, in denen KI-Systeme Schäden verursacht haben oder beinahe verursacht hätten – als systematische Grundlage für empirische Schadensanalyse.
Kontroversen und Kritik
Ethics Washing und Industriedominanz: Die grundlegendste Kritik an PAI ist strukturell: Die Organisation wird von Unternehmen finanziert, deren Geschäftsmodelle wesentlich von den KI-Systemen abhängen, die PAI regulieren soll.
Whittaker (2021) und Crawford (2021) beschreiben Multi-Stakeholder-Governance-Plattformen wie PAI als Instrumente, mit denen Industrie-Akteure regulatorische Prozesse verzögern, neutralisieren oder mitgestalten. Die freiwillige Natur aller PAI-Empfehlungen ohne Sanktionsmechanismus verstärkt diese Kritik.
Paritäts-Illusion: Die formale Gleichverteilung von Industrie- und Nicht-Industrie-Stimmen im Vorstand verdeckt nach Ansicht von Kritikern eine substanzielle Machtasymmetrie: Industriepartner verfügen über größere finanzielle Ressourcen, professionelle Lobbystrukturen und direkteren Zugang zu politischen Entscheidungsträgern als zivilgesellschaftliche Mitglieder.
Globale Unterrepräsentation: Trotz der Diversifizierungsbemühungen sind Stimmen aus dem Globalen Süden in PAI unterrepräsentiert; Mohamed u. a. (2020) argumentieren, dass Multi-Stakeholder-Plattformen wie PAI tendenziell westliche, liberale Governance-Rahmungen universalisieren.
Abwesenheit bei konkreten Schadensfällen: Kritiker haben darauf hingewiesen, dass PAI bei konkreten öffentlich gewordenen Schadensfällen – etwa der Google-Maven-Kontroverse, dem Rausschmiss von Timnit Gebru oder den Amazon-Rekognition-Berichten – keine substantiellen öffentlichen Positionen eingenommen hat, was die praktische Wirksamkeit der Tenets in Frage stellt.
Stand 2025/2026
Seit Oktober 2021 wird PAI von Rebecca Finlay als CEO geleitet; sie war zuvor Vizepräsidentin für Engagement und Öffentliche Politik am Canadian Institute for Advanced Research (CIFAR) und hatte die Position bereits seit Februar 2021 kommissarisch innegehabt. Stand August 2026 ist PAI eine etablierte, aber nicht besonders einflussreiche Organisation im KI-Governance-Feld.
Die AI Incident Database ist das eigenständigste und in der Forschungsgemeinschaft anerkannteste Produkt.
PAIs Governance-Plattform ist im Vergleich zu staatlichen Regulierungsinitiativen (EU AI Act, UK AI Safety Institute, US Executive Order on AI) und zu operativ wirksamen Labs wie Anthropic in der öffentlichen Wahrnehmung zurückgetreten. Der Mehrwert von PAI als Dialogplattform – insbesondere für Organisationen ohne direkte Beziehungen zu Frontier-Labs – wird von Mitgliedern weiterhin positiv bewertet.
Verwandte Begriffe
- AI Now Institute – kritische Gegenposition; stärker strukturkritisch
- OpenAI – Mitglied; kommerzielles Frontier-Lab
- DeepMind – Gründungsmitglied
- Algorithmic Justice League – aktivistischer ausgerichtetes Pendant
- Foundation Models – thematischer Gegenstand von PAI-Empfehlungen
Quellenangaben
- Angwin, Julia / Larson, Jeff / Mattu, Surya / Kirchner, Lauren, 2016. Machine Bias. ProPublica, 23. Mai 2016.
- Bender, Emily M. / Gebru, Timnit / McMillan-Major, Angelina / Shmitchell, Shmargaret, 2021. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT 2021), S. 610–623. DOI: 10.1145/3442188.3445922.
- Crawford, Kate, 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence.
- McGregor, Sean u. a., 2022. Indexing AI Risks with Incidents, Issues, and Variants. (AI Incident Database). arXiv: 2211.10384.
- Mohamed, Shakir / Png, Marie-Therese / Isaac, William, 2020. Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. In: Philosophy & Technology 33 (4), S. 659–684. DOI: 10.1007/s13347-020-00405-8.
- Partnership on AI, 2017. Tenets. partnershiponai.org.
- Partnership on AI, 2023. Responsible Practices for Synthetic Media: A Framework for Collective Action.
- Partnership on AI, 2023. Recommendations for Fair Foundation Models. partnershiponai.org.
- Partnership on AI, 2021. Partnership on AI Names Rebecca Finlay as CEO. partnershiponai.org, 27. Oktober 2021. https://partnershiponai.org/resource/partnership-on-ai-names-rebecca-finlay-as-ceo/
- Whittaker, Meredith, 2021. The Steep Cost of Capture. In: Interactions 28 (6), S. 50–55. DOI: 10.1145/3488666.