Asilomar AI Principles sind 23 Grundsätze für die Entwicklung sicherer und gesellschaftlich nützlicher künstlicher Intelligenz, die vom 5. bis 8. Januar 2017 auf der Konferenz Beneficial AI 2017 in Asilomar, Kalifornien, verabschiedet wurden.
Zusammenfassung
Die Prinzipien entstanden auf Einladung des Future of Life Institute (FLI), das mehr als 100 KI-Forschende, Ökonom:innen, Jurist:innen und Philosoph:innen im Konferenzzentrum Asilomar zusammenbrachte. Der Ort war bewusst gewählt: Dort hatten Molekularbiolog:innen 1975 auf der Asilomar-Konferenz über rekombinante DNA Sicherheitsstandards für die Gentechnik vereinbart, ein historisches Vorbild für freiwillige Selbstregulierung einer neuen Technologie.
Das Ergebnis war ein offener Brief mit 23 Einzelprinzipien, gegliedert in drei Gruppen: Forschungsfragen, Ethik und Werte sowie längerfristige Fragen. Laut Future of Life Institute haben bisher rund 1.200 KI- und Robotikforschende sowie mehr als 2.300 weitere Personen unterschrieben (Gesamtzahl aller Unterschriften: über 5.700) (Future of Life Institute 2017); darunter Stephen Hawking, Elon Musk, Demis Hassabis und Yoshua Bengio.
Bindende Wirkung entfalten die Prinzipien nicht; sie funktionieren als Selbstverpflichtung ohne Durchsetzungsmechanismus.
Begriffsgeschichte
Die Asilomar AI Principles bauen auf einem früheren, kürzeren offenen Brief des FLI aus dem Januar 2015 auf, der unter dem Titel Research Priorities for Robust and Beneficial Artificial Intelligence bereits mehrere Tausend Unterschriften gesammelt hatte. Die Konferenz von 2017 erweiterte diesen Ansatz von einer knappen Prioritätenliste zu einem ausdifferenzierten Prinzipienkatalog.
Innerhalb weniger Monate nach der Veröffentlichung im Januar 2017 hatten sich die Unterzeichnendenzahlen mehr als verdreifacht. Die Liste wächst bis heute weiter, weil die Unterschrift auf der FLI-Website offen bleibt; die FLI-Website nennt aktuell rund 1.200 KI- und Robotikforschende und über 2.300 weitere Unterzeichnende (Future of Life Institute 2017).
Die Asilomar-Prinzipien waren nicht der erste, aber der bis dahin am breitesten getragene Versuch, KI-Sicherheit und KI-Ethik in einem gemeinsamen Dokument zusammenzuführen, statt beide Themenfelder getrennt zu behandeln.
Methodische Grundlagen
Die 23 Prinzipien gliedern sich in drei Gruppen:
Forschungsfragen (Prinzipien 1–5) betreffen das Forschungsziel selbst, die Finanzierung sicherheitsrelevanter Arbeit, den Austausch zwischen Wissenschaft und Politik sowie eine kooperative, nicht wettbewerbsgetriebene Forschungskultur.
Ethik und Werte (Prinzipien 6–18) bilden den umfangreichsten Block. Sie fordern unter anderem Sicherheit über die gesamte Betriebsdauer von KI-Systemen, Transparenz bei Fehlfunktionen und gerichtlichen Entscheidungen, Verantwortlichkeit der Entwickler:innen, Übereinstimmung mit menschlichen Werten, den Schutz von Privatsphäre und persönlicher Freiheit sowie die Vermeidung eines Rüstungswettlaufs bei autonomen Waffen.
Längerfristige Fragen (Prinzipien 19–23) adressieren Kapazitätsvorsicht gegenüber zukünftigen Fähigkeitssprüngen, das Risiko eines KI-Wettrüstens auf Kosten von Sicherheitsstandards sowie die Bedeutung fortlaufender Sicherheitsmaßnahmen und menschlicher Kontrolle über delegierte Entscheidungen.
Prinzip 21 verlangt zudem, katastrophale oder existenzielle Risiken durch KI-Systeme mit angemessenen Planungs- und Minderungsmaßnahmen zu behandeln. Im letzten Prinzip fordert der Katalog, Superintelligenz solle nur im Dienst geteilter ethischer Ideale und zum Wohl der gesamten Menschheit entwickelt werden.
Stand 2025/2026
Fast ein Jahrzehnt nach Asilomar gelten die Prinzipien in der Policy-Literatur als eines der einflussreichsten Frühdokumente der KI-Governance. Ihre Begriffe – Werteausrichtung, Sicherheitsforschung, menschliche Kontrolle – finden sich in späteren, staatlich getragenen Katalogen wieder.
Dazu zählen die 2019 von 46 Staaten verabschiedeten OECD-KI-Grundsätze und die UNESCO-Empfehlung zur Ethik künstlicher Intelligenz von 2021. Beide Dokumente übernehmen zentrale Asilomar-Themen wie Transparenz, Rechenschaftspflicht und menschenzentrierte Werte, formulieren sie jedoch als zwischenstaatliche Empfehlungen statt als Forschendenbrief.
Auch der EU AI Act greift Sprache auf, die Asilomar mitgeprägt hat, etwa in Anforderungen an menschliche Aufsicht und Risikominderung bei besonders leistungsfähigen Systemen. Beobachtende sehen den größten Effekt der Prinzipien nicht in konkreter Regulierung, sondern in der Normalisierung von KI-Sicherheit als eigenständigem Forschungs- und Politikfeld, das zur Gründung von Sicherheitsteams bei mehreren führenden KI-Unternehmen beitrug.
Kontroversen und Kritik
Kritiker:innen bemängeln vor allem die Unverbindlichkeit des Dokuments: Als Selbstverpflichtung ohne Durchsetzungsmechanismus lassen sich die Prinzipien nicht einklagen, und mehrere Formulierungen bleiben so allgemein, dass sie kaum konkrete Handlungsanleitungen liefern.
Wissenschaftler:innen, die die Asilomar-Prinzipien mit dem historischen Vorbild von 1975 vergleichen, verweisen auf einen strukturellen Unterschied. Während die Gentechnik-Konferenz eng gefasste technische Sicherheitsstandards setzte, vermischt Asilomar 2017 kurzfristige Sicherheitsfragen mit spekulativen Langfrist-Szenarien wie Superintelligenz – ein Vorwurf, der später auch gegen FLI-Initiativen wie den Pause-Brief von 2023 erhoben wurde.
Ein zweiter Kritikstrang betrifft die ideologische Prägung des Unterzeichnendenkreises. Die letzten Prinzipien zu Superintelligenz und existenziellem Risiko spiegeln Annahmen, die eng mit dem Longtermism verknüpft sind – der Priorisierung zukünftiger, potenziell astronomisch zahlreicher Personen gegenüber gegenwärtig Betroffenen.
Autor:innen, die den Prinzipienkatalog im Rahmen der TESCREAL-Kritik einordnen, sehen darin eine frühe institutionelle Normalisierung dieser Denkweise innerhalb der KI-Forschungsgemeinschaft, ohne dass die Prinzipien selbst diese Vorannahmen offenlegen oder begründen.
Aus Sicht der KI-Ethik wird zudem kritisiert, dass die Konzentration auf hypothetische Zukunftsrisiken von belegbaren gegenwärtigen Schäden ablenken könne, etwa algorithmischer Diskriminierung oder mangelnder Rechenschaftspflicht heutiger Systeme.
Verwandte Begriffe
- TESCREAL – Kritikrahmen, der die Prinzipien institutionell einordnet
- KI-Ethik – übergeordnetes Feld, in das die Ethik-und-Werte-Gruppe der Prinzipien fällt
- Effective Altruism – institutionelles Umfeld des Future of Life Institute und vieler Unterzeichnender
- Responsible Scaling Policy – späteres, konkreteres Nachfolgekonzept einzelner KI-Unternehmen
- AI Safety Summit – Nachfolgeformat internationaler KI-Sicherheitsdiplomatie
Quellenangaben
- Future of Life Institute, 2017. Asilomar AI Principles. futureoflife.org/open-letter/ai-principles/.
- OECD, 2019. OECD AI Principles. oecd.ai/en/ai-principles.
- UNESCO, 2021. Recommendation on the Ethics of Artificial Intelligence.