Der AI Safety Summit ist eine seit 2023 laufende Reihe internationaler Regierungsgipfel zu KI-Risiken und -Governance. Zwischen dem ersten Treffen in Bletchley Park und dem dritten in Paris verschob sich der Fokus so deutlich, dass sich sogar der Name änderte – von “Safety” zu “Action”.
Keines der bisherigen Abschlussdokumente ist rechtlich bindend. Die Gipfelserie ist damit ein Fall, an dem sich beobachten lässt, wie schnell politische Dringlichkeit in unverbindliche Absichtserklärungen verdunsten kann.
Bletchley Park, November 2023
Der erste Gipfel fand am 1. und 2. November 2023 in Bletchley Park statt, ausgerichtet vom Vereinigten Königreich unter Premierminister Rishi Sunak. 28 Staaten sowie die EU unterzeichneten die Bletchley Declaration, darunter die USA, China, Deutschland, Frankreich, Indien, Japan, Brasilien und Saudi-Arabien – eine für KI-Politik ungewöhnlich breite geopolitische Koalition. Neuseeland trat im Oktober 2024 nachträglich bei.
Die Erklärung bekennt sich dazu, KI “sicher, menschenzentriert, vertrauenswürdig und verantwortungsvoll” zu entwickeln und einzusetzen, mit klarem Fokus auf Risiken von Frontier-KI – hochleistungsfähigen Systemen mit potenziell katastrophalen Folgen im Sinne eines existenziellen Risikos, insbesondere im Bereich Cybersicherheit und Biotechnologie. Im Zuge des Gipfels gründete das Vereinigte Königreich offiziell sein AI Safety Institute, als Weiterentwicklung der bereits im April 2023 eingerichteten Frontier AI Taskforce.
Seoul, Mai 2024
Der zweite Gipfel fand am 21. und 22. Mai 2024 statt, gemeinsam ausgerichtet von Südkorea und dem Vereinigten Königreich. Zwei Ergebnisse prägten das Treffen: die Seoul Declaration, unterzeichnet unter anderem von EU, USA, Deutschland, Frankreich und Japan, mit einem Bekenntnis zu interoperablen KI-Governance-Rahmenwerken; und die Frontier AI Safety Commitments – freiwillige Selbstverpflichtungen von zunächst 16 Unternehmen, darunter Amazon, Anthropic, Google, Meta, Microsoft, OpenAI und xAI, im Februar 2025 ergänzt um weitere Unterzeichner wie NVIDIA. Die Commitments umfassen drei Bereiche: Risikomanagement über den gesamten Entwicklungszyklus, interne Governance-Strukturen mit klaren Verantwortlichkeiten, und öffentliche Transparenzberichte über Sicherheitsmaßnahmen. Südkorea kündigte zudem die Gründung eines eigenen AI Safety Institute an.
Paris, Februar 2025 – der Namenswechsel
Der dritte Gipfel fand am 10. und 11. Februar 2025 im Pariser Grand Palais statt – unter neuem Namen: AI Action Summit statt AI Safety Summit. Die inhaltliche Verschiebung war deutlich: weg vom katastrophenrisiko-fokussierten Rahmen von Bletchley, hin zu Innovation, praktischer Umsetzung und wirtschaftlichen Chancen. Zu den Ergebnissen zählten die Ankündigung einer 200-Milliarden-Euro-Investitionsinitiative der EU (InvestAI), eine französische Investitionsankündigung über 110 Milliarden Euro und eine Abschlusserklärung, die 58 Staaten unterzeichneten.
Sowohl die USA als auch das Vereinigte Königreich verweigerten die Unterschrift. Das Vereinigte Königreich begründete dies damit, die Erklärung gehe nicht weit genug bei globaler KI-Governance und der Behandlung von Sicherheitsfragen. Mehrere KI-Sicherheitsexperten, darunter Anthropic-CEO Dario Amodei, bezeichneten den Gipfel als verpasste Gelegenheit.
Weitere Entwicklung: Delhi 2026
Der bislang letzte Gipfel, der AI Impact Summit, fand vom 16. bis 21. Februar 2026 in New Delhi statt, mit Beteiligung von Delegationen aus über 100 Ländern und mehr als 20 Staats- und Regierungschefs. Der Name setzt die mit Paris begonnene Verschiebung fort – von “Safety” über “Action” zu “Impact”. Für 2027 wird in Übersichtsquellen ein weiterer Gipfel in Genf genannt, ohne dass dies bereits belastbar bestätigt ist.
Kontroversen und Kritik
Die durchgängige Beobachtung von Beobachter:innen ist eine schrittweise Verschiebung: Bletchley stellte katastrophale Frontier-Risiken in den Mittelpunkt und erzeugte mit der Gründung des UK AI Safety Institute eine konkrete institutionelle Konsequenz. Seoul verschob den Fokus bereits leicht in Richtung freiwilliger Unternehmensverpflichtungen – rechtlich unverbindlich, aber noch klar sicherheitszentriert. Paris vollzog den expliziten Bruch im Namen selbst und rückte wirtschaftliche Chancen in den Vordergrund. Kritiker sehen darin eine Verwässerung des Sicherheitsfokus zugunsten von Wirtschaftsinteressen, verstärkt durch die Nichtunterzeichnung der Pariser Erklärung durch zwei der einflussreichsten KI-Nationen. Keines der drei Abschlussdokumente – Bletchley Declaration, Seoul Declaration, Pariser Statement – ist rechtlich bindend; alle sind politische Absichtserklärungen oder freiwillige Selbstverpflichtungen der Industrie, ohne Sanktionsmechanismus.
Verwandte Begriffe
- EU AI Act – die verbindliche Regulierung, die parallel zu den unverbindlichen Gipfeln entstand
- Systemrisiko – der Risikobegriff, der die Frontier-AI-Debatte der Gipfel strukturiert
- Existenzielles Risiko – der ursprüngliche Fokus von Bletchley Park
Quellenangaben
- UK Department for Science, Innovation and Technology, 2023. The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023. gov.uk.
- UK Department for Science, Innovation and Technology, 2024. Frontier AI Safety Commitments, AI Seoul Summit 2024. gov.uk, aktualisiert 7. Februar 2025.
- Wikipedia, 2026. AI Action Summit.