Future of Life Institute

Future of Life Institute (Abkürzung FLI) ist eine im März 2014 in Boston, Massachusetts, gegründete gemeinnützige Organisation, die sich der Minderung existenzieller Risiken durch transformative Technologien widmet – insbesondere künstliche Intelligenz, Biotechnologie, Atomwaffen und Klimawandel.

In der KI-Debatte ist FLI vor allem durch die Asilomar AI Principles (2017), den offenen Brief Pause Giant AI Experiments (März 2023) und die Ausrichtung interdisziplinärer Konferenzen bekannt geworden. Damit hat FLI Einfluss auf KI-Regulierungspolitik und öffentliche Wahrnehmung von KI-Risiken genommen.

FLI wurde gegründet von Max Tegmark (* 1967 in Stockholm), Jaan Tallinn (Ko-Gründer von Skype und Kazaa), Victoria Krakovna, Meia Chita-Tegmark und Anthony Aguirre. Zu den frühen wissenschaftlichen Beratern und öffentlichen Unterstützern gehörten Stephen Hawking, Stuart Russell, Frank Wilczek und Elon Musk.

Musks Spende von 10 Millionen US-Dollar im Januar 2015 verschaffte FLI erstmals breit öffentliche Aufmerksamkeit. Stand 2025/2026 ist FLI eine der institutionell einflussreichsten Organisationen des TESCREAL-Komplexes im Bereich der KI-Risikopolitik und hat maßgeblich zur Normalisierung existenzrisikobasierter KI-Governance-Rahmungen in akademischen und politischen Kontexten beigetragen.

Zusammenfassung

FLI nimmt im Feld der KI-Sicherheitsorganisationen eine spezifische Position ein: Es ist weniger auf technische Sicherheitsforschung ausgerichtet als das Machine Intelligence Research Institute (MIRI) oder Anthropics Interpretierbarkeitsgruppe, sondern fungiert primär als Policy-Organisation, Konferenzveranstalter und öffentlicher Kommunikationsakteur.

Die einflussreichsten Instrumente von FLI sind offene Briefe und Prinzipiensammlungen, deren Unterzeichner die argumentative Reichweite der Dokumente wesentlich bestimmen. Hinzu kommen Stipendienprogramme für Forschende, die an existenzrisikorelevanten Fragen arbeiten, sowie die Ausrichtung von Konferenzen, die akademische KI-Forschende, Philosophen, Ökonomen und Politikberater mit existenzrisikoorientierter Ausrichtung zusammenbringen.

FLI ist dabei stärker als MIRI oder das Centre for Human-Compatible AI (CHAI) auf die breite Öffentlichkeit und auf politische Entscheidungsträger ausgerichtet.

Der Pause-Brief vom März 2023 forderte eine sechsmonatige Pause im Training von KI-Systemen über GPT-4-Niveau und fand über 33.000 Unterzeichner, darunter Elon Musk, Yoshua Bengio und Stuart Russell. Er ist das bislang wirkungsmächtigste einzelne Dokument in FLIs Geschichte und war gleichzeitig Ausgangspunkt substanzieller Kritik.

Geschichte

Gründung und Musk-Spende (2014–2015)

FLI wurde im März 2014 gegründet; die Gründungsphase ist eng mit dem 2014 publizierten Buch Superintelligence von Nick Bostrom (Oxford University Press 2014,) verknüpft, das die öffentliche Debatte über KI-Existenzrisiken wesentlich beschleunigte.

Im Januar 2015 spendete Elon Musk 10 Millionen US-Dollar an FLI, was das Institut in die internationale Öffentlichkeit brachte. Im selben Monat veröffentlichte FLI einen Research Priorities for Robust and Beneficial Artificial Intelligence – einen offenen Brief, der von über 8.000 KI-Forschenden und technologischen Persönlichkeiten unterzeichnet wurde, darunter Stuart Russell, Demis Hassabis und mehrere weitere.

Max Tegmark (* 5. Oktober 1967 in Stockholm), MIT-Professor für Physik und Kosmologie, ist das öffentliche Gesicht von FLI. Er ist Autor des populärwissenschaftlichen Buchs Life 3.0: Being Human in the Age of Artificial Intelligence (Knopf 2017,), das die FLI-Perspektive für ein breites Publikum aufbereitete.

Jaan Tallinn – im Personeneintrag ausführlicher dokumentiert – ist der Hauptfinanzier von FLI und verbindet das Institut mit dem breiteren EA-Ökosystem.

Asilomar AI Principles (Januar 2017)

Die Asilomar AI Principles entstanden auf der Beneficial AI 2017-Konferenz, die FLI im Januar 2017 im Asilomar Conference Grounds in Pacific Grove, Kalifornien, ausrichtete – einem Ort, der durch die Asilomar-Konferenz über rekombinante DNA von 1975 symbolisch aufgeladen ist.

Die Konferenz brachte über 100 KI-Forschende, Ökonomen und Philosophen zusammen; die 23 resultierenden Prinzipien – organisiert in Kategorien Forschungsfragen, Ethik und Werte sowie Längerfristige Fragen – wurden bis Ende 2017 von über 4.000 KI-Forschenden und 20.000 weiteren Unterzeichnenden unterstützt (Future of Life Institute 2017).

Die Asilomar AI Principles sind als Selbstverpflichtungsdokument ohne Durchsetzungsmechanismus konzipiert; ihr Einfluss liegt in der Normalisierung von Begriffen wie Werteausrichtung, Sicherheitsforschung und menschliche Kontrolle in der KI-Forschungsgemeinschaft.

Das Prinzip 23 (Common Good) formuliert, KI-Systeme sollten zum Wohl der gesamten Menschheit entwickelt werden – eine Rahmung, die von Gebru und Torres (2024) als strukturell mit der TESCREAL-Ideologie verbunden analysiert wurde.

Stipendienprogramme und Forschungsförderung (2015–2023)

FLI hat seit 2015 mehrere Förderrunden für Forschung zu existenzrisikorelevanten KI-Fragen ausgeschrieben. Die erste Runde 2015 (6 Millionen US-Dollar aus der Musk-Spende) finanzierte 37 Projekte an Universitäten weltweit.

Spätere Runden fokussierten auf technische KI-Sicherheit, politische Analysen autonomer Waffensysteme und Governance-Forschung. Das Future of Life Award-Programm zeichnet jährlich Einzelpersonen aus, die nach Einschätzung des Instituts wesentlich zur Minderung existenzieller Risiken beigetragen haben.

Offener Brief Pause Giant AI Experiments (März 2023)

Am 22. März 2023 veröffentlichte FLI den offenen Brief Pause Giant AI Experiments: An Open Letter, der eine sechsmonatige öffentlich überprüfbare Pause im Training aller KI-Systeme über GPT-4-Leistungsniveau forderte, bis gemeinsame Sicherheitsprotokolle entwickelt und von unabhängigen Experten geprüft worden seien.

Der Brief sammelte innerhalb weniger Tage über 33.000 Unterzeichner, darunter Elon Musk, Yoshua Bengio, Stuart Russell, Steve Wozniak und weitere; OpenAI-CEO Sam Altman, Dario Amodei (Anthropic) und die Führung von Google DeepMind unterzeichneten nicht.

Der Brief löste eine intensive Debatte aus. Befürworter argumentierten, er schaffe dringend benötigten regulatorischen Druck für ein Feld, das sich selbst kaum reguliere.

Kritiker hielten dagegen – darunter Yann LeCun, Melanie Mitchell, Emily Bender und eine Gruppe von KI-Forschenden, die im dair-community-Papier Pause Giant AI Experiments: An Alternative View (Liesenfeld / Dingemanse 2023) antworteten.

Der Brief lenke von konkreten gegenwärtigen Schäden ab, setze falsche technische Prämissen voraus und privilegiere eine bestimmte KI-Risikophilosophie als Konsens. Zudem sei er in seiner Unterzeichnerstruktur nicht repräsentativ für die KI-Forschungsgemeinschaft.

Mehrere Unterzeichner – darunter Yoshua Bengio – haben später erklärt, sie hätten bestimmte Formulierungen des Briefes nicht vollständig gebilligt.

Die geforderte Pause trat nicht ein; kein Frontier-Lab setzte sein Training aus.

EU-AI-Act-Einfluss und Autonome Waffen (2023–2026)

FLI hat intensiv am EU-Gesetzgebungsprozess zum AI Act mitgewirkt und sich dabei für strenge Anforderungen an General Purpose AI-Systeme und für ein Verbot vollständig autonomer Waffensysteme eingesetzt. Die Kampagne Stop Killer Robots – an der FLI als Partner beteiligt ist – adressiert letzteres. FLI ist Mitglied der High-Level Expert Group on Artificial Intelligence der Europäischen Kommission und hat Beiträge zu OECD-KI-Richtlinien geleistet.

AI Safety Index (2024–2026)

Seit November 2024 veröffentlicht FLI in etwa halbjährlichem Rhythmus den AI Safety Index – eine von einem Expertengremium erstellte vergleichende Bewertung führender KI-Unternehmen anhand von 37 Indikatoren in sechs Bereichen (u. a. Risikobewertung, gegenwärtige Schäden, Sicherheits-Frameworks, existenzielle Sicherheit, Governance und Informationsaustausch).

Die dritte Ausgabe, der AI Safety Index – Summer 2026, bewertete neun Unternehmen; kein Unternehmen erhielt die Bestnote A, Anthropic erzielte mit C+ die höchste Bewertung, während xAI, DeepSeek und Mistral durchfielen (Note F). Der Bericht kritisiert, dass mehrere Unternehmen frühere Zusagen zurückgenommen hätten, neue Systeme nur mit dem Fähigkeitsniveau angemessenen Sicherheitsmaßnahmen zu veröffentlichen.

Kontroversen und Kritik

Kritik am Pause-Brief: Liesenfeld und Dingemanse (2023) argumentieren, der Brief basiere auf nicht belegten Annahmen über die imminente Entwicklung von KI-Systemen, die menschliche Kontrolle gefährdeten, und setze eine bestimmte – existenzrisikoorientierte – KI-Risikophilosophie als Konsens, obwohl sie umstritten ist.

Yann LeCun kritisierte, der Brief vermische legitime kurzfristige Sicherheitsbedenken mit spekulativen Langfrist-Szenarien auf eine Weise, die weder das eine noch das andere präzise adressiere.

TESCREAL-Einbettung: Gebru und Torres (2024, First Monday) analysieren FLI als institutionellen Akteur des TESCREAL-Komplexes – als Organisation, die existenzrisikoorientierte Rahmungen in politische und akademische Diskurse trägt. Dabei normalisiere sie die ideologischen Vorannahmen des Longtermism (Priorisierung zukünftiger hypothetischer Personen über gegenwärtige Betroffene) ohne explizite Auseinandersetzung damit.

Elon-Musk-Verbindung und Interessenkonflikte: Musk war früher Hauptfinanzier und Unterzeichner des Pause-Briefs; wenige Monate nach dem Brief gründete er xAI als Konkurrenzunternehmen zu OpenAI, was die Unabhängigkeit seiner Unterstützung für eine KI-Pause in Frage stellte. FLI hat Musks spätere Aktivitäten nicht kommentiert.

Selektivität der Risikofokussierung: Die Konzentration auf superintelligente zukünftige Systeme als primäres Risiko wird von KI-Forschenden wie dem AI Now Institute, dem DAIR Institute (Timnit Gebru) und Critical-AI-Studies-Vertreterinnen als Ablenkung von nachweisbaren gegenwärtigen Schäden durch eingesetzte Systeme kritisiert.

Stand 2025/2026

Stand Mai 2026 ist FLI aktiv in der internationalen KI-Governance-Debatte – insbesondere in Foren, die auf das Bletchley-Park-AI-Safety-Summit (November 2023) und seine Nachfolgeprozesse zurückgehen.

Die Regulierungswirkung von FLIs Positionen – besonders im EU-AI-Act-Prozess und in der UN-Debatte über autonome Waffensysteme – ist in der Policy-Literatur dokumentiert. Die Forderung nach einer KI-Pause ist Stand 2025/2026 nicht in konkrete Gesetzgebung umgesetzt worden; die Fähigkeitsschwellen von Frontier-Modellen haben die im Brief adressierten GPT-4-Niveaus deutlich überschritten.

Verwandte Begriffe

• Existenzielles Risiko – zentrales Konzept der FLI-Programmatik
• Max Tegmark – Mit-Gründer und öffentliches Gesicht
• Effective Altruism – institutionelles Netzwerk
• Anthropic – organisatorisch nahestehend; ähnliche Risikophilosophie

Quellenangaben

1. Anderljung, Markus u. a., 2023. Frontier AI Regulation: Managing Emerging Risks to Public Safety. arXiv: 2307.03718.
2. Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
3. Future of Life Institute, 2015. Research Priorities for Robust and Beneficial Artificial Intelligence. FLI Open Letter. futureoflife.org.
4. Future of Life Institute, 2017. Asilomar AI Principles. futureoflife.org.
5. Future of Life Institute, 2023. Pause Giant AI Experiments: An Open Letter. futureoflife.org, März 2023.
6. Future of Life Institute, 2026. AI Safety Index – Summer 2026. futureoflife.org, Juli 2026. https://futureoflife.org/ai-safety-index-summer-2026/
7. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
8. Liesenfeld, Andreas / Dingemanse, Mark, 2023. Rethinking Open Source Generative AI: Open Washing and the EU AI Act. In: Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency. DOI: 10.1145/3630106.3659005. [Enthält Gegenposition zum Pause-Brief].
9. Ord, Toby, 2020. The Precipice: Existential Risk and the Future of Humanity.
10. Russell, Stuart, 2019. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking Press.
11. Tegmark, Max, 2017. Life 3.0: Being Human in the Age of Artificial Intelligence.
12. Torres, Émile P., 2021. The Dangerous Ideas of ‘Longtermism’ and ‘Existential Risk’. In: Current Affairs, Juli 2021.

← Zurück zur Lexikon-Übersicht