Nick Bostrom (* 10. März 1973 in Helsingborg, Schweden, als Niklas Boström) ist ein schwedischer Philosoph. Er ist insbesondere für seine Arbeiten zum Begriff des existenziellen Risikos, das Simulationsargument, anthropische Wahrscheinlichkeitstheorie sowie für die philosophische Auseinandersetzung mit Superintelligenz und menschlicher Enhancement-Ethik bekannt.
Von 2005 bis 2024 leitete er als Gründungsdirektor das Future of Humanity Institute (FHI) an der Universität Oxford.
Zusammenfassung
Bostrom gehört zu den meistzitierten zeitgenössischen Philosophen. Seine Arbeiten haben sowohl das akademische Feld der Risikoforschung und Philosophie der KI als auch das politische und unternehmerische Umfeld der Tech-Industrie geprägt.
Mit dem Buch Superintelligence (2014) trug er maßgeblich zur globalen Diskussion über mögliche Folgen fortgeschrittener künstlicher Intelligenz bei; seine Konzepte des existenziellen Risikos und der Vulnerable World Hypothesis sind zentrale Bezugspunkte in der Debatte um KI-Sicherheit und Longtermism. Bostrom ist neben seinem wissenschaftlichen Werk auch Mitbegründer organisierter transhumanistischer Bewegungen.
Seit 2023 steht er aufgrund einer 1996 verfassten und 2023 öffentlich gewordenen rassistischen E-Mail in einer anhaltenden öffentlichen Kontroverse; im April 2024 wurde das FHI von der Universität Oxford geschlossen.
Biografie
Ausbildung
Bostrom erwarb einen Bachelor an der Universität Göteborg, einen Master an der Universität Stockholm und einen weiteren Master am King’s College London.
2000 wurde er mit der Arbeit Observational Selection Effects and Probability an der London School of Economics promoviert; Doktorväter waren Colin Howson und Craig Callender. Seinen Angaben zufolge verfügt Bostrom über einen interdisziplinären Hintergrund in Philosophie, theoretischer Physik, mathematischer Logik, Computational Neuroscience und künstlicher Intelligenz.
Akademische Laufbahn
Nach Stationen an der Yale University wurde Bostrom 2005 Gründungsdirektor des Future of Humanity Institute an der Philosophischen Fakultät der Universität Oxford. Von 2008 bis 2024 hatte er dort eine Professur inne.
Im April 2024 wurde das FHI nach mehrjährigen Spannungen mit der Fakultät geschlossen; ein 2020 verhängtes Einfrieren von Anstellungen und Mittelakquise sowie die Nichtverlängerung von Mitarbeitendenverträgen 2023 markierten den Niedergang der Einrichtung. Bostrom verließ in diesem Zusammenhang die Universität. Er gründete anschließend die Macrostrategy Research Initiative, deren Hauptforscher er ist.
Außerakademisches Engagement
1998 war Bostrom Mitbegründer der World Transhumanist Association (heute Humanity+) und 2004 des Institute for Ethics and Emerging Technologies. Beide Organisationen prägten die institutionelle Verankerung transhumanistischer Positionen.
Werk
Anthropisches Schließen
In Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002) entwickelte Bostrom eine systematische Theorie sogenannter Beobachtungsauswahleffekte. Zentrale Begriffe sind die Self-Sampling Assumption (SSA) und die Self-Indication Assumption (SIA), die zu jeweils unterschiedlichen Implikationen für anthropische Argumente führen.
Simulationsargument
In dem Aufsatz Are We Living in a Computer Simulation? (Philosophical Quarterly, 2003) argumentiert Bostrom, dass mindestens eine der folgenden drei Aussagen zutreffen müsse: (1) Zivilisationen erreichen kaum jemals technologische Reife, (2) technologisch reife Zivilisationen führen keine Ahnen-Simulationen durch, oder (3) wir leben mit hoher Wahrscheinlichkeit selbst in einer Simulation.
Das Argument wurde in der Philosophie der Wahrscheinlichkeit, in der Metaphysik und außerhalb der akademischen Welt breit rezipiert.
Existenzielles Risiko
Bostrom prägte 2002 in Existential Risks: Analyzing Human Extinction Scenarios den Begriff des existenziellen Risikos und präzisierte ihn 2013 in Existential Risk Prevention as Global Priority (Global Policy).
Der Begriff bezeichnet Risiken, deren Eintreten die vorzeitige Auslöschung erdgebundenen intelligenten Lebens oder die dauerhafte Zerstörung seines Entfaltungspotenzials zur Folge hätte. Das Konzept ist seither zentraler Bezugspunkt der Forschungsfelder AI Safety, Biosecurity und Longtermism.
Superintelligenz
Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014) systematisiert Szenarien, in denen eine maschinelle Intelligenz die kognitiven Fähigkeiten des Menschen in praktisch allen Bereichen übertreffen würde, und analysiert das daraus folgende Kontrollproblem. Das Buch wurde unter anderem von Bill Gates und Elon Musk öffentlich rezipiert und gilt als ein Auslöser der breiteren Debatte um KI-Sicherheit.
Vulnerable World Hypothesis
In dem Aufsatz The Vulnerable World Hypothesis (2019) entwickelt Bostrom das Gedankenexperiment einer „schwarzen Kugel” aus einer „Urne von Technologien”: Eine technologische Entdeckung könnte so beschaffen sein, dass ihre Anwendung Zivilisationen mit hoher Wahrscheinlichkeit zerstöre, sobald sie verbreitet zugänglich werde.
Daraus leitet er Argumente für umfassendere Überwachungs- und Governance-Strukturen ab – eine Implikation, die in der Forschungsliteratur kontrovers diskutiert wurde.
Deep Utopia
In Deep Utopia: Life and Meaning in a Solved World (2024) widmet sich Bostrom Fragen nach Sinn, Wert und Identität in einer hypothetischen Zukunft, in der durch hochentwickelte KI sämtliche instrumentellen Probleme gelöst wären. Das Werk gilt als Gegenstück zu Superintelligence: nicht mehr die Risiken, sondern die normativen Implikationen eines vollständigen technologischen Erfolgs stehen im Zentrum.
Neuere Arbeiten an der Macrostrategy Research Initiative (2025–2026)
An seiner nach dem FHI-Aus gegründeten Macrostrategy Research Initiative setzte Bostrom seine Publikationstätigkeit fort. Im Working Paper Open Global Investment as a Governance Model for AGI (2025) untersucht er marktbasierte, breit gestreute Eigentumsmodelle als mögliche Alternative zu staatlich oder konzernseitig konzentrierter AGI-Kontrolle.
Im Februar 2026 veröffentlichte er das vieldiskutierte Working Paper Optimal Timing for Superintelligence: Mundane Considerations for Existing People, in dem er die bislang vorherrschende Rahmung der Sicherheitsdebatte – sicherer Status quo versus riskante KI-Entwicklung – infrage stellt.
Da Altern, Krankheit und andere gegenwärtige Risiken für heute lebende Menschen ohnehin tödlich seien, sei die Entwicklung von Superintelligenz eher mit einer riskanten, aber notwendigen Operation zu vergleichen als mit einem vermeidbaren Risiko. Seine Formel dafür: „swift to harbor, slow to berth” – zügige Fähigkeitsentwicklung, gefolgt von einer knapp bemessenen Sicherheitspause vor der Anwendung.
Das Papier wurde unter anderem auf LessWrong und im Blog Marginal Revolution breit diskutiert und markiert eine explizitere Betonung der Kosten von Verzögerung gegenüber Bostroms früherer, stärker vorsichtsorientierter Position (Bostrom 2026; Cowen, Marginal Revolution, 12. Februar 2026).
Weitere Beiträge
Zu den von Bostrom geprägten oder maßgeblich mitentwickelten Begriffen gehören unter anderem der Reversal Test (mit Toby Ord) und das Konzept des Information Hazard. Hinzu kommen der Singleton (Bezeichnung für eine globale Entscheidungsinstanz) sowie die Infinitarian Paralysis (das Problem moralischer Vergleichbarkeit bei unendlichen Werten).
Rezeption
Bostrom zählt zu den einflussreichsten Stimmen in den Diskursen um KI-Sicherheit, Longtermism und Transhumanismus. Seine Begriffsbildungen wurden in internationale Politikdokumente, Berichte staatlicher AI Safety Institutes sowie in die Programmatik mehrerer KI-Forschungsorganisationen aufgenommen. Zugleich ist sein Werk Gegenstand systematischer Kritik:
- Philosophische Kritik (u. a. Alice Crary, Kieran Setiya) wirft Bostrom vor, gegenwärtiges Leid in seinem Erwartungswertkalkül zu marginalisieren und problematische populationsethische Annahmen vorauszusetzen.
- Émile P. Torres und Timnit Gebru ordnen Bostroms Werk in das von ihnen so genannte TESCREAL-Bundle ein und argumentieren, es stehe in ideengeschichtlicher Kontinuität zur angloamerikanischen Eugenik des 20. Jahrhunderts.
- Vertreter alternativer KI-Risiko-Modelle (etwa zur accumulative AI x-risk) bemängeln eine Verengung der Debatte auf takeover-Szenarien.
Kontroversen
E-Mail von 1996 und Apologie 2023
Im Januar 2023 veröffentlichte Bostrom auf seiner Website ein Dokument unter dem Titel Apology for old email, nachdem er von der bevorstehenden Veröffentlichung einer im Jahr 1996 auf der Extropians-Mailingliste geschriebenen E-Mail durch den Philosophen Émile P. Torres Kenntnis erhalten hatte.
In der ursprünglichen E-Mail hatte Bostrom in zugespitzter Form rassistische Aussagen über kognitive Unterschiede zwischen ethnischen Gruppen formuliert und ein rassistisches Schimpfwort verwendet.
In der Apologie distanzierte Bostrom sich von Sprache und Aussage; die Form der Entschuldigung selbst – insbesondere ihre als unzureichend wahrgenommene Behandlung der wissenschaftlichen Frage – wurde sowohl innerhalb als auch außerhalb der EA-Community breit kritisiert.
Die Universität Oxford leitete eine Untersuchung ein und teilte Bostrom im August 2023 mit, dass sie ihn nicht als Rassisten einstufe und seine Apologie als aufrichtig betrachte; er nahm anschließend seine Dienstpflichten wieder auf.
Schließung des Future of Humanity Institute
Die Schließung des FHI im April 2024 wird in der öffentlichen Debatte unterschiedlich kontextualisiert. Bostrom selbst spricht von einem „Tod durch Bürokratie”, der auf langjährige Spannungen mit der Philosophischen Fakultät zurückgehe.
Kritische Stimmen verweisen demgegenüber auf den zeitlichen Zusammenhang mit der E-Mail-Affäre, dem Zusammenbruch der mit dem FHI ideell verbundenen Kryptobörse FTX im November 2022 sowie weitere Kontroversen im EA- und Longtermism-Umfeld. Eine offizielle Stellungnahme der Universität nennt die Entscheidung das Ergebnis interner Überlegungen, ohne die Gründe im Einzelnen offenzulegen.
Auszeichnungen (Auswahl)
- Eugene R. Gannon Award (2009)
- Aufnahme in die Liste der Top 100 Global Thinkers von Foreign Policy (2009, 2015)
- Aufnahme in die Prospect-Liste der einflussreichsten Denker
Werke (Auswahl)
- Anthropic Bias: Observation Selection Effects in Science and Philosophy. New York: Routledge, 2002.
- (Hrsg. mit Milan M. Ćirković) Global Catastrophic Risks. Oxford: Oxford University Press, 2008.
- (Hrsg. mit Julian Savulescu) Human Enhancement. Oxford: Oxford University Press, 2009.
- Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
- Deep Utopia: Life and Meaning in a Solved World. Washington, D. C.: Ideapress, 2024.
Verwandte Begriffe
- Existenzielles Risiko – von Bostrom geprägter Schlüsselbegriff
- Longtermism – Position, deren theoretische Grundlagen Bostrom mitentwickelt hat
- Anders Sandberg – langjähriger FHI-Kollege, Transhumanismus-Theoretiker
Quellenangaben
- Bioethics Observatory (2024): The Future of Humanity Institute closes. 29. Mai 2024.
- Bostrom, Nick, 2002. Anthropic Bias: Observation Selection Effects in Science and Philosophy.
- Bostrom, Nick, 2002. Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards. Journal of Evolution and Technology 9 (1).
- Bostrom, Nick, 2003. Are We Living in a Computer Simulation? In: Philosophical Quarterly 53 (211), S. 243–255. DOI: 10.1111/1467-9213.00309.
- Bostrom, Nick, 2013. Existential Risk Prevention as Global Priority. In: Global Policy 4 (1), S. 15–31. DOI: 10.1111/1758-5899.12002.
- Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
- Bostrom, Nick (2019): The Vulnerable World Hypothesis. In: Global Policy 10 (4), S. 455–476. DOI: 10.1111/1758-5899.12718.
- Bostrom, Nick (2024): Deep Utopia: Life and Meaning in a Solved World.
- Bostrom, Nick (2023): Apology for old email. Selbstpublikation auf nickbostrom.com, 9. Januar 2023.
- Bostrom, Nick (2025): Open Global Investment as a Governance Model for AGI. Working Paper, v. 1.15. nickbostrom.com.
- Bostrom, Nick (2026): Optimal Timing for Superintelligence: Mundane Considerations for Existing People. Working Paper, v. 1.0. nickbostrom.com/optimal.pdf, Februar 2026.
- Boyle, Tom (2024): Looking Back at the Future of Humanity Institute. In: Asterisk Magazine 08.
- Cowen, Tyler (2026): Optimal timing for superintelligence. In: Marginal Revolution, 12. Februar 2026.
- Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
- Torres, Émile P., 2023. Human Extinction: A History of the Science and Ethics of Annihilation.