Toby Ord

Toby David Godfrey Ord (* Juli 1979 in Melbourne, Australien) ist australischer Moralphilosoph. Er war Senior Research Fellow am Future of Humanity Institute (FHI) der University of Oxford (bis zur Schließung der Institution im April 2024).

Seither ist er Senior Researcher an der Oxford Martin AI Governance Initiative (AIGI) sowie Research Affiliate bei Forethought, einer 2024 gegründeten, auf KI-Makrostrategie spezialisierten Non-Profit-Forschungsorganisation.

Ord ist Mitbegründer der Bewegung des Effektiven Altruismus, Gründer der Giving What We Can-Pledge-Organisation (2009) und Autor des 2020 erschienenen Bandes The Precipice: Existential Risk and the Future of Humanity – der einflussreichsten zugänglichen Ausformulierung der Existential-Risk-Forschung in die breite Öffentlichkeit.

Zusammenfassung

Ord verbindet drei intellektuelle Bahnen: utilitaristische Ethik (in der Tradition Peter Singers und Derek Parfits), praktische Bewegungsorganisation (Pledge-Pflicht-Bewegung, EA-Mitbegründung) und akademische Existential-Risk-Forschung.

Seine Giving What We Can-Pledge – die Verpflichtung, mindestens 10 % des eigenen Lebenseinkommens an effektive wohltätige Organisationen zu spenden – ist seit ihrer Gründung 2009 von über 8.000 Personen unterzeichnet worden. Die kumulierten Spendenverpflichtungen liegen bei über 1,5 Mrd. US-Dollar (Stand laut Ords eigener Angabe 2022/23).

The Precipice (Bloomsbury / Hachette 2020) systematisiert die Existential-Risk-Forschung und stellt eine quantitative Bestandsaufnahme der Hauptrisiken vor: Ord schätzt die Wahrscheinlichkeit einer existenziellen Katastrophe für die Menschheit im 21. Jahrhundert auf etwa eins zu sechs – mit ungebundener KI als der nach seiner Einschätzung schwerwiegendsten Einzelquelle.

Ord hat das International Panel on the Information Environment sowie zahlreiche Regierungen und internationale Organisationen beraten (UK Prime Minister’s Office, WHO, World Bank, World Economic Forum, US National Intelligence Council).

Im Unterschied zu Yudkowsky und Bostrom operiert Ord stilistisch akademisch-zugänglich, ohne metaphysische Schärfungen – was The Precipice zu der heute wohl meistgelesenen Einführung in den Existential-Risk-Diskurs gemacht hat.

Biografie

Ord wurde 1979 in Melbourne geboren. Er studierte zunächst Informatik an der University of Melbourne und wechselte später zur Philosophie. Sein Graduiertenstudium absolvierte er in Oxford (B.Phil. 2007, D.Phil. 2009 unter John Broome) am Balliol College. Seither ist Ord in Oxford verankert: zunächst als Postdoctoral Fellow, dann als Senior Research Fellow am Future of Humanity Institute unter Nick Bostrom, schließlich am Reuben College.

2009 gründete Ord Giving What We Can – gemeinsam mit William MacAskill, der damals noch als William Crouch unter Ords Mentoring promovierte. Ord selbst hat sich verpflichtet, sein Lebenseinkommen über einem Schwellenwert (zunächst £18.000, später angepasst) vollständig an effektive wohltätige Organisationen zu spenden, was deutlich über die 10-%-Pflicht der Pledge hinausgeht.

Mit der Schließung des Future of Humanity Institute im April 2024 (im Gefolge der Bostrom-Email-Affäre und institutioneller Spannungen mit der Philosophischen Fakultät Oxfords) verlor Ord seine institutionelle Hauptverankerung.

Er ist seither als Senior Researcher an der Oxford Martin AI Governance Initiative tätig, sitzt im Board des Centre for the Governance of AI und ist zudem Research Affiliate bei Forethought. Er arbeitet damit weiterhin an KI-bezogener Existential-Risk-Forschung, nun mit stärkerem Fokus auf konkrete KI-Governance-Fragen.

Werk

Frühe Arbeiten

Ords frühe akademische Arbeit lag in der Metaethik (insbesondere zu Fragen der Aggregation und der Population Ethics in der Tradition Parfits) und in der theoretischen Informatik (zur Hypercomputation-Debatte, Hypercomputation: Computing More than the Turing Machine, 2002). Diese ungewöhnliche Doppelqualifikation prägt seinen späteren Stil – formal-präzise, aber zugänglich.

Giving What We Can und Effective Altruism

2009 gründete Ord Giving What We Can zunächst als kleine Pledge-Gemeinschaft, die sich aus einer Diskussion mit Singer und anderen entwickelte. Die Organisation wurde später Teil des Centre for Effective Altruism (CEA, gemeinsam mit MacAskill 2012 gegründet).

Ord gehört zu den intellektuellen und institutionellen Gründungsfiguren des EA. Seine eigene Lebensführung (Selbstverpflichtung zu drastischer Eigenarmut zugunsten der Spendenziele) ist im EA-Kontext zu einem stilbildenden Vorbild geworden.

Moral Uncertainty (2020)

Gemeinsam mit William MacAskill und Krister Bykvist veröffentlichte Ord 2020 die fachphilosophische Monografie Moral Uncertainty (Oxford University Press). Das Werk entwickelt ein formal-entscheidungstheoretisches Modell rationaler Entscheidung unter Unsicherheit über die korrekte ethische Theorie und gilt als einer der substantiellsten Beiträge der heutigen EA-orientierten Metaethik.

The Precipice (2020)

The Precipice: Existential Risk and the Future of Humanity (Bloomsbury / Hachette 2020, ca. 480 Seiten) ist Ords Hauptwerk und die heute meistgelesene Einführung in den Existential-Risk-Diskurs. Das Buch entwickelt fünf zentrale Thesen:

Erstens befindet sich die Menschheit historisch in einem besonderen Moment (the Precipice) – der Phase, in der sie hinreichend mächtige Technologien hat, um sich selbst auszulöschen, aber noch nicht hinreichend weise organisiert, um das zuverlässig zu verhindern.

Zweitens nimmt Ord eine quantitative Bestandsaufnahme der existenziellen Risiken vor und gibt für jedes einzelne eine grob geschätzte Wahrscheinlichkeit für eine existenzielle Katastrophe im 21. Jahrhundert an: ungebundene KI (ca. 1:10), gentechnisch erzeugte Pandemien (ca. 1:30), nicht-aligned KI plus weitere Risiken, kosmologische Hintergrundrisiken (Asteroiden, Supervulkane).

Die aggregate Schätzung liegt bei etwa 1:6 – der heute am häufigsten zitierte Wert in der Existential-Risk-Sekundärliteratur.

Drittens systematisiert Ord die Argumentationsstruktur der Existential-Risk-Forschung im Anschluss an Bostroms Astronomical Waste-Argument, aber stilistisch zugänglicher und ohne die kosmologisch-utilitaristische Aggregations-Maximalposition Bostroms.

Viertens schlägt Ord ein Programm der long reflection vor – eine Phase, in der die Menschheit nach Sicherung ihrer Existenz Zeit hat, ihre Werte und langfristigen Ziele kollektiv zu klären.

Fünftens entwickelt das Buch konkrete politische Vorschläge: ein internationales Verbot bestimmter Klassen von Bioweapons, eine institutionalisierte Existential-Risk-Forschung, eine UN-Sonderbeauftragung, eine ständige institutionelle Vertretung der Interessen künftiger Generationen.

Einordnung

Ords Position innerhalb der Tech- und KI-Ideologiedebatte ist durch drei Differenzen profiliert:

Gegenüber Bostroms Bostrom-Maximalprogramm: Ord teilt das Existential-Risk-Anliegen, akzentuiert aber stärker als Bostrom konkrete Politikvorschläge und vermeidet die Kosmologie-Aggregation der Astronomical-Waste-Linie. The Precipice lässt Bostroms Astronomical-Waste-Schätzung in der Argumentation präsent, baut sie aber nicht in den Mittelpunkt.

Gegenüber MacAskills Longtermism: Ord ist mit MacAskill institutionell eng verbunden und teilt die methodische Grundlinie, akzentuiert aber stärker die gegenwärtige moralische Verantwortung – The Precipice ist näher an einer klassischen Tugendethik der Verantwortung als an MacAskills aggregierter Zukunftswohlfahrt.

Gegenüber Yudkowsky/MIRI: Ord teilt die Risikoanalyse, lehnt aber die spezifisch MIRI’sche Diagnose-Sprache (Foom, CEV, fragility of value) zugunsten eines mainstream-akademisch zugänglicheren Vokabulars ab.

Kritik

Drei Kritiklinien sind einschlägig:

Quantifizierung der Risiken: Die 1:6-Schätzung ist breit zitiert worden, ist aber methodisch nur eine grobe Heuristik und ohne empirische Validierbarkeit. Ord selbst markiert die Schätzung als illustrativ; Kritiker:innen wie David Thorstad (Existential Risk Pessimism and the Time of Perils, GPI Working Paper 2023) haben gezeigt, dass die unterliegenden mathematischen Annahmen die Schätzung in beide Richtungen erheblich verschieben können.

TESCREAL-Einordnung (Gebru/Torres 2024): Ord wird im TESCREAL-Kontext primär als longtermistischer Theoretiker eingeordnet, ohne dass seine Differenzen zu Bostrom-Yudkowsky-MacAskill in dieser Verortung sichtbar gemacht werden. Eine differenzierte Aufarbeitung der EA-internen Heterogenität fehlt in der TESCREAL-Diskussion bislang.

Disability-Ethik: Wie bei Singer und MacAskill ist auch bei Ord die utilitaristische Aggregations-Logik aus der Disability-Bewegung kritisiert worden – der Fokus auf statistische Aggregate künftiger Wohlfahrt kann die individuellen Lebenswerte heute lebender Menschen in den Hintergrund treten lassen.

Verwandte Begriffe

• Existenzielles Risiko – sein zentrales Forschungsfeld
• Effektiver Altruismus – Bewegungsrahmen
• Giving What We Can – von ihm gegründete Pledge-Organisation
• Peter Singer – ideengeschichtlicher Vorläufer
• Long Reflection – Ords eigener Programmvorschlag

Quellenangaben

1. Beckstead, Nick, 2013. On the Overwhelming Importance of Shaping the Far Future. Dissertation, Department of Philosophy, Rutgers University.
2. Bostrom, Nick, 2013. Existential Risk Prevention as Global Priority. In: Global Policy 4 (1), S. 15–31. DOI: 10.1111/1758-5899.12002.
3. Forethought (2025): Toby Ord. Profilseite, abgerufen im August 2026. https://www.forethought.org/people/toby-ord
4. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
5. Lewis-Kraus, Gideon (2022): The Reluctant Prophet of Effective Altruism. In: The New Yorker, 8. August 2022.
6. MacAskill, William / Bykvist, Krister / Ord, Toby (2020): Moral Uncertainty.
7. Ord, Toby, 2020. The Precipice: Existential Risk and the Future of Humanity.
8. Ord, Toby (2014): Global Poverty and the Demands of Morality. In: Cohen, Andrew I. (Hrsg.): Philosophy and Public Policy. Lanham: Rowman & Littlefield, S. 177–191.
9. Ord, Toby / Hillerbrand, Rafaela / Sandberg, Anders (2010): Probing the Improbable: Methodological Challenges for Risks with Low Probabilities and High Stakes. In: Journal of Risk Research 13 (2), S. 191–205. DOI: 10.1080/13669870903126267.
10. Ord, Toby (2002): Hypercomputation: Computing More than the Turing Machine. arXiv: math/0209332.
11. Ord, Toby (2024): Shaping Humanity’s Longterm Trajectory. Veröffentlichung am Reuben College / Future of Humanity Institute (vor Schließung), Februar 2024.
12. Oxford Martin School, AI Governance Initiative (2026): Dr Toby Ord. Profilseite, abgerufen im August 2026. https://aigi.ox.ac.uk/people/dr-toby-ord/
13. Singer, Peter (1972): Famine, Affluence, and Morality. In: Philosophy and Public Affairs 1 (3), S. 229–243.
14. Thorstad, David (2023): Existential Risk Pessimism and the Time of Perils. Global Priorities Institute Working Paper No. 11-2023.

← Zurück zur Lexikon-Übersicht