Singularitarianismus

Singularitarianismus (englisch Singularitarianism) bezeichnet eine technologisch-zentrierte Ideologie und soziale Bewegung. Ihre Anhänger – die Singularitarier – sind davon überzeugt, dass eine technologische Singularität in absehbarer Zeit eintreten werde, dass diese maßgeblich durch die Entstehung einer Superintelligenz ausgelöst werde und dass gezieltes Handeln erforderlich sei, um sicherzustellen, dass dieser Übergang der Menschheit zugutekomme.

Der Begriff ist von dem zugrundeliegenden theoretischen Konzept der technologischen Singularität analytisch zu unterscheiden. Während Letzteres eine – primär von Vernor Vinge und Ray Kurzweil ausgearbeitete – Hypothese über einen möglichen technologisch induzierten Diskontinuitätspunkt bezeichnet, meint Singularitarianismus die normative Haltung, dieses Ereignis als wahrscheinlich, erwünscht und durch eigenes Handeln beeinflussbar zu betrachten.

Zusammenfassung

Der Singularitarianismus entstand in den späten 1990er und frühen 2000er Jahren aus der nordamerikanischen Transhumanismus– und Extropy-Szene. Er konsolidierte sich um die Person Eliezer Yudkowskys und das von ihm 2000 mitgegründete Singularity Institute for Artificial Intelligence (SIAI, seit 2013 Machine Intelligence Research Institute, MIRI).

Eine zweite, deutlich publikumswirksamere Strömung formierte sich um Ray Kurzweil und kulminierte in dessen Buch The Singularity Is Near (2005) sowie in der Gründung der Singularity University (2008). Beide Strömungen teilen die Annahme einer bevorstehenden, technologisch induzierten Transformation, divergieren aber erheblich in Zeithorizont, Schwerpunktsetzung und Praxis.

Während Kurzweil ein technikoptimistisches Programm beschleunigender Wandlungs- und Erfüllungserwartung formuliert, fokussiert sich Yudkowski und die MIRI-Linie auf Risiken einer fehlausgerichteten Superintelligenz und auf die Forschung zu Friendly AI.

Beide Strömungen wirken organisatorisch, personell und ideell in spätere Bewegungen – Effektiver Altruismus, Longtermism, Rationalisten-Community, KI-Sicherheits-Diskurse – hinein und bilden eine zentrale Komponente des in der jüngeren ideologiekritischen Forschung als TESCREAL zusammengefassten Diskurskomplexes.

Begriffsgeschichte

Frühe Verwendung

Den Begriff Singularitarian (zunächst als Selbstbezeichnung, später als Bewegungsname) prägte in den 1990er Jahren Mark Plus, ein Akteur der frühen amerikanischen Transhumanismus-Szene. Eine theoretisch ausgearbeitete und normativ aufgeladene Verwendung erhielt er erst durch Eliezer Yudkowsky.

Yudkowsky und die Singularitarian Principles

Im Januar 2000 publizierte Yudkowsky den programmatischen Text The Singularitarian Principles, in dem er den Singularitarianismus als säkulare, nicht-mystische, weltanschauliche Position definierte. Die Singularität sei (1) möglich, (2) durch menschliches Handeln beeinflussbar und (3) potenziell wünschenswert, vorausgesetzt sie werde mit angemessener Sorgfalt herbeigeführt.

Im selben Jahr gründete Yudkowsky mit finanzieller Unterstützung der Internet-Unternehmer Brian und Sabine Atkins das Singularity Institute for Artificial Intelligence (SIAI).

Kurzweil und die Popularisierung

Mit Ray Kurzweils Bestseller The Singularity Is Near: When Humans Transcend Biology (2005), in dem ein eigenes Kapitel den Titel Ich bin ein Singularitarian trägt, wurde der Begriff für ein breites Publikum verfügbar.

Kurzweil definierte den Singularitarier weicher als Yudkowski: als jemanden, „der die Singularität versteht und über ihre Implikationen für sein eigenes Leben reflektiert hat”. Diese inklusivere Bestimmung steht in einer gewissen Spannung zu Yudkowskis ursprünglich aktivistischer Lesart.

Zwei Hauptströmungen

Die Yudkowsky-Linie (Friendly AI / X-Risk)

Die Yudkowsky-MIRI-Strömung versteht den Singularitarianismus primär als Forschungs- und Aufklärungsprogramm zur Sicherstellung, dass eine künftige Superintelligenz mit menschlichen Werten ausgerichtet sei (Friendly AI, später aligned AI). Sie betont:

• die Möglichkeit einer schnellen Intelligence Explosion (I. J. Good 1965, Yudkowsky 1996ff.) durch rekursive Selbstverbesserung;
• das existenzielle Risiko einer fehlausgerichteten Superintelligenz;
• die Notwendigkeit, technische Lösungen des AI Alignment-Problems vor dem Erreichen kritischer Schwellen zu finden;
• eine probabilistische, oft pessimistische Lesart der Erfolgschancen (Stichwort p(doom)).

Die Linie verschränkte sich seit etwa 2007/2008 institutionell und personell eng mit dem entstehenden Effektiven Altruismus und mit Nick Bostroms Future of Humanity Institute (FHI, 2005–2024). Ebenso eng verbunden war sie mit der Rationalisten-Community um das Forum LessWrong (gegründet 2009 von Yudkowsky) und mit dem von Yudkowsky 2012 mitgegründeten Center for Applied Rationality (CFAR).

Die Kurzweil-Linie (Accelerating Change)

Die Kurzweil-Strömung fokussiert auf das Gesetz der beschleunigenden Erträge (law of accelerating returns) als verallgemeinerte Form des Mooreschen Gesetzes und prognostiziert konkrete Zeithorizonte:

• AGI bis 2029;
• Verschmelzung von biologischer und nichtbiologischer Intelligenz, exponentielles Wachstum von Computer- und Speicherkapazitäten;
• Eintritt der Singularität um 2045 mit qualitativem Bruch der Bedingungen menschlicher Existenz.

Kurzweil verbindet diese Prognosen mit konkreten lebensverlängernden, kognitiven und medizinisch-technischen Erwartungen (radical life extension, Mind Uploading, Brain-Computer-Interfaces), die in seinen Folgebänden How to Create a Mind (2012) und The Singularity Is Nearer (2024) ausgearbeitet werden.

Institutionelle Geschichte

Wichtige Stationen der institutionellen Entwicklung:

• 2000: Gründung des Singularity Institute for Artificial Intelligence (SIAI) durch Eliezer Yudkowsky.
• 2005: Veröffentlichung von Kurzweils The Singularity Is Near; Gründung des Future of Humanity Institute (FHI) durch Nick Bostrom in Oxford.
• 2006: Erster Singularity Summit in Stanford, organisiert von Ray Kurzweil, Eliezer Yudkowsky und Peter Thiel; bis 2012 jährlich abgehalten.
• 2008: Gründung der Singularity University in Mountain View durch Ray Kurzweil und Peter Diamandis, mit Unterstützung von NASA Ames und Google. Trotz des Namens befasst sich die SU schwerpunktmäßig mit kommerziell anwendbaren Zukunftstechnologien, nicht mit der Singularitätsfrage im engeren Sinne.
• 2009: Yudkowsky startet das Forum LessWrong, das zur zentralen Plattform der Rationalisten-Community wird.
• 2012: Gründung des Centre for the Study of Existential Risk (CSER) in Cambridge durch Huw Price, Martin Rees und Jaan Tallinn.
• 2013: SIAI wird in Machine Intelligence Research Institute (MIRI) umbenannt; die Markenrechte am Wort Singularity gehen an die Singularity University.
• 2024: Schließung des FHI (April 2024); Veröffentlichung von Kurzweils The Singularity Is Nearer (Juni 2024); Yudkowsky / Soares: If Anyone Builds It, Everyone Dies (2025).
• 2025/2026: OpenAI-CEO Sam Altman erklärt in seinem Essay The Gentle Singularity (Juni 2025) und öffentlich im Podcast Relentless (Juli 2026), man befinde sich „jetzt in der Singularität” – eine Wiederkehr singularitaristischer Selbstbeschreibung im Mainstream der KI-Industrie, weit außerhalb der ursprünglichen Yudkowsky- und Kurzweil-Zirkel.

Inhaltliche Positionen

Trotz interner Heterogenität teilen die meisten singularitaristischen Positionen eine Reihe von Annahmen:

1. Intelligence Explosion: Ein hinreichend allgemeines KI-System wird in der Lage sein, seine eigene Architektur rekursiv zu verbessern, woraus eine sich selbst beschleunigende Aufwärtsspirale resultiert.
2. Schwellencharakter: Der Übergang von subhumaner zu übermenschlicher Intelligenz wird sich nicht graduell, sondern qualitativ vollziehen.
3. Substrat-Unabhängigkeit: Bewusstsein und kognitive Fähigkeiten sind nicht an biologische Materie gebunden; Mind Uploading und Whole Brain Emulation sind prinzipiell möglich.
4. Handlungsimperativ: Aus der Wahrscheinlichkeit und Konsequenzschwere der Singularität folgt eine besondere ethische Verantwortung der heutigen Generation, sie sorgfältig vorzubereiten.
5. Risiken und Chancen: Die Singularität ist zugleich die größte Chance und das größte Risiko der Menschheitsgeschichte; ihr Gelingen entscheidet über das Schicksal künftiger Trillionen denkender Wesen.

Verbindungen zu verwandten Bewegungen

Der Singularitarianismus ist organisatorisch, personell und ideell eng mit mehreren benachbarten Strömungen verwoben:

• Transhumanismus: Singularitarianismus lässt sich als spezialisierte, KI-zentrierte Variante des Transhumanismus lesen. Viele Akteure (Bostrom, Max More, Yudkowsky, Kurzweil) waren in beiden Bewegungen aktiv.
• Effektiver Altruismus: Seit etwa 2008/2009 wandte sich ein wachsender Teil der EA-Community KI-bezogenen existenziellen Risiken zu; AI Safety wurde zu einem der dominierenden Tätigkeitsfelder.
• Longtermism: Die in der Singularitäts-Argumentation enthaltene Aufmerksamkeit für die fernere Zukunft fließt unmittelbar in den longtermistischen Argumentationshaushalt ein (Bostrom 2003/2013, Beckstead 2013, MacAskill 2022).
• Rationalisten-Community / LessWrong: Die epistemische Praxis des Forums (Bayesianismus, Aufmerksamkeit für biases, Diskussion existenzieller Risiken) verschränkt sich personell und thematisch mit dem Singularitarianismus.
• KI-Sicherheits-Forschung: Viele der heute in Industrie und Akademie etablierten AI Safety– und AI Alignment-Forschenden haben Wurzeln in der singularitaristischen Diskussion.
• TESCREAL: In der ideologiekritischen Analyse von Émile P. Torres und Timnit Gebru (2024) bildet der Singularitarianismus den S-Bestandteil des Akronyms.

Kritik

Religionssoziologische Kritik

Mehrere Autoren analysieren den Singularitarianismus als säkularisierte Variante apokalyptischer und eschatologischer Erwartungsmuster:

• Robert M. Geraci, Apocalyptic AI (2010), arbeitet strukturelle Parallelen zu jüdisch-christlicher Apokalyptik heraus (Erlösung, leiblose Existenz, Erfüllung der Geschichte).
• John Gray kritisiert in The Soul of the Marionette (2015) und in Seven Types of Atheism (2018) den Singularitarianismus als Wiederkehr gnostischer Erlösungsphantasien.
• Beth Singler (Cambridge) untersucht aus religionswissenschaftlicher Perspektive das Verhältnis von KI-Diskursen und transzendenz-religiösen Strukturen.
• Der Sciencefiction-Autor Ken MacLeod prägte für das Mind-Uploading-Versprechen den ironischen Ausdruck Rapture of the Nerds.

Wissenschaftliche und epistemische Kritik

• Theodore Modis (2006) wandte gegen Kurzweils Extrapolationen ein, dass die unterstellten exponentiellen Wachstumskurven empirisch nicht so eindeutig seien, wie behauptet, und dass historische Inflexionspunkte oft retrospektiv selektiv gewählt würden.
• Paul Allen / Mark Greaves (Technology Review 2011): The Singularity Isn’t Near – argumentieren, dass die für eine Singularität nötige complexity brake unterschätzt werde.
• Jaron Lanier, You Are Not a Gadget (2010) und Who Owns the Future? (2013), kritisiert den Singularitarianismus als ideologische Selbstüberhöhung der Tech-Industrie.
• Allen Steele und Charles Stross halten den Singularitarianismus für eine spekulative Konstruktion mit unzureichender empirischer Basis.
• Daniel Lyons kritisierte 2009 die Vermischung legitimer KI-Forschung mit eschatologischen Erwartungen.

Ideologiekritische Einwände

In der TESCREAL-Kritik (Émile P. Torres, Timnit Gebru, Alice Crary) wird der Singularitarianismus als Teil eines ideengeschichtlich kohärenten Bündels analysiert, das transhumanistische, eugenische, kosmistische, rationalistische und longtermistische Motive verbinde und Machtkonzentration in der Tech-Industrie legitimiere. Die Position ist innerhalb der Forschung kontrovers; Gegner verweisen auf erhebliche interne Heterogenität des Diskurses.

Empirisch-prognostische Kritik

Eine eigene Forschungsrichtung untersucht die Treffsicherheit singularitaristischer Prognosen. Eine MIRI- und FHI-nahe Studie (Armstrong, Sotala u. a.) zeigte, dass viele Vorhersagen zum Zeitpunkt der AGI/Singularität auffallend häufig in einen 15- bis 25-Jahres-Korridor ab Veröffentlichung fielen – was als Indiz für ein Erwünschtheits- statt Wahrheitsmotiv gedeutet wurde.

Abgrenzungen

• Singularitarianismus vs. Technologische Singularität: Letzteres ist die theoretische Hypothese, ersteres die normativ-aktivistische Haltung gegenüber ihr.
• Singularitarianismus vs. Transhumanismus: Transhumanismus ist breiter (umfasst Lebensverlängerung, Enhancement, Posthumanität); Singularitarianismus fokussiert auf die KI-induzierte Diskontinuität.
• Singularitarianismus vs. AI Safety / Alignment-Forschung: AI-Safety-Forschung ist heute ein etabliertes wissenschaftliches Feld mit Forschenden, die teils singularitaristische, teils explizit nicht-singularitaristische Positionen vertreten.
• Singularitarianismus vs. Akzelerationismus (e/acc): Beide befürworten beschleunigte technologische Entwicklung, divergieren aber in der Risikoeinschätzung; die effective accelerationism-Bewegung wird häufig als bewusste Gegenposition zur safety-fokussierten Singularitarianismus-Variante verstanden.

Verwandte Begriffe

• Technologische Singularität – zugrundeliegendes theoretisches Konzept, von dem sich der Singularitarianismus als normative Haltung abgrenzt
• AI Alignment – das zentrale Forschungsprogramm der Yudkowsky-Linie
• Effektiver Altruismus – eng verschränkte Bewegung
• Longtermism – eng verschränkte Position
• Rationalisten-Community / LessWrong – soziales und epistemisches Milieu
• TESCREAL – ideologiekritisches Sammelkonzept
• Existenzielles Risiko – risikotheoretischer Bezugsrahmen

Quellenangaben

1. Allen, Paul G. / Greaves, Mark (2011): The Singularity Isn’t Near. In: MIT Technology Review, 12. Oktober 2011.
2. Altman, Sam (2025): The Gentle Singularity. blog.samaltman.com, Juni 2025.
3. Armstrong, Stuart / Sotala, Kaj / Ó hÉigeartaigh, Seán S. (2014): The Errors, Insights and Lessons of Famous AI Predictions – and What They Mean for the Future. In: Journal of Experimental & Theoretical Artificial Intelligence 26 (3), S. 317–342.
4. Beckstead, Nick, 2013. On the Overwhelming Importance of Shaping the Far Future. Dissertation, Department of Philosophy, Rutgers University.
5. Bhatia, Ashish (2026): Sam Altman Says We’re In The Singularity. What Does He Actually Mean? In: Forbes, 28. Juli 2026.
6. Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
7. Bostrom, Nick, 2003. Astronomical Waste: The Opportunity Cost of Delayed Technological Development. In: Utilitas 15 (3), S. 308–314. DOI: 10.1017/S0953820800004076.
8. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
9. Geraci, Robert M. (2010): Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality.
10. Good, Irving John, 1965. Speculations Concerning the First Ultraintelligent Machine. In: Advances in Computers 6, S. 31–88.
11. Gray, John (2018): Seven Types of Atheism.
12. Kurzweil, Ray, 2005. The Singularity Is Near: When Humans Transcend Biology. New York: Viking Press.
13. Kurzweil, Ray, 2024. The Singularity Is Nearer: When We Merge with AI. New York: Viking Press.
14. Lanier, Jaron (2010): You Are Not a Gadget: A Manifesto.
15. MacAskill, William, 2022. What We Owe the Future. Basic Books.
16. Modis, Theodore (2006): The Singularity Myth. In: Technological Forecasting & Social Change 73 (2), S. 104–112.
17. Singler, Beth (2017): An Introduction to Artificial Intelligence and Religion for the Religious Studies Scholar. In: Implicit Religion 20 (3), S. 215–231.
18. Vinge, Vernor, 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era. In: Vision-21 Symposium, NASA Conference Publication 10129.
19. Yudkowsky, Eliezer (2000): The Singularitarian Principles, Version 1.0. yudkowsky.net.
20. Yudkowsky, Eliezer, 2008. Artificial Intelligence as a Positive and Negative Factor in Global Risk.
21. Yudkowsky, Eliezer / Soares, Nate, 2025. If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.

← Zurück zur Lexikon-Übersicht