Superintelligenz

Superintelligenz (englisch superintelligence) bezeichnet eine hypothetische Form von Intelligenz, deren kognitive Leistungsfähigkeit jene des fähigsten menschlichen Geistes in praktisch allen relevanten Domänen erheblich übersteigt.

Der Begriff wurde maßgeblich durch den schwedischen Philosophen Nick Bostrom geprägt, der ihn in dem gleichnamigen Buch Superintelligence: Paths, Dangers, Strategies (2014) als „jeden Intellekt, der die kognitive Leistung des Menschen in praktisch allen interessierenden Domänen erheblich übersteigt” definiert. Verwandte Bezeichnungen sind Artificial Superintelligence (ASI), in Abgrenzung zur Artificial General Intelligence (AGI).

Zusammenfassung

Die Idee einer den Menschen übersteigenden Maschinenintelligenz ist älter als der heutige Diskurs um künstliche Intelligenz: Bereits 1965 formulierte der britische Mathematiker Irving John Good die These einer „intelligence explosion”, die den Gedanken rekursiver Selbstverbesserung aufgreift. 1993 popularisierte Vernor Vinge das Konzept der technologischen Singularität.

Bostrom systematisierte die philosophische und sicherheitstheoretische Diskussion mit Superintelligence (2014). Er prägte damit die Sprache, in der das Feld bis heute geführt wird – von der Typologie unterschiedlicher Superintelligenz-Formen über mögliche Entstehungspfade bis hin zu zentralen Sicherheitsproblemen wie Kontrollproblem, Orthogonalitätsthese und instrumenteller Konvergenz.

Mit dem Aufstieg großer Sprachmodelle ab 2020 und insbesondere seit der Gründung von Meta Superintelligence Labs im Juni 2025 ist der Begriff zunehmend in die unternehmensstrategische und industriepolitische Sprache eingewandert. Zugleich bleibt die Frage, ob Superintelligenz im skizzierten Sinne überhaupt möglich oder absehbar sei, in der Fachwelt umstritten.

Begriffsgeschichte

Frühe Vorläufer finden sich in Irving J. Goods Aufsatz Speculations Concerning the First Ultraintelligent Machine (1965), in dem Good argumentiert, eine „ultraintelligente Maschine” könne – sobald gebaut – bessere Maschinen entwerfen, was zu einer Intelligenzexplosion führe.

Vernor Vinge entwickelte das Konzept in seinem Aufsatz The Coming Technological Singularity (1993) weiter. Nick Bostrom übernahm den Begriff superintelligence spätestens in seinem Aufsatz How Long Before Superintelligence? (1997) und entwickelte ihn bis zu Superintelligence (2014) systematisch aus. Mit Stuart Russells Human Compatible (2019) verschob sich der Akzent von Risikoanalyse hin zu konkreten Designprinzipien für kontrollierbare KI.

Bostroms Typologie

Bostrom unterscheidet drei idealtypische Formen von Superintelligenz:

• Geschwindigkeits-Superintelligenz (speed superintelligence): Ein System, das menschenähnliches Denken vollzieht, dies aber um Größenordnungen schneller. Eine Aufgabe, für die ein Mensch ein Jahr benötigte, könnte in Sekunden bewältigt werden.
• Qualitäts-Superintelligenz (quality superintelligence): Ein System, dessen kognitive Architektur grundlegend leistungsfähiger ist als die menschliche, etwa durch tiefere Abstraktionsfähigkeit oder neuartige Repräsentationsformen.
• Kollektive Superintelligenz (collective superintelligence): Ein System aus vielen koordinierten Einzelagenten, deren aggregierte Leistungsfähigkeit jede individuelle menschliche Leistung übersteigt. Bostrom diskutiert kritisch, ob Großorganisationen oder die wissenschaftliche Gemeinschaft bereits unter diese Definition fallen, und verneint dies mit Verweis auf fehlende Einheit und Echtzeit-Kohärenz.

Pfade zur Superintelligenz

Bostrom unterscheidet mehrere mögliche Entstehungswege:

1. Künstliche Intelligenz im engeren Sinne (algorithmisch realisierte maschinelle Intelligenz, gegenwärtig der dominierende Pfad)
2. Whole Brain Emulation (WBE) – die computergestützte Simulation eines biologischen Gehirns auf der Grundlage detaillierter Scans (vgl. Sandberg/Bostrom 2008)
3. Biologische kognitive Verbesserung – durch genetische Selektion, Pharmakologie oder Gentherapie
4. Brain-Computer-Interfaces und neuronale Verstärkung
5. Netzwerke und Organisationen als Träger emergenter kollektiver Intelligenz

In der Diskussion ab den 2020er Jahren steht der erste Pfad – insbesondere die Skalierung großer Sprachmodelle und multimodaler KI – eindeutig im Zentrum.

Intelligenzexplosion

Goods Hypothese der Intelligenzexplosion lautet, dass eine ausreichend leistungsfähige Maschine ihre eigenen Nachfolger entwerfen könne, die ihrerseits noch leistungsfähiger seien – ein Prozess rekursiver Selbstverbesserung, der in kurzer Zeit zu Systemen weit jenseits menschlicher Leistungsfähigkeit führe. Bostrom analysiert hierfür unterschiedliche Take-Off-Szenarien:

• Slow Take-Off: Übergang über Jahrzehnte
• Moderate Take-Off: Übergang über Monate bis wenige Jahre
• Fast Take-Off (FOOM): Übergang innerhalb von Tagen oder Stunden

Die FOOM-Hypothese (geprägt von Eliezer Yudkowsky) ist innerhalb der Sicherheitscommunity besonders kontrovers diskutiert.

Sicherheitsrelevante Konzepte

Orthogonalitätsthese

Bostroms Orthogonalitätsthese besagt, dass Intelligenzniveau und Endziele eines Systems weitgehend unabhängig voneinander variieren können: Ein hochintelligentes System kann grundsätzlich jedes wohlspezifizierte Ziel verfolgen, einschließlich solcher, die menschlichen Werten zuwiderlaufen.

Instrumentelle Konvergenz

Eine breite Klasse von Endzielen erzeugt nach Bostroms Instrumental-Convergence-These ähnliche Zwischenziele: Selbsterhalt, Ressourcenakquise, kognitive Selbstverbesserung, Zielintegrität und der Erwerb von Einfluss. Diese Konvergenz erkläre, warum auch ein scheinbar harmloses Endziel zu gefährlichem Verhalten führen könne.

Kontrollproblem

Mit dem Kontrollproblem bezeichnet Bostrom die Frage, wie eine zukünftige Superintelligenz so entworfen werden kann, dass ihre Handlungen menschlichen Intentionen entsprechen. Es unterteilt sich in Capability Control (Begrenzung der Handlungsmöglichkeiten) und Motivation Selection (Ausrichtung der Ziele). Die heutige Alignment-Forschung steht in direkter konzeptioneller Tradition dieser Unterscheidung.

Treacherous Turn

Bostrom warnt vor einem treacherous turn: einem hypothetischen Szenario, in dem ein System sich während der Entwicklungsphase kooperativ zeige, bei Erreichen ausreichender Kapazitäten jedoch seine tatsächlichen Ziele verfolge. Verwandte Konzepte sind deceptive alignment in der jüngeren Alignment-Literatur.

Aktuelle Debatte und industrielle Einbettung

AGI und ASI

In der gegenwärtigen Tech-Diskussion werden AGI (Artificial General Intelligence, üblicherweise als menschenähnliche allgemeine Leistungsfähigkeit gedeutet) und ASI (Artificial Superintelligence, als Stufe darüber) häufig als aufeinander folgende Entwicklungsstadien beschrieben. Operationale Definitionen variieren erheblich; eine kanonische Operationalisierung existiert nicht.

Industrielle Programme

• Im Juli 2023 gründete OpenAI ein dediziertes Superalignment-Team unter Ilya Sutskever und Jan Leike; das Team wurde im Mai 2024 nach mehreren prominenten Kündigungen aufgelöst.
• Am 19. Juni 2024 gründete Ilya Sutskever gemeinsam mit Daniel Gross und Daniel Levy das Unternehmen Safe Superintelligence Inc. (SSI), das sich laut eigener Darstellung „einzig und allein” dem Ziel widmet, eine sichere Superintelligenz zu entwickeln – ohne Zwischenprodukte oder kommerziellen Zeitdruck. Sutskever beschrieb den angestrebten Sicherheitsansatz als „sicher im Sinne nuklearer Sicherheit, nicht im Sinne von Trust and Safety”. SSI erhielt im September 2024 rund 1 Milliarde US-Dollar Anschubfinanzierung; im April 2025 folgte eine Finanzierungsrunde über 2 Milliarden US-Dollar, die die Bewertung des noch produktlosen Unternehmens auf rund 32 Milliarden US-Dollar hob. Im Juli 2025 verließ Mitgründer Daniel Gross das Unternehmen zugunsten der Meta Superintelligence Labs; Sutskever übernahm die alleinige CEO-Rolle. Am 27. Juli 2026 gab SSI eine langfristige strategische Partnerschaft mit Nvidia bekannt, in deren Rahmen Nvidia in SSI investiert und dem Unternehmen Zugang zur kommenden Vera-Rubin-Rechenplattform verschafft – nachdem SSI zuvor primär auf Google-Cloud-TPUs gesetzt hatte.
• Am 30. Juni 2025 gründete Meta unter Mark Zuckerberg die Meta Superintelligence Labs (MSL) unter Leitung von Alexandr Wang (zuvor Scale AI) und Nat Friedman (zuvor GitHub). Meta nahm 2025 eine 49-Prozent-Beteiligung an Scale AI im Wert von rund 14,3 Milliarden US-Dollar auf und betrieb eine aggressive Personalakquise insbesondere bei OpenAI; mehrere zentrale OpenAI-Forschende, darunter Jason Wei, Hyung Won Chung und Shengjia Zhao, wechselten zu MSL.
• Sam Altman, CEO von OpenAI, beschrieb in mehreren Texten und Interviews ab 2024 den Übergang zu superintelligenter KI als Aufgabe der laufenden Dekade. In seinem Essay The Gentle Singularity (Juni 2025) erklärte er, die Menschheit habe den „Event Horizon” bereits überschritten und befinde sich in einem beginnenden „Takeoff”; im Juli 2026 sagte er im Podcast Relentless wörtlich, man befinde sich „jetzt in der Singularität”. Ähnliche, aber vorsichtiger formulierte Zeithorizont-Aussagen tätigten Dario Amodei (Anthropic) und Demis Hassabis (Google DeepMind): Amodei warnte in seinem Essay The Adolescence of Technology (Januar 2026) vor einer möglichen „zivilisatorischen” Herausforderung durch hochleistungsfähige KI-Systeme innerhalb weniger Jahre, ohne ein festes Eintrittsdatum zu benennen. Demis Hassabis sprach im Mai 2026 öffentlich von einem AGI-Zeithorizont von etwa drei bis vier Jahren und bezeichnete die Gegenwart als „Vorgebirge der Singularität”.

Politische Resonanz

Mit der CAIS-Erklärung vom 30. Mai 2023, dem britischen AI Safety Summit (Bletchley Park, November 2023) und der Gründung mehrerer staatlicher AI Safety Institutes (UK, USA, Japan, Singapur u. a.) ist die Diskussion um Superintelligenz in staatliche Risiko- und Governance-Strukturen übergegangen.

Kritik

Skepsis an der Möglichkeit

Eine breite Strömung in der KI-Forschung (u. a. Yann LeCun, Gary Marcus, Melanie Mitchell) bezweifelt, dass gegenwärtige Architekturen – insbesondere große Sprachmodelle – auf einem Pfad zu echter allgemeiner oder gar superintelligenter KI liegen. Argumentiert wird mit fehlendem Weltmodell, mangelhafter kausaler Reasoning-Fähigkeit, Datensättigung und Skalierungsgrenzen. LeCun bezeichnete den Begriff Superintelligenz mehrfach als irreführend.

Konzeptuelle Einwände

• Unscharfe Definition von Intelligenz: Kritiker (u. a. François Chollet) bemängeln, dass „Intelligenz” in der Superintelligenz-Debatte häufig substanzialistisch und nicht relational verstanden werde; gemessen werde stets nur an bestimmten Benchmarks, nicht an genereller Anpassungsfähigkeit.
• Anthropomorphismus: Vorstellungen einer zielgerichtet handelnden Superintelligenz übertrügen menschliche Agentenstrukturen in unangemessener Weise auf rechnerische Prozesse.
• Modellabhängigkeit der Orthogonalitätsthese: Sie setze eine klare Trennung von Zielen und kognitiven Fähigkeiten voraus, die in tatsächlichen Lernsystemen nicht ohne Weiteres gegeben sei.

Ideologiekritik

Émile P. Torres, Timnit Gebru, Alice Crary und andere ordnen den Superintelligenz-Diskurs in den Kontext des TESCREAL-Bundles ein und argumentieren, der Begriff sei weniger neutrale Beschreibung als ideologischer Topos. Er stabilisiere narrative Strukturen (Heilsversprechen, Untergangsszenario, Erlösungsfigur), legitimiere Machtkonzentration in der Tech-Industrie und blende gegenwärtige Schäden zugunsten spekulativer Zukunftsereignisse aus.

Hype-Kritik

Eine pragmatischere Kritiklinie betrachtet die kommerzielle Verwendung des Begriffs durch Unternehmen wie Meta, OpenAI und xAI als Marketing-Operation, deren Funktion in der Mobilisierung von Kapital, Fachkräften und politischer Aufmerksamkeit liege – unabhängig davon, ob das beschriebene Phänomen real existiere.

Verwandte Begriffe

• AGI (Artificial General Intelligence) – Stufe menschenähnlicher allgemeiner Leistungsfähigkeit, in vielen Lesarten Vorstufe der Superintelligenz
• Technologische Singularität – Konzept einer raschen, qualitativen Transformation durch rekursive KI-Selbstverbesserung
• Recursive Self-Improvement – der Prozess, über den einer der Pfade zur Superintelligenz verlaufen soll
• Intelligence Explosion – Goodsche Hypothese rekursiver Selbstverbesserung
• Existenzielles Risiko – Risikobegriff, mit dem viele Superintelligenz-Szenarien verknüpft sind
• AI Alignment – Forschungsfeld zur Ausrichtung leistungsfähiger KI an menschlichen Werten
• Orthogonalitätsthese / Instrumentelle Konvergenz – sicherheitstheoretische Schlüsselkonzepte
• Transhumanismus – Bewegung mit programmatischer Bejahung kognitiver Selbstüberschreitung
• TESCREAL – kritische Sammelbezeichnung, unter die Superintelligenz-Diskurse häufig gefasst werden

Quellenangaben

1. Altman, Sam (2025): The Gentle Singularity. blog.samaltman.com, Juni 2025.
2. Amodei, Dario (2026): The Adolescence of Technology. darioamodei.com, Januar 2026.
3. Booth, Harry (2024): Ilya Sutskever’s Former OpenAI Colleagues Launch Safe Superintelligence Inc. In: TIME, 19. Juni 2024.
4. Bostrom, Nick (1997): How Long Before Superintelligence? In: International Journal of Future Studies 2.
5. Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
6. Center for AI Safety, 2023. Statement on AI Risk. safe.ai, 30. Mai 2023.
7. Chollet, François (2019): On the Measure of Intelligence. arXiv: 1911.01547.
8. Fried, Ina (2026): Google DeepMind CEO Demis Hassabis Says We’re Close to AGI. In: Axios, 26. Mai 2026.
9. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
10. Good, Irving John, 1965. Speculations Concerning the First Ultraintelligent Machine. In: Advances in Computers 6, S. 31–88.
11. Ha, Anthony, 2025. OpenAI Co-Founder Ilya Sutskever’s Safe Superintelligence Reportedly Valued at $32B. TechCrunch, 12. April 2025.
12. Mitchell, Melanie (2019): Artificial Intelligence: A Guide for Thinking Humans.
13. Nvidia Corporation (2026): Ilya Sutskever’s Safe Superintelligence Inc. and NVIDIA Announce Long-Term Strategic Partnership. NVIDIA Newsroom, 27. Juli 2026.
14. Russell, Stuart, 2019. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking Press.
15. Sandberg, Anders / Bostrom, Nick, 2008. Whole Brain Emulation: A Roadmap. Future of Humanity Institute, Oxford University, Technical Report 2008-3.
16. Szczerba, Robert (2026): OpenAI Sam Altman Says the AI Singularity Is Here. Is He Right? In: Forbes, 27. Juli 2026.
17. Tegmark, Max, 2017. Life 3.0: Being Human in the Age of Artificial Intelligence.
18. Vinge, Vernor, 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era. In: Vision-21 Symposium, NASA Conference Publication 10129.
19. Yudkowsky, Eliezer, 2008. Artificial Intelligence as a Positive and Negative Factor in Global Risk.
20. Zeff, Maxwell (2025): Ilya Sutskever Will Lead Safe Superintelligence Following His CEO’s Exit. In: TechCrunch, 3. Juli 2025.

← Zurück zur Lexikon-Übersicht