Recursive Self-Improvement

Recursive Self-Improvement (Abkürzung RSI, deutsch rekursive Selbstverbesserung) bezeichnet die hypothetische Fähigkeit eines KI-Systems, seine eigene Leistungsfähigkeit zu steigern, wobei die verbesserte Version dieselbe Fähigkeit erneut auf sich selbst anwendet.

Der springende Punkt ist nicht die Selbstverbesserung als solche – jedes lernende System verändert sich selbst –, sondern die Rekursion: dass der Zuwachs an Fähigkeit zugleich die Fähigkeit erhöht, weitere Zuwächse zu erzeugen.

Aus dieser Rückkopplung leitet ein Teil der KI-Sicherheitsforschung das Szenario der Intelligenzexplosion ab, in dem sich die Entwicklungsgeschwindigkeit innerhalb kurzer Zeit um Größenordnungen erhöht und der Vorgang der menschlichen Kontrolle entgleitet. RSI ist damit der Mechanismus, auf dem die These der technologischen Singularität technisch ruht – und zugleich die Stelle, an der sich Befürworter und Kritiker dieser These am schärfsten trennen.

Zusammenfassung

Das Argument ist alt und in seiner logischen Form einfach: Wenn Intelligenz das ist, womit man Maschinen entwirft, dann ist eine hinreichend intelligente Maschine in der Lage, bessere Maschinen zu entwerfen als ihre menschlichen Konstrukteure – einschließlich ihrer selbst.

Irving John Good formulierte das 1965 als ultraintelligent machine, Vernor Vinge machte 1993 die Unvorhersehbarkeit des Ergebnisses zum Kern, Nick Bostrom systematisierte es 2014 zum Standardargument der Risikoliteratur. Die Gegenposition, prominent von Robin Hanson vertreten, bestreitet nicht die Möglichkeit, sondern die Geschwindigkeit: Selbstverbesserung sei ein normaler ökonomischer Wachstumsprozess mit abnehmenden Grenzerträgen, kein Sprung.

Seit etwa 2024 hat die Debatte eine empirische Ebene bekommen, die sie zuvor nicht hatte.

Systeme wie die Darwin Gödel Machine (Zhang u. a. 2025) modifizieren tatsächlich ihren eigenen Code, AlphaEvolve (Novikov u. a. 2025) findet Algorithmen, die Menschen jahrzehntelang nicht gefunden haben, und zwei umfangreiche Übersichtsarbeiten von 2026 ordnen inzwischen mehr als tausend Einzelarbeiten.

Der Befund dieser Literatur ist unspektakulär: Was heutige Systeme verbessern, sind fast durchweg Gerüstkomponenten – Prompts, Speicher, Werkzeugschnittstellen, Kontrolllogik – und nicht die Modellarchitektur selbst. Die Rekursion ist real, aber flach, und sie stößt auf drei belegte Grenzen: Verifikationsbedarf, Modellkollaps bei rekursiv erzeugten Daten und Rechenkosten.

Begriffsgeschichte

Die klassische Formulierung stammt von dem britischen Mathematiker und Bletchley-Park-Kryptoanalytiker Irving John Good.

In seinem Aufsatz über die erste ultraintelligente Maschine (Good 1965) definiert er diese als Maschine, die die intellektuellen Tätigkeiten jedes Menschen übertrifft – und zieht daraus den Schluss, dass der Entwurf von Maschinen selbst eine solche Tätigkeit ist. Die erste ultraintelligente Maschine sei deshalb die letzte Erfindung, die der Mensch machen müsse. Good schreibt diese Überlegung explizit als Rückkopplung, nicht als bloße Prognose.

Vernor Vinge verlagerte 1993 den Akzent von der Fähigkeit auf die Erkenntnisgrenze: Nicht die Überlegenheit der Maschine sei das Definierende, sondern dass jenseits des Umschlagpunktes keine belastbaren Aussagen über die weitere Entwicklung mehr möglich seien (Vinge 1993). Von ihm stammt die Analogie zur physikalischen Singularität, die dem Begriff seinen Namen gab.

Die formal sorgfältigste Fassung legte David J. Chalmers 2010 vor. Er zerlegt das Argument in eine Kette – von AI über AI+ zu AI++ – und macht die entscheidende Prämisse explizit, die er Proportionalitätsthese nennt: dass Zuwächse an Intelligenz proportionale Zuwächse an Konstruktionsfähigkeit nach sich ziehen (Chalmers 2010). Genau diese Prämisse ist es, an der die spätere Kritik ansetzt; sie ist keine logische Wahrheit, sondern eine empirische Behauptung über die Struktur des Suchraums.

Nick Bostrom überführte das Argument 2014 in die Sprache der Risikoanalyse und unterschied langsame, moderate und schnelle Startdynamiken – letztere über Stunden oder Tage (Bostrom 2014).

Die im deutschsprachigen Raum oft Bostrom zugeschriebene Vokabel FOOM stammt allerdings nicht von ihm, sondern aus der Auseinandersetzung zwischen Eliezer Yudkowsky und Robin Hanson, die das Machine Intelligence Research Institute 2013 als AI-Foom Debate dokumentierte (Hanson / Yudkowsky 2013).

Yudkowsky legte im selben Jahr mit Intelligence Explosion Microeconomics den Versuch vor, die Frage nach den Erträgen kognitiver Reinvestition von der Rhetorik in die Ökonomie zu verschieben (Yudkowsky 2013).

Parallel und weitgehend unabhängig von der Risikodebatte entwickelte Jürgen Schmidhuber ab 2003 die Programmatik der Gödel Machine: ein selbstreferenzielles System, das seinen eigenen Code nur dann umschreibt, wenn es zuvor beweisen kann, dass die Änderung den erwarteten Nutzen erhöht (Schmidhuber 2003).

Rekursive Selbstverbesserung erscheint hier nicht als Gefahr, sondern als Ziel – und die Beweispflicht als eingebaute Sicherung. Die Konstruktion ist theoretisch elegant und praktisch nie implementiert worden, was in der späteren Literatur der zentrale Einwand bleibt.

Die Struktur des Arguments

Ausformuliert besteht das klassische RSI-Szenario aus vier Schritten. Erstens verbessert ein System eine für seine eigene Leistung relevante Komponente – Code, Architektur, Trainingsverfahren, Werkzeugausstattung.

Zweitens ist die entstandene Version leistungsfähiger und damit auch besser darin, den ersten Schritt auszuführen. Drittens schließt sich daraus eine positive Rückkopplung. Viertens ergibt sich, sofern die Rückkopplungsstärke oberhalb eines kritischen Werts liegt, ein superexponentieller Verlauf.

Die Schwachstelle liegt zwischen Schritt eins und zwei. Dass ein System besser wird, heißt nicht automatisch, dass es besser darin wird, sich zu verbessern; das ist Chalmers’ Proportionalitätsthese, und sie kann auf drei Weisen scheitern.

Der Suchraum kann sich verhärten, so dass jede weitere Verbesserung überproportional mehr Aufwand kostet. Die Verbesserungsfähigkeit kann von Ressourcen abhängen, die nicht mitwachsen – Rechenzeit, Daten, physische Experimente. Und der Engpass kann außerhalb des Systems liegen, etwa in der Frage, welche Forschungsrichtung überhaupt verfolgt werden soll.

An diese Struktur schließt die Sicherheitsargumentation an. Ein System, das seine eigene Fähigkeit steigert, hat nach der These der Instrumental Convergence Grund, dabei auch seine Zielfunktion gegen Änderung zu schützen (Omohundro 2008) – kognitive Selbstverbesserung ist dort eines der konvergenten instrumentellen Ziele.

Zusammen mit der Orthogonality Thesis, derzufolge Intelligenzgrad und Zielinhalt unabhängig variieren können, ergibt sich das Kernszenario: Ein Prozess, der Fähigkeit schnell steigert, muss die Ziele nicht mitverbessern, und ein hinreichend fähiges System hat instrumentelle Gründe, Korrigierbarkeit zu unterlaufen.

Rekursionsstufen: was sich tatsächlich verbessert

Die neuere Literatur hat das umgangssprachlich einheitliche „sich selbst verbessern” auseinandergelegt, und dieser Schritt entschärft einen Großteil der älteren Debatte. Ren u. a. (2026) modellieren einen Agenten als Kopplung aus einem Basismodell und einem operativen Gerüst – im Original „prompts, memory, tools, and control logic”.

Selbstverbesserung ist dann ein selbst ausgelöster Aktualisierungsoperator, der entweder auf die Modellparameter oder auf das Gerüst wirkt. Beides hat unterschiedliche Eigenschaften: Gerüstverbesserungen sind schnell und leicht rückgängig zu machen, Parameterverbesserungen langsamer, dafür über Aufgaben hinweg stabil.

Chen u. a. (2026) ordnen dasselbe Feld entlang zweier anderer Achsen und legen dabei ein durchgehendes Ordnungsprinzip frei. Die erste Achse fragt, was verbessert wird: das Verhalten im Einsatz, die Policy über Training, der Bewerter oder der Forschungsprozess selbst.

Die zweite fragt, wie weit die Schleife geschlossen ist – von menschlicher Aufsicht in jedem Schritt bis zur vollständig geschlossenen Rekursion. Ihr zentraler Beitrag ist die Beobachtung, dass jede Verbesserungsschleife implizit eine Behauptung darüber aufstellt, welches Signal menschliches Urteil ersetzen kann.

Sie ordnen diese Signale in eine Verifikationshierarchie von formalen Verifikatoren als stärkstem bis zur reinen Selbsteinschätzung als schwächstem Fall – und stellen fest, dass die nachgewiesene Stärke der Selbstverbesserung dieser Hierarchie folgt.

Wo hart verifiziert werden kann, funktioniert Selbstverbesserung; wo das System sich selbst bewertet, treten die bekannten Fehlermodi auf.

Diese Unterscheidung erklärt, warum die Empirie so ungleich verteilt ist. Mathematik, Wettbewerbsprogrammierung und Algorithmenoptimierung sind Domänen mit billiger, harter Verifikation – dort sind die Fortschritte real. Offene Forschungsfragen, Werturteile und Zielsetzung sind es nicht.

Empirische Befunde

Die Darwin Gödel Machine von Jenny Zhang, Shengran Hu, Cong Lu, Robert Lange und Jeff Clune ist der bislang direkteste Test des Konzepts (Zhang u. a. 2025). Sie verzichtet auf Schmidhubers Beweispflicht, die die Autoren für praktisch unerfüllbar halten, und ersetzt sie durch empirische Validierung an Programmier-Benchmarks.

Das System modifiziert seinen eigenen Code, hält ein wachsendes Archiv von Agentenvarianten und erkundet den Suchraum evolutionär statt linear. Es verbesserte sich auf SWE-bench von 20,0 auf 50,0 Prozent und auf Polyglot von 14,2 auf 30,7 Prozent.

Die entdeckten Verbesserungen sind aufschlussreich: bessere Werkzeuge zum Editieren von Code, Verwaltung langer Kontextfenster, Peer-Review-Mechanismen – also durchweg Gerüst, nicht Architektur. Die Autoren betonen ausdrücklich, alle Experimente seien mit Sicherheitsvorkehrungen durchgeführt worden, konkret Sandboxing und menschlicher Aufsicht.

Vorausgegangen war Automated Design of Agentic Systems derselben Gruppe (Hu u. a. 2024), in dem ein Meta-Agent neue Agenten programmiert und in einem Archiv sammelt.

AlphaEvolve von Google DeepMind zeigt, wie weit das in verifizierbaren Domänen trägt: Das System verbesserte einen Planungsalgorithmus für Rechenzentren und fand für die Multiplikation komplexwertiger 4×4-Matrizen ein Verfahren mit 48 skalaren Multiplikationen – die erste Verbesserung gegenüber Strassens Algorithmus seit 56 Jahren (Novikov u. a. 2025).

The AI Scientist (Lu u. a. 2024) treibt die Schleife bis zum Forschungsprozess: Ideenfindung, Experiment, Aufsatz und simulierte Begutachtung, zu Kosten von unter 15 Dollar je Arbeit.

Wo die Grenze derzeit verläuft, zeigen die Messungen von METR am deutlichsten. RE-Bench stellt Agenten und menschliche Fachleute vor dieselben Forschungsaufgaben aus dem maschinellen Lernen und variiert das Zeitbudget (Wijk u. a. 2024). Bei zwei Stunden erreichen die Agenten das Vierfache der menschlichen Punktzahl, bei acht Stunden ziehen die Menschen knapp gleich, bei 32 Stunden liegen sie beim Doppelten.

Die Agenten sind schneller, die Menschen skalieren besser über die Zeit – genau das Profil, das eine Rekursion bremst, die auf lange Iterationsketten angewiesen ist. Die ergänzende Zeithorizont-Messung derselben Gruppe findet allerdings, dass sich die Aufgabenlänge, die Modelle zuverlässig bewältigen, seit 2019 etwa alle sieben Monate verdoppelt (Kwa u. a. 2025). Beide Befunde zusammen ergeben kein Bild einer Explosion, aber auch keines der Stagnation.

Kritik

Der ökonomische Einwand ist der älteste. Robin Hanson bestreitet in der AI-Foom Debate, dass Selbstverbesserung eine Sonderkategorie darstellt: Auch Firmen, Volkswirtschaften und Forschungsgemeinschaften verbessern rekursiv ihre eigene Verbesserungsfähigkeit, und das Ergebnis ist beschleunigtes, aber kontinuierliches Wachstum (Hanson / Yudkowsky 2013).

Ege Erdil und Tamay Besiroglu prüfen die ökonomische Variante des Arguments systematisch und kommen zu einem bewusst zurückhaltenden Schluss: Explosives Wachstum erscheine bei hinreichend fähigen Systemen möglich, hohe Zuversicht in diese Behauptung sei gegenwärtig aber nicht gerechtfertigt (Erdil / Besiroglu 2023).

Der stärkste neuere Einwand ist datentechnisch. Ilia Shumailov und Kolleginnen zeigten in Nature, dass Modelle kollabieren, wenn sie auf rekursiv erzeugten eigenen Ausgaben trainiert werden: Die Ränder der Verteilung verschwinden zuerst, dann verengt sich die Verteilung insgesamt bis zur Unbrauchbarkeit (Shumailov u. a. 2024). Damit ist eine der plausibelsten Rekursionsschleifen – das Modell erzeugt seine eigenen Trainingsdaten – nicht bloß schwierig, sondern unter unkontrollierten Bedingungen selbstzerstörerisch.

Chen u. a. (2026) ordnen diesen Befund in ihre Verifikationshierarchie ein und leiten daraus ab, dass Modellkollaps, selbstbestätigende Schleifen und Diversitätsverlust keine Zufallsprobleme sind, sondern die vorhersagbare Folge davon, dass ein schwaches Signal als Ersatz für menschliches Urteil verwendet wird.

Der dritte Einwand ist der nüchternste und stammt aus der Empirie selbst. Was gegenwärtig unter „Selbstverbesserung” firmiert, betrifft ganz überwiegend das Gerüst – Prompts, Speicher, Werkzeuge, Kontrolllogik – und nicht die Architektur oder die Gewichte des zugrunde liegenden Modells.

Die Verbesserung ist real, aber sie findet in einem Raum statt, den Menschen abgesteckt haben, und sie endet, wenn dieser Raum ausgeschöpft ist. Chen u. a. bezeichnen deshalb das gegenwärtige Feld als bounded self-refinement und halten offene rekursive Selbstverbesserung auf jeder gemessenen Achse für begrenzt – durch Erdungsbedarf, Kollapsdynamiken und Rechenkosten.

Hinzu kommt ein begrifflicher Einwand, den beide Übersichtsarbeiten teilen: Das Vokabular des Feldes – self-refine, self-reward, self-play, self-evolve – verschleift Ambitionen sehr unterschiedlicher Reichweite. Ein Modell, das seine Antwort einmal überarbeitet, und ein System, das seinen Forschungsprozess umbaut, tragen dasselbe Etikett.

Sicherheits- und Governance-Debatte

Für die Sicherheitsforschung verschiebt der empirische Befund die Fragestellung, ohne sie zu erledigen. Solange Selbstverbesserung auf Gerüstebene stattfindet, ist sie beobachtbar, versionierbar und rückgängig zu machen – das ist eine erhebliche praktische Sicherheitsreserve, und die Darwin Gödel Machine nutzt sie mit Sandboxing und menschlicher Aufsicht ausdrücklich.

Problematisch wird es dort, wo die Schleife sich schließt, ohne dass eine belastbare Bewertungsinstanz außerhalb des Systems steht.

Genau hier setzen die Schwellenwertregime der Frontier-Labore an. Eine Responsible Scaling Policy definiert Fähigkeitsschwellen, oberhalb derer zusätzliche Auflagen greifen, und die Fähigkeit zur autonomen KI-Forschung ist in diesen Rahmenwerken durchgehend als eigene, besonders sensible Kategorie geführt – aus dem naheliegenden Grund, dass sie die Voraussetzung jeder ernsthaften Rekursion ist.

Chen u. a. (2026) benennen die dabei entstehende Lücke präzise: Sie identifizieren die governance-taugliche Messung von Selbstverbesserung als die am dünnsten besetzte Nische des Feldes. Es gibt viel Arbeit daran, Systeme sich verbessern zu lassen, und wenig daran, den Grad der erreichten Rekursion so zu messen, dass eine Aufsichtsbehörde damit arbeiten könnte.

Stand 2025/2026

Rekursive Selbstverbesserung hat zwischen 2024 und 2026 den Status gewechselt: von einem Argument der Zukunftsphilosophie zu einem Forschungsfeld mit Benchmarks, Taxonomien und mehr als tausend gesichteten Arbeiten.

Die beiden Übersichtsarbeiten des Jahres 2026 – die eine unter Beteiligung Schmidhubers, dessen Gödel-Machine-Programmatik die Vorgeschichte des Feldes bildet (Ren u. a. 2026), die andere mit einer Auswertung von 1.250 arXiv-Arbeiten der Jahre 2024 bis 2026 (Chen u. a. 2026) – kommen dabei zu bemerkenswert ähnlichen Schlüssen.

Selbstverbesserung funktioniert dort verlässlich, wo hart verifiziert werden kann, und sie betrifft überwiegend das Gerüst statt des Modells. Die Rekursion ist real, aber flach.

Damit ist das klassische Szenario weder bestätigt noch widerlegt. Bestätigt ist, dass Systeme ihren eigenen Code produktiv umschreiben können; das war 2020 offen. Nicht bestätigt ist die Proportionalitätsthese, auf der die Explosionsdynamik beruht – im Gegenteil deuten die Zeitbudget-Messungen von METR darauf hin, dass die menschliche Überlegenheit gerade bei den langen Iterationsketten liegt, die eine Rekursion tragen müsste.

Die offene Frage lautet nicht mehr, ob Maschinen sich verbessern können, sondern ob sie den Engpass der Richtungsentscheidung überwinden – und wie man den Grad der Schließung dieser Schleife messen würde, bevor er erreicht ist.

Quellenangaben

Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
Chalmers, David J., 2010. The Singularity: A Philosophical Analysis. In: Journal of Consciousness Studies 17 (9–10), S. 7–65.
Chen, Mingguang / Wang, Licheng / Qu, Bo, 2026. Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops. arXiv: 2607.07663
Erdil, Ege / Besiroglu, Tamay, 2023. Explosive Growth from AI Automation: A Review of the Arguments. arXiv: 2309.11690
Good, Irving John, 1965. Speculations Concerning the First Ultraintelligent Machine. In: Advances in Computers 6, S. 31–88.
Hanson, Robin / Yudkowsky, Eliezer, 2013. The Hanson-Yudkowsky AI-Foom Debate.
Hu, Shengran / Lu, Cong / Clune, Jeff, 2024. Automated Design of Agentic Systems. arXiv: 2408.08435
Kwa, Thomas u. a., 2025. Measuring AI Ability to Complete Long Tasks. METR. arXiv: 2503.14499
Lu, Chris u. a., 2024. The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery. Sakana AI. arXiv: 2408.06292
Novikov, Alexander u. a., 2025. AlphaEvolve: A Coding Agent for Scientific and Algorithmic Discovery. Google DeepMind. arXiv: 2506.13131
Omohundro, Stephen M., 2008. The Basic AI Drives.
Ren, Zhe u. a., 2026. Self-Improvements in Modern Agentic Systems: A Survey. arXiv: 2607.13104
Schmidhuber, Jürgen, 2003. Gödel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements. arXiv: cs/0309048.
Shumailov, Ilia u. a., 2024. AI Models Collapse When Trained on Recursively Generated Data. In: Nature 631, S. 755–759. DOI: 10.1038/s41586-024-07566-y
Vinge, Vernor, 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era. In: Vision-21 Symposium, NASA Conference Publication 10129.
Wijk, Hjalmar u. a., 2024. RE-Bench: Evaluating Frontier AI R&D Capabilities of Language Model Agents Against Human Experts. METR. arXiv: 2411.15114
Yudkowsky, Eliezer, 2013. Intelligence Explosion Microeconomics.
Zhang, Jenny / Hu, Shengran / Lu, Cong / Lange, Robert / Clune, Jeff, 2025. Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents. ICLR 2026. arXiv: 2505.22954

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.