Transformative AI (deutsch etwa transformative KI) bezeichnet KI-Systeme, deren gesellschaftliche und wirtschaftliche Wirkung mit der von industrieller oder landwirtschaftlicher Revolution vergleichbar wäre. Der Begriff wurde von der Förderorganisation Open Philanthropy (seit November 2025 Coefficient Giving) geprägt und macht bewusst keine Aussage über kognitive Allgemeinheit oder menschenähnliche Intelligenz.
Zusammenfassung
Transformative AI ist ein wirkungsorientierter Gegenentwurf zu fähigkeitsorientierten Begriffen wie AGI und HLMI.
Statt zu fragen, was ein System kann, fragt er, was ein System auslöst. Der praktische Vorzug: Für Förderentscheidungen, Risikoabschätzung und Politikgestaltung ist die gesellschaftliche Wirkung die relevante Größe – und diese lässt sich prinzipiell beobachten, während die Frage nach Allgemeinheit oder Verstehen begrifflich umstritten bleibt.
Der Begriff wird vor allem in der Förderpolitik und in Teilen der Risikoforschung verwendet und ist außerhalb dieses Umfelds weniger verbreitet als AGI.
Begriffsgeschichte
Der Begriff entstand aus einem praktischen Problem der Förderpolitik. Als Open Philanthropy Mitte der 2010er Jahre begann, KI als eigenständiges Förderfeld zu behandeln, stand die Organisation vor der Frage, worauf sich Mittel eigentlich richten sollten.
AGI schied als Bezugsgröße aus: Der Begriff war umstritten, sein Eintritt nicht prüfbar, und die Debatte darüber, ob ein System wirklich allgemein sei, hätte die Förderentscheidung an eine philosophische Kontroverse gebunden, die sich absehbar nicht klären ließ.
Die Lösung bestand darin, die Frage umzudrehen. Für eine Stiftung ist ohnehin nicht entscheidend, welche kognitive Verfassung ein System hat, sondern welche Folgen es auslöst – und Folgen lassen sich, anders als Allgemeinheit, an Vergleichsmaßstäben messen. Der gewählte Vergleichsmaßstab, die industrielle Revolution, setzt die Schwelle bewusst hoch und schließt Entwicklungen aus, die zwar auffällig, aber nicht epochal sind.
Ausgearbeitet wurde die Überlegung von Holden Karnofsky, Mitgründer von GiveWell und langjähriger Leiter von Open Philanthropy, insbesondere in seiner Aufsatzreihe zur These, die Gegenwart könne sich als das folgenreichste Jahrhundert der Menschheitsgeschichte erweisen. Dort wird der Begriff mit dem enger gefassten PASTA-Konzept verbunden und in Zeitreihen zur Entwicklung von Rechenleistung eingebettet.
Bestimmung
Die Bestimmung erfolgt über den Vergleich mit historischen Umbrüchen. Als Maßstab dienen Ereignisse, die Produktionsweise, Gesellschaftsordnung und Lebensverhältnisse dauerhaft und grundlegend verändert haben – die neolithische und die industrielle Revolution.
Daraus ergeben sich zwei Eigenschaften des Begriffs:
Er ist substratneutral. Ob die Wirkung von einem einzelnen allgemeinen System, von vielen spezialisierten Systemen oder von deren Zusammenspiel ausgeht, ist unerheblich. Eine Ansammlung enger Systeme könnte transformativ wirken, ohne dass eines davon AGI wäre.
Er ist schwellenlos definiert, aber nachträglich prüfbar. Anders als bei AGI existiert kein Testverfahren, das den Eintritt feststellt. Ob eine Entwicklung transformativ war, lässt sich im Rückblick beurteilen – was den Begriff für Prognosen erschwert und für Bewertungen taugt.
Abgrenzung
| Begriff | Frage | Maßgeblich |
|---|---|---|
| AGI | Was kann das System? | kognitive Allgemeinheit |
| HLMI | Ist es so gut und billig wie Menschen? | Fähigkeit plus Wirtschaftlichkeit |
| Transformative AI | Was löst es aus? | gesellschaftliche Wirkung |
Die Begriffe sind unabhängig voneinander erfüllbar. Ein System könnte im kognitionsorientierten Sinne allgemein sein, ohne transformativ zu wirken – etwa wenn es zu teuer im Betrieb bliebe. Umgekehrt könnten enge Systeme transformativ wirken, ohne die Schwelle zur Allgemeinheit zu erreichen.
Verwandt, aber enger gefasst ist der Begriff PASTA (Process for Automating Scientific and Technological Advancement), den Holden Karnofsky als Bestimmung eines Systems einführte, das den wissenschaftlich-technischen Fortschritt selbst automatisiert. Die Überlegung: Wer den Fortschrittsprozess automatisiert, beschleunigt alle davon abhängigen Entwicklungen – weshalb dies der Punkt wäre, an dem Transformation einsetzt.
Verwendung
Der Begriff dient primär als Planungsgröße. Die Organisation verwendet ihn zur Begründung von Fördermitteln im Bereich der KI-Sicherheit; die Argumentation lautet, dass die Vorbereitung auf eine transformative Entwicklung auch dann sinnvoll ist, wenn Zeitpunkt und Form ungewiss bleiben.
In der Prognoseliteratur wird der Begriff verwendet, um Wahrscheinlichkeitsverteilungen über Zeiträume zu formulieren, ohne sich auf eine bestimmte Fähigkeitsdefinition festlegen zu müssen.
Kritik
Der Vorzug der Wirkungsorientierung ist zugleich die Hauptschwäche: Der Begriff ist prognostisch schwer handhabbar, weil er ex post bestimmt ist. Eine Aussage darüber, wann transformative KI eintritt, setzt eine Vorstellung davon voraus, welcher Grad von Veränderung als vergleichbar mit der industriellen Revolution gilt – und diese Setzung ist ihrerseits strittig.
Weiter wird eingewandt, dass der Begriff die Frage nach der Richtung der Veränderung offenlässt. Transformativ ist wertneutral formuliert und umfasst Entwicklungen mit erheblich unterschiedlichem Vorzeichen.
Aus der sozio-technischen Kritik wird angemerkt, dass die Ausrichtung auf einen künftigen Umbruch gegenwärtige Wirkungen – auf Arbeitsmärkte, Informationsräume, Machtverteilung – als bloße Vorstufe erscheinen lässt, obwohl sie eigenständig zu bewerten wären.
Verwandte Begriffe
- AGI – fähigkeitsorientierter Alternativbegriff
- HLMI – ökonomisch gerahmte Bestimmung
- ASI – Stufe jenseits menschlichen Niveaus
- Open Philanthropy – Förderorganisation, die den Begriff prägte; seit November 2025 Coefficient Giving
- Existenzielles Risiko – verwandter Risikobegriff mit anderer Reichweite
- Longtermism – Denkrichtung, in deren Umfeld der Begriff entstand
- Technologische Singularität – stärkere These über die Folgen des Umbruchs
Quellenangaben
- Gruetzemacher, Ross / Whittlestone, Jess (2022): The Transformative Potential of Artificial Intelligence. In: Futures 135, 102884.
- Karnofsky, Holden (2021): Forecasting Transformative AI. Cold Takes.
- Karnofsky, Holden (Open Philanthropy) (2016): Some Background on Our Views Regarding Advanced Artificial Intelligence.
- Morris, Meredith Ringel / Sohl-Dickstein, Jascha / Fiedel, Noah / Warkentin, Tris / Dafoe, Allan / Faust, Aleksandra / Farabet, Clement / Legg, Shane (Google DeepMind) (2023): Levels of AGI for Operationalizing Progress on the Path to AGI. arXiv: 2311.02462.
← Zurück zur Lexikon-Übersicht
Zuletzt bearbeitet: 10. August 2026
Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.