Levels of AGI

Levels of AGI ist ein 2023 von einer Forschungsgruppe bei Google DeepMind vorgeschlagenes Rahmenwerk, das den Fortschritt in Richtung allgemeiner künstlicher Intelligenz nicht als Schwelle, sondern als Stufenfolge beschreibt. Es unterscheidet sechs Leistungsstufen entlang zweier Achsen – Leistungstiefe und Anwendungsbreite – und ergänzt eine unabhängige Autonomieskala.

Zusammenfassung

Das Rahmenwerk reagiert auf einen Umstand, den die Debatte um GPT-4 sichtbar gemacht hatte: Die Frage, ob ein System AGI sei, ist ohne gestufte Begrifflichkeit nicht sinnvoll zu beantworten, weil Fähigkeiten ungleichmäßig verteilt sind.

Die Autorinnen und Autoren um Meredith Ringel Morris werteten bestehende AGI-Definitionen aus, leiteten daraus sechs Anforderungen an jede brauchbare Definition ab und entwarfen eine Matrix, die Systeme nach Leistung und Breite einordnet. Nach dieser Einordnung sind große Sprachmodelle Emerging AGI – die unterste Stufe allgemeiner Intelligenz –, während einzelne enge Systeme bereits die höchste Stufe erreichen.

Als Vorbild diente die sechsstufige Autonomieklassifikation des automatisierten Fahrens.

Anforderungen an eine Definition

Aus der Analyse bestehender Bestimmungen leiten die Autoren mehrere Grundsätze ab, denen eine brauchbare AGI-Definition genügen sollte. Zu den wichtigsten zählen:

• Fähigkeiten statt Mechanismen. Maßgeblich ist, was ein System leistet, nicht wie es dies erreicht. Ob es versteht, Bewusstsein hat oder Menschenähnliches denkt, bleibt außer Betracht.
• Allgemeinheit und Leistung getrennt betrachten. Beide sind eigenständige Dimensionen und nicht zu vermengen.
• Kognitive und metakognitive Aufgaben. Physische Verkörperung wird nicht vorausgesetzt; die Fähigkeit, neue Fertigkeiten zu erlernen, hingegen schon.
• Potenzial statt Einsatz. Maßgeblich ist, was ein System leisten könnte, nicht ob es tatsächlich eingesetzt wird.
• Ökologische Validität. Gemessen werden sollten Aufgaben, die Menschen tatsächlich wertschätzen, nicht bloß leicht messbare Stellvertreteraufgaben.
• Weg statt Ziel. AGI ist als Verlauf zu beschreiben, nicht als einzelner Endpunkt.

Die sechs Stufen

Jede Stufe ist getrennt für enge und für allgemeine Systeme anwendbar:

Die Einordnungen der Autoren illustrieren die Trennung der Achsen: Enge Systeme erreichen bereits hohe Stufen – Systeme zur Proteinstrukturvorhersage und starke Schachprogramme werden als Superhuman Narrow AI eingestuft, Spielprogramme wie Deep Blue und AlphaGo als Virtuoso Narrow, Sprachassistenten als Competent Narrow. Auf der allgemeinen Achse hingegen war zum Erscheinungszeitpunkt keine Stufe oberhalb von Emerging erreicht.

Die Autoren merken an, dass die Stufe Competent AGI am ehesten dem entspricht, was frühere Bestimmungen unter AGI verstanden, und dass ihr Erreichen erhebliche gesellschaftliche Veränderungen auslösen dürfte.

Autonomiedimension

Eine zweite Tabelle führt sechs Stufen der Mensch-KI-Interaktion ein, von der KI als bloßem Werkzeug bis zum vollständig autonomen Handeln. Der zentrale Punkt: Höhere Fähigkeitsstufen ermöglichen höhere Autonomiestufen, bestimmen sie aber nicht. Welche Autonomie angemessen ist, hängt vom Einsatzkontext, von Sicherheitserwägungen und von der Gestaltungsentscheidung ab – die höchste erreichbare Stufe muss nicht die gewählte sein.

Diese Trennung ist für die Risikobetrachtung erheblich, da Risiko aus dem Zusammenspiel von Fähigkeit und eingeräumter Handlungsfreiheit entsteht, nicht aus der Fähigkeit allein.

Rezeption

Das Rahmenwerk wird als Beitrag zur begrifflichen Klärung überwiegend positiv aufgenommen und gehört zu den meistzitierten Vorschlägen zur Operationalisierung von AGI. Als Stärke gilt insbesondere die Trennung von Leistung, Breite und Autonomie, die den verbreiteten eindimensionalen Sprachgebrauch ablöst.

Kritik richtet sich auf mehrere Punkte. Die Einstufung großer Sprachmodelle als Emerging AGI wurde als voreilig bewertet, da sie den Begriff AGI auf gegenwärtige Systeme anwendet und damit dessen Bedeutung verschiebt. Zudem bleibt die Messung ungelöst: Die Autoren fordern einen ökologisch validen, fortlaufend gepflegten Benchmark, legen ihn aber nicht vor – die Stufen sind damit definiert, ohne dass ein Verfahren zu ihrer Feststellung existiert.

Schließlich setzt die Perzentilangabe voraus, dass sich eine Vergleichsgruppe qualifizierter Erwachsener über die meisten kognitiven Aufgaben hinweg sinnvoll bestimmen lässt.

Ein weiterer Einwand betrifft die Stufenlogik als solche. Sie legt nahe, dass Systeme eine Leiter emporsteigen und dabei jede Sprosse berühren – dass also auf Emerging zwangsläufig Competent folgt und so fort.

Empirisch ist die Entwicklung ungleichmäßiger: Fähigkeiten treten sprunghaft und in unvorhersehbarer Reihenfolge auf, ein System kann in einer Domäne mehrere Stufen überspringen und in einer benachbarten stehen bleiben. Die Matrix bildet das ab, solange man sie spaltenweise liest; die verkürzte Rede von „Stufe 2” oder „Stufe 3” für ein Gesamtsystem stellt genau die Eindimensionalität wieder her, die zu vermeiden der Zweck des Rahmenwerks war.

Praktisch hat sich das Rahmenwerk gleichwohl durchgesetzt, allerdings selektiv: Die Fähigkeitsachse wird breit zitiert, die Autonomieachse deutlich seltener – obwohl gerade sie den eigenständigen Beitrag der Arbeit darstellt.

Verwandte Begriffe

• AGI – Zielbegriff, den das Rahmenwerk operationalisiert
• ANI – enge KI; im Rahmenwerk als eigene Achse geführt
• ASI – entspricht der Stufe Superhuman auf der allgemeinen Achse
• HLMI – alternative, binär gefasste Bestimmung
• Meredith Ringel Morris – Erstautorin
• Shane Legg – Mitautor und Mitbegründer von DeepMind
• Sparks of AGI – Debatte, auf die das Rahmenwerk reagiert
• On the Measure of Intelligence – alternativer Ansatz zur Messfrage

Quellenangaben

1. Chollet, François (2019): On the Measure of Intelligence. arXiv: 1911.01547.
2. MIT Technology Review (2023): Google DeepMind wants to define what counts as artificial general intelligence. 16. November 2023.
3. Montreal AI Ethics Institute (2023): Levels of AGI: Operationalizing Progress on the Path to AGI. Forschungszusammenfassung von Meredith Ringel Morris.
4. Morris, Meredith Ringel / Sohl-Dickstein, Jascha / Fiedel, Noah / Warkentin, Tris / Dafoe, Allan / Faust, Aleksandra / Farabet, Clement / Legg, Shane (Google DeepMind) (2023): Levels of AGI for Operationalizing Progress on the Path to AGI. arXiv: 2311.02462.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.