Ein GPAI-Modell mit systemischem Risiko ist eine Einstufung nach Artikel 51 der KI-Verordnung, die Anbieter von Modellen mit allgemeinem Verwendungszweck zusätzlichen Pflichten unterwirft – Modellprüfungen, Risikobewertung, Vorfallmeldung, Cybersicherheit.
Die Einstufung greift meistens nicht, weil jemand geprüft hätte, ob ein Modell gefährlich ist. Sie greift, weil beim Training eine Rechenleistungsschwelle überschritten wurde.
Zusammenfassung
Artikel 51 nennt zwei Wege in die Kategorie. Der erste ist eine Vermutung: Übersteigt die für das Training kumulierte Rechenleistung 10²⁵ Gleitkommaoperationen (FLOPs), gilt ein Modell als systemisch riskant, sofern der Anbieter das nicht widerlegt.
Der zweite Weg ist eine Einzelfallentscheidung der Kommission. Gestützt auf ein wissenschaftliches Gremium kann sie ein Modell auch dann einstufen, wenn es Fähigkeiten oder Wirkung erreicht, die den Kriterien aus Anhang XIII entsprechen – unabhängig vom Rechenaufwand.
In der Praxis dominiert der erste Weg. Anbieter müssen der Kommission binnen zwei Wochen melden, sobald absehbar ist, dass ihr Modell die Schwelle erreicht. Wer meint, sein Modell falle trotz Überschreitung nicht unter die Kategorie, kann das mit Belegen widerlegen – etwa mit Skalierungsgesetzen oder Benchmark-Ergebnissen. Die Kommission entscheidet über den Einspruch mit Begründung.
Die Pflichten (Artikel 55)
Wer als systemisch riskant eingestuft ist, muss zusätzlich zu den allgemeinen GPAI-Pflichten aus Artikel 53:
- das Modell nach dem Stand der Technik prüfen, einschließlich adversarieller Tests,
- systemische Risiken auf Unionsebene bewerten und mindern,
- schwerwiegende Vorfälle unverzüglich an das AI Office melden,
- für angemessene Cybersicherheit von Modell und Infrastruktur sorgen.
Der General-Purpose AI Code of Practice operationalisiert genau diese Pflichten – sein drittes Kapitel, „Sicherheit und Schutz vor systemischen Risiken”, richtet sich ausschließlich an diese Kategorie. Details dazu im Artikel zum Kodex.
Zeitrahmen und Durchsetzung
Die Pflichten gelten seit dem 2. August 2025. Die Durchsetzungsbefugnisse der Kommission greifen erst seit dem 2. August 2026.
Die einjährige Lücke dazwischen war beabsichtigt: Das AI Office sollte in dieser Zeit seine Aufsichtskapazität aufbauen, bevor die Verordnung tatsächlich sanktioniert. Modelle, die bereits vor dem 2. August 2025 im Markt waren, haben bis zum 2. August 2027 Zeit zur vollständigen Umsetzung.
Bußgelder bei Verstößen reichen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Aufsicht liegt zentral beim europäischen AI Office – anders als bei Hochrisiko-Systemen, deren Kontrolle bei nationalen Behörden liegt.
Der Digitale Omnibus vom Mai 2026 hat diese zentrale Rolle bestätigt und ausgebaut, die GPAI-Pflichten selbst aber nicht verschoben – anders als die Hochrisiko-Fristen, die er auf 2027/2028 hinausschob.
Wer aktuell betroffen ist
Stand 2025/2026 fallen die jeweils leistungsfähigsten Modelle der führenden Anbieter unter die Kategorie: OpenAIs o-Modellreihe, Anthropic Claude 4 Opus, Googles Gemini 2.5 Pro sowie vergleichbare Modelle von DeepSeek, Mistral AI, Qwen und xAI. Die genaue Zusammensetzung verschiebt sich mit jedem neuen Frontier-Modell, da die Rechenschwelle bei wachsenden Trainingsbudgets automatisch mehr Modelle erfasst.
Kontroversen und Kritik
Rechenaufwand ist keine Fähigkeit. Der Haupteinwand betrifft die 10²⁵-FLOPs-Schwelle selbst: Sie misst, wie viel Rechenleistung in ein Training floss, nicht was das resultierende Modell tatsächlich kann.
Sara Hooker kritisiert in On the Limitations of Compute Thresholds as a Governance Strategy (2024) Rechenschwellen als Governance-Instrument. Ihr Einwand: Sie veralten mit algorithmischen Effizienzgewinnen schnell, weil ein Modell mit weniger Rechenleistung fähiger werden kann als sein Vorgänger mit mehr.
Vermutung statt Prüfung. Weil die FLOPs-Schwelle eine widerlegbare Vermutung ist, nicht das Ergebnis einer Fähigkeitsprüfung, trägt formal der Anbieter die Darlegungslast, wenn er widersprechen will. In der Praxis melden sich die meisten betroffenen Anbieter, ohne die Vermutung anzufechten.
Eine Lücke zur Durchsetzung. Dass Pflichten seit August 2025 gelten, aber erst seit August 2026 sanktioniert werden, wirft die Frage auf, wie viel in diesem Jahr faktisch bindend war. Befürworter sehen darin eine sinnvolle Einführungsphase; Kritiker eine Schwächung der Durchsetzung genau in der Phase, in der die stärksten Modelle auf den Markt kamen.
Verwandte Begriffe
- Foundation Models – die Modellklasse, aus der die Kategorie ausgewählt wird
- Frontier Models – der informelle Begriff für dieselbe Modellgruppe
- Responsible Scaling Policy – freiwillige Vorläufer der Risikobewertungspflicht
- Claude – aktuell erfasstes Modell
- Gemini – aktuell erfasstes Modell
- DeepSeek – aktuell erfasster Anbieter
- Mistral AI – aktuell erfasster Anbieter
- Qwen – aktuell erfasster Anbieter
- xAI – aktuell erfasster Anbieter
- OpenAI – aktuell erfasster Anbieter
Quellenangaben
- Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Artikel 3 Nummer 52, Artikel 5 Absatz 1 Buchstabe d, Artikel 6 Absatz 3, Artikel 26 Absatz 11, Anhang III, Erwägungsgrund 26. Amtsblatt der Europäischen Union, 12. Juli 2024.
- EU Artificial Intelligence Act (artificialintelligenceact.eu), 2026. Article 51: Classification of General-Purpose AI Models as General-Purpose AI Models with Systemic Risk.
- EU Artificial Intelligence Act (artificialintelligenceact.eu), 2026. Article 55: Obligations for Providers of General-Purpose AI Models with Systemic Risk.
- Hooker, Sara, 2024. On the Limitations of Compute Thresholds as a Governance Strategy. Cohere For AI. arXiv: 2407.05694.