Hochrisiko-KI-Systeme sind die Kategorie der KI-Verordnung, an der die umfangreichsten Pflichten hängen. Sie ist nicht durch Technik bestimmt, sondern durch den Einsatzzweck: Was ein System kann, entscheidet nicht über seine Einstufung, sondern wozu es verwendet wird.
Zusammenfassung
Die KI-Verordnung staffelt nach Risiko: verbotene Praktiken, Hochrisikosysteme, Transparenzpflichten für bestimmte Anwendungen, alles Übrige ungeregelt. Die zweite Stufe trägt die eigentliche Regulierungslast.
Die Einstufung führt über zwei getrennte Wege. Entweder ist das System Sicherheitsbauteil eines Produkts, das ohnehin einer Konformitätsbewertung unterliegt – Maschinen, Medizinprodukte, Aufzüge. Oder es fällt unter einen der acht in Anhang III genannten Einsatzbereiche.
Seit 2024 gibt es einen Filter: Ein System aus einem Anhang-III-Bereich gilt trotzdem nicht als hochriskant, wenn von ihm kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte ausgeht – auch dadurch, dass es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst.
Artikel 6 Absatz 3 nennt vier Bedingungen, unter denen das der Fall ist. Wer die Ausnahme für sich in Anspruch nimmt, muss sie dokumentieren – und bei Profiling greift sie nie.
Abgrenzung
Verbotene Praktiken – stehen eine Stufe darüber. Sie sind nicht auflagenpflichtig, sondern unzulässig, etwa Social Scoring.
GPAI-Modelle – werden nach eigenen Regeln behandelt. Ein Universalmodell ist nicht schon deshalb hochriskant, weil es sich für einen Anhang-III-Zweck einsetzen ließe.
Die acht Bereiche des Anhangs III
Biometrie · kritische Infrastruktur · allgemeine und berufliche Bildung · Beschäftigung und Personalmanagement · Zugang zu wesentlichen privaten und öffentlichen Diensten · Strafverfolgung · Migration, Asyl und Grenzkontrolle · Rechtspflege und demokratische Prozesse.
Der gemeinsame Nenner ist nicht technische Komplexität, sondern die Nähe zu Grundrechten: Es sind die Bereiche, in denen eine automatisierte Fehlentscheidung Lebenschancen verändert.
Methodische Grundlagen
Der Filter des Artikels 6. Ein Anhang-III-System entgeht der Einstufung, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt – auch dadurch, dass es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst.
Das ist der Maßstab. Erfüllt ist er, wenn eine von vier Bedingungen zutrifft:
- Das System erfüllt eine eng begrenzte Verfahrensaufgabe.
- Es verbessert das Ergebnis abgeschlossener menschlicher Arbeit.
- Es erkennt Entscheidungsmuster oder Abweichungen, ohne die menschliche Bewertung zu ersetzen.
- Es übernimmt nur eine vorbereitende Aufgabe.
Die fehlende Einflussnahme auf das Entscheidungsergebnis ist damit nicht der Test selbst, sondern eine Weise, ihn zu bestehen.
Die Profiling-Sperre. Nimmt das System ein Profiling natürlicher Personen vor, bleibt es hochriskant – unabhängig davon, welche der vier Bedingungen sonst zuträfe.
Beweislast beim Anbieter. Wer sich auf die Ausnahme beruft, muss die Einschätzung dokumentieren, bevor das System in Verkehr kommt. Die Ausnahme ist kein Selbstläufer, sondern eine begründungspflichtige Entscheidung.
Pflichtenkatalog. Für eingestufte Systeme gelten Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Konformitätsbewertung. Für die Anhang-III-Bereiche 2 bis 8 – kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu Diensten, Strafverfolgung, Migration, Rechtspflege – schreibt Artikel 43 Absatz 2 die interne Kontrolle nach Anhang VI vor, die eine notifizierte Stelle gerade nicht vorsieht.
Nur bei Biometrie (Anhang III Nummer 1) hat der Anbieter die Wahl zwischen interner Kontrolle und einer Prüfung durch eine notifizierte Stelle nach Anhang VII. Näheres unter Konformitätsbewertung.
Fristen
Die Pflichten sollten ursprünglich ab dem 2. August 2026 greifen. Mit dem Digitalen Omnibus wurde dieser Termin auf den 2. Dezember 2027 beziehungsweise den 2. August 2028 verschoben – je nach Einstufungsweg.
Kontroversen und Kritik
Der Filter als Einfallstor. Die Ausnahme des Artikels 6 Absatz 3 kam spät in die Verhandlungen. Eingewandt wird, sie verlege eine Selbsteinschätzung mit erheblichem Auslegungsspielraum in die Hand des Anbieters – an genau der Stelle, an der die Verordnung greifen soll.
Die Kommission sollte den Spielraum durch Leitlinien eingrenzen, bis zum 2. Februar 2026 nach Artikel 6 Absatz 5. Sie legte erst am 19. Mai 2026 einen Entwurf vor (Europäische Kommission 2026).
Selbstbewertung als Regelfall. Michael Veale und Frederik Zuiderveen Borgesius kritisierten das bereits am Entwurf von 2021 (Veale/Borgesius 2021). Ihr Befund: Externe Prüfstellen spielen faktisch kaum eine Rolle.
Für die meisten eigenständigen Hochrisiko-Systeme genügt die Selbstbewertung, und nur eine einzige Anwendungskategorie kennt überhaupt eine notifizierte Stelle. Am verabschiedeten Text hat sich daran nichts geändert.
Statische Liste, bewegliches Feld. Anhang III ist eine Aufzählung. Anwendungen, die dort nicht stehen, bleiben ungeregelt, auch wenn sie vergleichbar eingreifen. Die Verordnung begegnet dem mit einer Änderungsbefugnis der Kommission (Artikel 7), die den Anhang aber nur nachträglich erweitern kann.
Aufwand für kleine Anbieter. Der Pflichtenkatalog trifft ein Startup wie einen Konzern. Mit diesem Argument warben Wirtschaftsverbände für eine Verschiebung, und der Digitale Omnibus griff es auf.
Verwandte Begriffe
- EU AI Act – Rahmenwerk, das die Risikostufen festlegt
- Anbieter (KI-VO) – trägt den größten Teil der Pflichten
- KI-VO-Begriffsbestimmungen – Definitionen, auf denen die Einstufung aufbaut
Quellenangaben
- Europäische Kommission, 2026. Draft Commission Guidelines on the Classification of High-Risk AI Systems under Regulation (EU) 2024/1689. Entwurf zur gezielten Konsultation, 19. Mai 2026. digital-strategy.ec.europa.eu.
- Europäisches Parlament und Rat der Europäischen Union, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung). Amtsblatt der Europäischen Union, Artikel 6, Artikel 7, Artikel 43 und Anhang III.
- Veale, Michael / Zuiderveen Borgesius, Frederik, 2021. Demystifying the Draft EU Artificial Intelligence Act. In: Computer Law Review International 22 (4), S. 97–112. DOI: 10.9785/cri-2021-220402.