Ein schwerwiegender Vorfall (Art. 3 Nr. 49 KI-VO) ist ein Vorfall oder eine Fehlfunktion eines KI-Systems, der oder die unmittelbar oder mittelbar zu schweren Schäden führt. Er löst nach Artikel 73 der Verordnung eine Meldepflicht gegenüber der zuständigen Marktüberwachungsbehörde aus.
Zusammenfassung
Die Verordnung zählt vier Auslöser abschließend auf: Tod einer Person oder schwere Gesundheitsschädigung, schwere und irreversible Störung kritischer Infrastrukturen, Verletzung von Grundrechtspflichten aus Unionsrecht sowie schwere Sach- oder Umweltschäden.
Tritt einer dieser vier Fälle im Zusammenhang mit einem Hochrisiko-System ein, muss der Anbieter dies melden.
Begriffsgeschichte
Die Meldepflicht bildet den Kern des in der Verordnung vorgesehenen Systems zur Marktüberwachung nach dem Inverkehrbringen. Sie soll Behörden ein frühzeitiges Warnsystem verschaffen, mit dem sich systematische Risiken und wiederkehrende Schadensmuster erkennen lassen, bevor sie sich über viele Einsatzorte hinweg wiederholen.
Damit überträgt der AI Act ein aus anderen Produktsicherheitsregimen bekanntes Prinzip erstmals gezielt auf KI-spezifische Schadensformen, insbesondere die Verletzung von Grundrechten.
Methodische Grundlagen
Anbieter müssen einen schwerwiegenden Vorfall unverzüglich melden, sobald sie einen ursächlichen Zusammenhang zwischen ihrem KI-System und dem Vorfall festgestellt haben oder ein solcher Zusammenhang hinreichend wahrscheinlich erscheint. Die Frist endet spätestens 15 Tage, nachdem Anbieter oder Betreiber von dem Vorfall Kenntnis erlangt haben.
Anwendungsfelder
Die Meldepflicht betrifft ausschließlich Anbieter von Hochrisiko-Systemen, die auf dem Unionsmarkt bereitgestellt wurden, und richtet sich an die Marktüberwachungsbehörde jenes Mitgliedstaats, in dem sich der Vorfall ereignete. Die gesammelten Meldungen sollen mittelfristig ein europaweites Lagebild ermöglichen, das einzelne nationale Behörden aus eigener Anschauung nicht herstellen könnten.
Kontroversen und Kritik
Die Europäische Kommission eröffnete 2025 eine öffentliche Konsultation zu einem Entwurf ergänzender Leitlinien, weil insbesondere die Feststellung eines „ursächlichen Zusammenhangs” innerhalb der kurzen 15-Tage-Frist in der Praxis erhebliche Auslegungsschwierigkeiten bereitet.
Kritiker:innen bemängelten zudem, die Kategorie der Grundrechtsverletzung sei im Vergleich zu den übrigen, konkreter fassbaren Auslösern – Tod, Infrastrukturschaden, Sachschaden – deutlich unschärfer und dadurch in der praktischen Anwendung schwerer zu erkennen.
Verwandte Begriffe
- Marktüberwachungsbehörde – Adressatin der Meldung
- Konformitätsbewertung – vorgelagertes Verfahren, dessen Ergebnis ein schwerwiegender Vorfall nachträglich infrage stellen kann
Quellenangaben
- Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689, Artikel 3 Nummer 49, Artikel 73. Amtsblatt der Europäischen Union, 12. Juli 2024.
- Europäische Kommission, 2025. Entwurf einer Leitlinie zur Meldung schwerwiegender Vorfälle nach Artikel 73 KI-VO. Öffentliche Konsultation.