Ein biometrisches Kategorisierungssystem ist nach Artikel 3 Nummer 40 der KI-Verordnung ein KI-System, das dazu dient, natürliche Personen auf der Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen – es sei denn, es handelt sich um eine aus objektiven technischen Gründen unbedingt erforderliche Zusatzfunktion zu einem anderen kommerziellen Dienst.
Die Ausnahme steht bereits im Definitionstext selbst: Ein System, das nur als unverzichtbares technisches Beiwerk eines Drittdienstes funktioniert – etwa ein Alters- oder Geschlechtsfilter in einer Social-Media-App –, fällt schon begrifflich nicht unter die Norm.
Zusammenfassung
Anders als biometrische Identifizierung stellt ein Kategorisierungssystem keine individuelle Identität fest. Die betroffene Person bleibt anonym; erkannt wird lediglich eine Merkmalszuschreibung – etwa eine mutmaßliche Ethnie, ein Geschlecht oder ein Alter. Genau darin liegt der Kern der rechtlichen Regelung: Die KI-VO verbietet nicht jede Kategorisierung, sondern nur die Zuordnung nach besonders sensiblen, grundrechtsrelevanten Merkmalen.
Verbot nach sensiblen Merkmalen
Artikel 5 Absatz 1 Buchstabe g verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung biometrischer Kategorisierungssysteme, die einzelne Personen anhand biometrischer Daten kategorisieren, um Rückschlüsse auf ihre Ethnie, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder philosophische Überzeugung, ihr Sexualleben oder ihre sexuelle Orientierung zu ziehen. Diese Merkmalsliste deckt sich weitgehend mit den besonderen Kategorien personenbezogener Daten aus Artikel 9 der Datenschutz-Grundverordnung. Vom Verbot ausgenommen sind die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, sofern nicht gezielt nach den genannten sensiblen Merkmalen gesucht wird, sowie Tätigkeiten der Strafverfolgung.
Systeme, die nicht unter das Verbot fallen – weil sie etwa nicht auf sensible Merkmale abzielen –, werden nach Anhang III als Hochrisiko-KI eingestuft, soweit ihr Einsatz nach Unionsrecht oder nationalem Recht zulässig ist. Artikel 50 Absatz 3 verpflichtet Betreiber zusätzlich, betroffene Personen über den Betrieb eines biometrischen Kategorisierungssystems zu informieren, mit einer Ausnahme für gesetzlich zulässige Strafverfolgungszwecke.
Abgrenzung zu Identifizierung und Fernidentifizierung
Biometrische Identifizierung (Artikel 3 Nummer 35) stellt fest, wer eine Person ist – durch automatisierten Abgleich mit einer Referenzdatenbank. Biometrische Fernidentifizierungssysteme (Nummer 41) tun das typischerweise aus der Distanz, etwa über Kamera, ohne aktive Mitwirkung der Person. Ein Kategorisierungssystem dagegen beantwortet nicht die Frage “wer ist das?”, sondern “zu welcher Gruppe gehört diese Person mutmaßlich?” – die Identität bleibt dabei unbekannt.
Kontroversen und Kritik
Die wissenschaftlich am besten belegte Kritik an automatisierter biometrischer Kategorisierung stammt von Buolamwini und Gebru 2018. Ihre Studie “Gender Shades” untersuchte kommerzielle Systeme zur automatisierten Geschlechtsklassifikation, darunter Produkte von IBM, Microsoft und Face++, und wies deutliche Genauigkeitsunterschiede nach Hautton und Geschlecht nach: Bei dunkelhäutigen Frauen lagen die Fehlerraten bei einzelnen Systemen bei bis zu 34,7 Prozent, während hellhäutige Männer nahezu fehlerfrei klassifiziert wurden. Die Studie gilt seither als Referenzarbeit für algorithmischen Bias bei biometrischer Klassifikation nach geschützten Merkmalen – genau der Problemkreis, den das Verbot in Artikel 5 Absatz 1 Buchstabe g adressiert.
Verwandte Begriffe
- Biometrische Daten – die Datengrundlage der Kategorisierung
- Biometrisches Fernidentifizierungssystem – stellt Identität fest statt Gruppenzugehörigkeit
- System zur Erkennung von Emotionen – dieselbe Verbotsnorm, dieselbe Transparenzpflicht
- EU AI Act – die Verordnung, deren Artikel 3 und 5 diesen Begriff regeln
- Begriffsbestimmungen der KI-Verordnung – alle 68 Legaldefinitionen im Überblick
Quellenangaben
- Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Artikel 3 Nummer 52, Artikel 5 Absatz 1 Buchstabe d, Artikel 6 Absatz 3, Artikel 26 Absatz 11, Anhang III, Erwägungsgrund 26. Amtsblatt der Europäischen Union, 12. Juli 2024.
- Buolamwini, Joy / Gebru, Timnit, 2018. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of the 1st Conference on Fairness, Accountability and Transparency (FAT* 2018), Proceedings of Machine Learning Research 81, S. 77–91.