Social Scoring bezeichnet die Bewertung oder Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Eigenschaften, wenn daraus eine Benachteiligung folgt. Die KI-Verordnung verbietet solche Systeme seit dem 2. Februar 2025.
Zusammenfassung
Das Verbot steht in Artikel 5 Absatz 1 Buchstabe c und gehört zur höchsten Risikostufe der Verordnung: nicht auflagenpflichtig, sondern unzulässig. Verstöße können mit bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes geahndet werden (KI-Verordnung 2024, Artikel 99).
Anders als oft angenommen richtet es sich nicht allein an den Staat. Erfasst sind Inverkehrbringen, Inbetriebnahme und Verwendung – durch Behörden wie durch private Stellen.
Entscheidend ist nicht das Bewerten an sich, sondern der Kontextbruch. Verboten ist, wenn eine Bewertung zu einer Schlechterstellung in einem Lebensbereich führt, der mit der ursprünglichen Datenerhebung nichts zu tun hat, oder wenn die Folge außer Verhältnis zum Verhalten steht.
Abgrenzung
Kreditwürdigkeitsprüfung – bleibt zulässig, solange sie auf sachlich einschlägigen Finanzdaten beruht. Sie wird zum verbotenen Social Scoring, wenn sachfremde Daten einfließen, etwa aus sozialen Netzwerken.
Profiling nach KI-VO – ist der weitere Oberbegriff. Nicht jedes Profiling ist Social Scoring, aber jedes Social Scoring beruht auf Profiling.
Begriffsgeschichte
Der Ausdruck wurde in der europäischen Debatte durch die Berichterstattung über das chinesische Sozialkreditsystem geprägt, das ab 2014 in Teilen aufgebaut wurde. Dieses Bild – eine landesweite Punktzahl für jede Person – wurde in westlichen Darstellungen häufig vereinheitlichter dargestellt, als das tatsächliche, regional zersplitterte Nebeneinander verschiedener Verfahren es hergab.
Für die europäische Gesetzgebung wirkte es dennoch prägend: Social Scoring wurde zum Gegenbild, an dem sich die eigene Grenzziehung ausrichtete.
Mit dem Inkrafttreten der Verbotsvorschriften am 2. Februar 2025 wurde daraus geltendes Recht – als eine der ersten unmittelbar anwendbaren Bestimmungen der Verordnung überhaupt.
Methodische Grundlagen
Der Kontextbruch als Kern. Nicht die Bewertung ist untersagt, sondern ihre Übertragung. Wer Daten über das Verhalten in einem Bereich sammelt und daraus Nachteile in einem unverbundenen Bereich ableitet, überschreitet die Grenze.
Unverhältnismäßigkeit als zweiter Weg. Auch ohne Kontextwechsel greift das Verbot, wenn die Schlechterstellung in keinem Verhältnis zum bewerteten Verhalten steht.
Erfasste Merkmale. Sozialverhalten ebenso wie bekannte, abgeleitete oder vorhergesagte persönliche Eigenschaften – die Ableitung genügt, die Merkmale müssen nicht erhoben worden sein.
Gruppen ebenso wie Einzelne. Die Vorschrift nennt natürliche Personen und Gruppen; eine Bewertung, die an Gruppenzugehörigkeit anknüpft, fällt ebenfalls darunter.
Anwendungsfelder
Verwaltung und Sozialleistungen. Der historische Anlassfall: Systeme, die Leistungsempfänger nach Auffälligkeiten sortieren.
Versicherung und Kredit. Der praktisch heikelste Bereich, weil die Grenze zwischen zulässiger Risikobewertung und verbotenem Scoring hier durch die Datenauswahl verläuft.
Beschäftigung. Bewertungen von Beschäftigten, die auf Verhalten außerhalb der Arbeit zugreifen.
Plattformen. Bewertungssysteme, deren Punktstände über den Zugang zu Diensten entscheiden, die mit dem bewerteten Verhalten nichts zu tun haben.
Kontroversen und Kritik
Wo endet der Kontext? Der Begriff des unverbundenen Lebensbereichs ist der wunde Punkt. Ob Zahlungsverhalten und Mietverhältnis denselben Kontext bilden, entscheidet über die Anwendbarkeit und ist nicht abschließend geklärt.
Verbot ohne Fälle. Kritiker:innen halten dem Verbot entgegen, es adressiere ein Zerrbild statt der tatsächlichen europäischen Praxis – während alltägliche Scoring-Verfahren als Risikobewertung zulässig bleiben.
Verschiebung statt Verhinderung. Die Gegenposition lautet, das Verbot verlagere die Praxis lediglich in die Hochrisiko-Kategorie, wo sie unter Auflagen weiterläuft.
Das chinesische Vorbild als Denkfigur. Die Orientierung an einem außereuropäischen Gegenbild hat den Blick auf europäische Verfahren womöglich eher verstellt als geschärft.
Verwandte Begriffe
- EU AI Act – Rechtsgrundlage des Verbots in Artikel 5
- Profiling (KI-VO) – der weitere Oberbegriff, auf dem Social Scoring aufsetzt
- Predictive Policing – die zweite verbotene Praktik derselben Vorschrift
- Personenbezogene Daten – datenschutzrechtliche Grundlage der Bewertung
Quellenangaben
- Europäisches Parlament und Rat der Europäischen Union, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung). Amtsblatt der Europäischen Union, Artikel 5 Absatz 1 Buchstabe c.
- Europäische Kommission, 2025. Leitlinien zu verbotenen KI-Praktiken nach der KI-Verordnung.