Predictive Policing bezeichnet den Einsatz statistischer Verfahren, um Orte, Zeiträume oder Personen mit erhöhtem Straftatrisiko vorherzusagen. Die KI-Verordnung verbietet seit Februar 2025 die personenbezogene Variante, soweit sie allein auf Profiling beruht.
Zusammenfassung
Zwei Spielarten sind zu unterscheiden. Ortsbezogene Verfahren sagen Gebiete und Zeitfenster erhöhten Risikos voraus und steuern Streifen dorthin. Personenbezogene Verfahren stufen einzelne Menschen als gefährdet oder gefährlich ein.
Beide teilen dieselbe Schwäche: Sie lernen nicht aus Kriminalität, sondern aus registrierter Kriminalität. Was nie angezeigt oder nie kontrolliert wurde, kommt in den Daten nicht vor.
Daraus entsteht eine Rückkopplung. Wo mehr kontrolliert wird, wird mehr gefunden; was gefunden wird, begründet weitere Kontrollen. Die Vorhersage bestätigt sich selbst, ohne über die Wirklichkeit mehr zu wissen als vorher.
Die KI-Verordnung zieht deshalb eine Grenze, aber keine vollständige: Verboten ist die Risikobewertung einzelner Personen, wenn sie ausschließlich auf Profiling oder Persönlichkeitsmerkmalen beruht. Systeme, die eine menschliche Bewertung auf Grundlage objektiver, überprüfbarer und tatbezogener Umstände unterstützen, bleiben zulässig.
Begriffsgeschichte
Die statistische Vorhersage von Kriminalität hat ältere Wurzeln in der Kriminalgeographie, wurde aber erst mit der Verfügbarkeit maschinell auswertbarer Einsatzdaten zum eigenständigen Verfahren.
Der bekannteste ortsbezogene Ansatz entstand aus einer Zusammenarbeit der Polizei von Los Angeles mit Forschenden der UCLA und wurde ab den frühen 2010er Jahren kommerziell verbreitet. Das Verfahren übertrug Modelle der Nachbebenvorhersage auf Einbruchsmuster.
Der bekannteste personenbezogene Ansatz war die Strategic Subject List der Polizei von Chicago, öffentlich als Heat List bekannt. Sie wuchs auf knapp 400.000 Einträge an (Office of Inspector General 2020); das Programm wurde 2019 eingestellt, nachdem die interne Aufsichtsstelle seine Wirksamkeit in Frage gestellt hatte.
2019 legten Rashida Richardson, Jason Schultz und Kate Crawford unter dem Titel Dirty Data, Bad Predictions eine Untersuchung vor, die zeigte, wie Daten aus Polizeibehörden mit dokumentierten Rechtsverstößen in solche Systeme einflossen.
Methodische Grundlagen
Ortsbezogene Vorhersage. Aus vergangenen Tatorten und -zeiten werden Gebiete mit erhöhter Wahrscheinlichkeit berechnet. Die Annahme dahinter: Straftaten treten räumlich und zeitlich gehäuft auf.
Personenbezogene Vorhersage. Einzelne Menschen erhalten einen Risikowert, meist aus Vorstrafen, Kontakten und Beziehungsnetzen berechnet.
Belastete Daten. Der zentrale methodische Einwand: Einsatzdaten bilden Polizeitätigkeit ab, nicht Kriminalität. Sind sie durch rechtswidrige Praxis entstanden, wird diese Praxis fortgeschrieben.
Rückkopplung. Die Vorhersage verändert die Daten, aus denen die nächste Fassung lernt – der Grund, warum eine Bestätigung im Betrieb nichts über die Richtigkeit aussagt.
Merkmalsersatz. Auch wo Herkunft nicht erhoben wird, tragen Wohnort, Netzwerk und Vorkontakte diese Information weiter.
Rechtslage
Artikel 5 Absatz 1 Buchstabe d der KI-Verordnung verbietet Systeme zur Vorhersage von Straftaten durch einzelne Personen, wenn die Bewertung ausschließlich auf Profiling oder der Einschätzung von Persönlichkeitsmerkmalen beruht.
Das Wort ausschließlich trägt die ganze Last der Vorschrift. Sobald objektive, nachprüfbare und mit einer Straftat verbundene Tatsachen einfließen und ein Mensch bewertet, greift das Verbot nicht.
Ortsbezogene Verfahren bleiben vom Verbot unberührt; sie können als Hochrisikosysteme unter die Auflagen des Hochrisiko-Regimes fallen.
Kontroversen und Kritik
Wirksamkeit unbelegt. Unabhängige Prüfungen konnten für mehrere eingesetzte Systeme keinen Rückgang der Kriminalität nachweisen. Die Programme endeten überwiegend nicht an ihrer Ungerechtigkeit, sondern an ihrer Wirkungslosigkeit.
Verstärkung statt Vorhersage. Der grundlegende Einwand: Das Verfahren sagt nicht voraus, wo Straftaten geschehen, sondern wo bisher kontrolliert wurde.
Unschuldsvermutung. Eine Einstufung als künftig gefährlich weist niemandem eine Tat nach und entzieht sich zugleich der Verteidigung – man kann nicht widerlegen, was noch nicht geschehen ist.
Reicht das Teilverbot? Weil ortsbezogene Verfahren erlaubt bleiben und das Wort „ausschließlich“ einen weiten Auslegungsraum öffnet, halten Bürgerrechtsorganisationen die Grenze für zu durchlässig.
Verwandte Begriffe
- Algorithmic Bias – das zugrunde liegende Verzerrungsproblem
- Social Scoring – die benachbarte verbotene Praktik derselben Vorschrift
- Profiling (KI-VO) – der Rechtsbegriff, an dem das Verbot ansetzt
- AI Now Institute – Herkunftsort der maßgeblichen Untersuchung
Quellenangaben
- Richardson, Rashida / Schultz, Jason / Crawford, Kate, 2019. Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice. In: New York University Law Review 94, S. 192–233.
- Europäisches Parlament und Rat der Europäischen Union, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung). Amtsblatt der Europäischen Union, Artikel 5 Absatz 1 Buchstabe d.
- Office of Inspector General, City of Chicago, 2020. Advisory Concerning the Chicago Police Department’s Predictive Risk Models.