Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor ist ein 2018 bei St. Martin’s Press erschienenes Buch von Virginia Eubanks. Es untersucht, wie automatisierte Entscheidungssysteme in der US-amerikanischen Sozialverwaltung arme Menschen überwachen, einstufen und strafen.
Zusammenfassung
Zentral ist das Bild vom „digitalen Armenhaus“ (digital poorhouse). Eine Rezension in der New York Review of Books fasst das Argument so: Automatisierte Entscheidungen in Sozialprogrammen verstetigen die moralischen Urteile, die in den USA immer an Armut geheftet wurden. Eubanks schlägt dafür einen hippokratischen Eid für Datenwissenschaftler:innen vor (Macmillan 2018).
Drei Fälle
Das Buch stützt sich nach den Rezensionen auf der Verlagsseite auf drei Beispiele: die Verwaltung der Armen in Indiana, den Umgang mit Obdachlosen in Los Angeles und den Kinderschutz in Pittsburgh (Macmillan 2018).
Eine Rezension in Booklist beschreibt die Folgen so: Automatisierte Systeme trennen Menschen von Ressourcen, ordnen und kriminalisieren sie und dringen in ihre Privatsphäre ein. Das Schlusskapitel entwerfe Strategien, das digitale Armenhaus abzubauen.
Einordnung
Die Rezensionen beschreiben das Buch als Verbindung aus persönlichen Geschichten, historischer Analyse und Recherche vor Ort. Cathy O’Neil, Autorin von Weapons of Math Destruction, nennt das Buch auf der Verlagsseite „Pflichtlektüre“ (Macmillan 2018).
Reichweite der Belege
Die Darstellung stützt sich auf die Verlagsseite mit den dort abgedruckten Rezensionen und auf bibliografische Angaben, nicht auf den Buchtext. Welche Befunde zu den drei Fällen im Einzelnen vorliegen, ist hier nicht geprüft. Die Fälle sind amerikanisch, auf die Verhältnisse in Deutschland und der EU lassen sie sich nicht ohne Weiteres übertragen.
Verwandte Begriffe
- Algorithmische Verzerrung – Oberbegriff der untersuchten Wirkungen
- Social Scoring – bewertende Einstufung von Personen durch Systeme
- Profiling (KI-VO) – rechtlicher Begriff für die Bewertung persönlicher Merkmale
- The Alignment Problem – Buch über Systeme, die nicht tun, was man will
Quellenangaben
- Eubanks, Virginia, 2018. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press, 272 S. ISBN 978-1-250-07431-7.
- Macmillan, 2018. Automating Inequality (Verlagsseite mit Rezensionsauszügen). https://us.macmillan.com/books/9781250074317/automatinginequality/, abgerufen am 2. November 2026.