Joy Buolamwini (geboren 1990) ist Informatikerin, Aktivistin und Gründerin der Algorithmic Justice League. Ihre Studie Gender Shades wies 2018 nach, dass kommerzielle Gesichtsanalyse bei dunkelhäutigen Frauen um ein Vielfaches häufiger irrt als bei hellhäutigen Männern.
Zusammenfassung
Buolamwinis Wirkung beruht auf einer methodischen Entscheidung: Statt Diskriminierung zu behaupten, maß sie sie. Gender Shades prüfte kommerzielle Systeme mit einem eigens zusammengestellten, nach Hautton ausgewogenen Datensatz und schlüsselte die Fehlerraten nach Gruppen auf.
Das Ergebnis war nicht interpretierbar: Fehlerraten unter einem Prozent bei hellhäutigen Männern, bis zu 34,7 Prozent bei dunkelhäutigen Frauen (Buolamwini/Gebru 2018). Die geprüften Anbieter konnten den Befund nicht bestreiten, nur beheben.
Für den Mechanismus dahinter prägte sie den Ausdruck coded gaze – die in Technik eingeschriebene Perspektive derer, die sie bauen, und die Ausblendung derer, die dabei nicht mitgedacht wurden.
Neben der Forschung arbeitet sie mit den Mitteln von Kunst, Film und Kampagne. Diese Verbindung ist Programm, nicht Beiwerk: Sie hält Befunde für wirkungslos, solange sie nur in Fachpublikationen stehen.
Biografie
Buolamwini wurde 1990 in Edmonton, Kanada, als Kind ghanaischer Einwanderer geboren und wuchs in den Vereinigten Staaten auf. Sie schloss 2012 ein Informatikstudium am Georgia Institute of Technology ab und ging als Rhodes-Stipendiatin nach Oxford.
2015 kam sie an das MIT Media Lab, wo sie 2017 den Master und 2022 den Doktorgrad erwarb.
Dort machte sie die Beobachtung, aus der ihre Forschung entstand: Eine Gesichtserkennungssoftware erkannte sie erst zuverlässig, als sie eine weiße Maske trug. Aus diesem Vorfall wurde ihre Masterarbeit und daraus Gender Shades.
2016 gründete sie noch während des Studiums die Algorithmic Justice League, die Forschung, Kunst und politische Kampagnenarbeit verbindet.
Wissenschaftliches Werk
Gender Shades (2018). Die gemeinsam mit Timnit Gebru verfasste Arbeit prüfte die Geschlechtsklassifikation dreier kommerzieller Anbieter. Ihr methodischer Kern war der eigens gebaute Prüfdatensatz, der nach Hautton und Geschlecht ausgewogen war – bis dahin gab es keinen solchen Maßstab.
Der coded gaze. Buolamwinis Begriff für die eingeschriebene Perspektive der Entwickelnden verschiebt die Zuschreibung: nicht ein fehlerhafter Algorithmus, sondern eine Auslassung in der Frage, für wen ein System gebaut wurde.
Wirkungsforschung statt Einzelbefund. In ihren späteren Arbeiten geht es weniger um neue Messungen als um die Frage, unter welchen Bedingungen ein Befund überhaupt Folgen hat – Berichtswege, Prüfpflichten und die Rolle unabhängiger Auditierung.
Stil und öffentliches Profil
Buolamwini tritt als Poet of Code auf und nutzt Gedicht, Videoarbeit und Auftritt als Teil der Argumentation. Der Dokumentarfilm Coded Bias (2020) machte ihre Forschung einem breiten Publikum bekannt.
2023 erschien ihr Buch Unmasking AI, das die Forschungsgeschichte mit der eigenen Biografie verbindet. Die Verbindung von Person und Befund ist dabei bewusst gesetzt: Der Ausgangspunkt war ihr eigenes Gesicht, das ein System nicht erkannte.
Rezeption und Wirkung
Der unmittelbarste Effekt war unternehmerisch. Nach Gender Shades verbesserten mehrere geprüfte Anbieter ihre Systeme messbar; 2020 setzten mehrere Konzerne den Verkauf von Gesichtserkennung an Polizeibehörden aus oder beendeten ihn.
Wissenschaftlich gilt die Arbeit als Musterfall für externe Prüfung kommerzieller Systeme – ein Verfahren, das in Algorithmic Bias inzwischen als wirksamster Nachweisweg beschrieben wird.
Kontroversen und Kritik
Reicht Fehlerbehebung? Der gewichtigste Einwand kommt aus dem Feld selbst: Eine Gesichtserkennung, die alle Gruppen gleich gut erkennt, ist als Überwachungsinstrument wirksamer, nicht harmloser. Buolamwini teilt diese Sorge und fordert Einsatzgrenzen statt bloßer Genauigkeit, was in der Rezeption ihrer Arbeit oft untergeht.
Methodische Reichweite. Gender Shades prüfte Geschlechtsklassifikation, nicht Identifikation. Kritiker:innen wiesen darauf hin, dass die Befunde nicht bruchlos auf andere Aufgaben übertragbar sind – ein Einwand gegen die Rezeption, weniger gegen die Studie.
Klassifikation selbst. Ein weitergehender Einwand richtet sich gegen den Gegenstand: Ein System, das Geschlecht binär aus Gesichtern ableitet, ist auch dann fragwürdig, wenn es das fehlerfrei tut.
Verwandte Begriffe
- Gender Shades – ihre zentrale Arbeit als eigener Artikel
- Algorithmic Justice League – die von ihr gegründete Organisation
- Timnit Gebru – Ko-Autorin von Gender Shades
- FAccT – Konferenz, auf der die Studie erschien
Quellenangaben
- Buolamwini, Joy / Gebru, Timnit, 2018. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of the 1st Conference on Fairness, Accountability and Transparency (FAT* 2018), Proceedings of Machine Learning Research 81, S. 77–91.
- Buolamwini, Joy, 2023. Unmasking AI: My Mission to Protect What Is Human in a World of Machines.
- Kantayya, Shalini, 2020. Coded Bias. Dokumentarfilm.
- Algorithmic Justice League, o. J. Mission, Team and Story. ajl.org.