Safiya Umoja Noble ist eine Informationswissenschaftlerin an der University of California, Los Angeles (UCLA). Sie wurde mit ihrem Buch Algorithms of Oppression (2018) bekannt, das Suchmaschinen als Orte beschreibt, an denen sich rassistische und sexistische Strukturen fortschreiben.
Zusammenfassung
Noble kommt aus der Bibliotheks- und Informationswissenschaft und wurde in diesem Fach promoviert. Von dort aus untersucht sie, wie digitale Technologien und Internetarchitekturen diskriminierende Machtverhältnisse nach Hautfarbe und Geschlecht abbilden und verstärken.
Mit ihrem Hauptwerk Algorithms of Oppression machte sie die Erforschung algorithmischer Diskriminierung bekannt; die University of California nennt sie die Professorin, die dieses Feld „auf die Landkarte“ gebracht habe (University of California 2024). Das Buch zählt zu den Texten der Critical AI Studies. Sie lehrt an der UCLA, leitet dort ein Forschungszentrum zu digitaler Gerechtigkeit und wurde 2021 als MacArthur Fellow ausgezeichnet.
Werdegang
Noble erwarb 1995 einen Bachelor an der California State University, Fresno, und danach Master und Promotion in Bibliotheks- und Informationswissenschaft an der University of Illinois at Urbana-Champaign. Die Promotion datiert die Fakultätsseite der UCLA auf 2012, dasselbe Jahr nennt die MacArthur Foundation (UCLA SEIS, o. J.; MacArthur Foundation 2021).
Nach Angaben der MacArthur Foundation ist sie seit 2014 an der UCLA tätig. Zum Zeitpunkt der Auszeichnung 2021 war sie dort Associate Professor in den Fachbereichen Gender Studies und African American Studies (MacArthur Foundation 2021).
Heute hält sie den David O. Sears Presidential Endowed Chair of Social Sciences (UCLA SEIS, o. J.). Mit Sarah T. Roberts gründete sie das Center for Critical Internet Inquiry (C2i2), dem das Fakultätsprofil die Jahre 2019 bis 2021 als Leitungszeit zuordnet (UCLA SEIS, o. J.; UCLA SEIS 2020).
Das Fakultätsprofil nennt sie zudem als Gründerin und Direktorin des Center on Race & Digital Justice (ab 2022). Auf ihrer eigenen Website und der des Zentrums heißt dieses heute Center on Resilience & Digital Justice. Ob es sich um eine Umbenennung handelt, geht aus den gelesenen Seiten nicht hervor. Außerdem ist sie Co-Direktorin der Minderoo Initiative on Tech & Power an der UCLA (Noble o. J.).
Algorithms of Oppression
Das Buch Algorithms of Oppression erschien 2018 bei New York University Press. Noble zeigt darin, dass Suchmaschinen keine neutralen und objektiven Informationsquellen sind (MacArthur Foundation 2021). Ergebnisse formen sich nach ihrer Darstellung durch wirtschaftliche Anreize, vor allem Werbeeinnahmen, und durch die gesellschaftlichen Wertungen, die Ideen, Dingen oder Menschen zugeschrieben werden.
Als Ausgangspunkt nennt sie Suchen nach „Black girls“, „Asian girls“ und „Latina girls“. Nach ihren Angaben bestanden die ersten Ergebnisseiten zu 80 Prozent aus Pornografie oder hypersexualisiertem Inhalt, ohne dass sie Begriffe wie „sex“ oder „porn“ eingegeben hätte (University of California 2024). Die Angabe stammt aus einem Interview; die Zahl nennt Noble dort ohne weiteren Beleg.
Außerdem führt sie die Verzerrungen auf ältere Ordnungssysteme zurück. Die MacArthur Foundation nennt als Beispiel die Klassifikation der Library of Congress aus dem späten 19. Jahrhundert (MacArthur Foundation 2021). Das Buch ist damit ein frühes Beispiel für das, was heute als algorithmische Verzerrung diskutiert wird.
Position in den Critical AI Studies
Noble betont, dass Neutralität bei algorithmischen Systemen nicht möglich sei. Es gebe immer „a prioritization, a decision tree, a system of valuing something over something else“ (University of California 2024).
Von Selbstregulierung der Konzerne hält sie wenig und fordert Eingriffe auf der Ebene der Politik statt Verantwortung bei den Nutzer:innen. Wie Joy Buolamwini, Timnit Gebru und Kate Crawford stellt sie Machtfragen in den Mittelpunkt der KI-Kritik.
Auszeichnungen
Ihre Website, das UCLA-Profil und die NISO nennen unter anderem diese Auszeichnungen:
- MacArthur Fellowship (2021)
- Archewell-NAACP Digital Civil Rights Award, erstmals vergeben 2022
- Miles Conrad Award der NISO, deren Auszeichnung für das Lebenswerk in der Informationsbranche (2023)
- Ehrendoktorwürde der Universität Leiden, laut ihrer Website zum Dies Natalis 2026
Verwandte Begriffe
- Timnit Gebru – Mitstreiterin der kritischen KI-Forschung
- Kate Crawford – Autorin des „Atlas of AI“, ebenfalls Machtkritik an KI
- AI Now Institute – verwandte Forschungsinstitution zu gesellschaftlichen Folgen von KI
- Emily M. Bender – Vertreterin der kritischen Sprachmodellforschung
- Fairness – Gegenstand der technischen Debatte um Diskriminierung durch Algorithmen
Quellenangaben
- MacArthur Foundation, 2021. Safiya Noble, Class of 2021. macfound.org.
- Noble, Safiya U., o. J. Safiya Umoja Noble, Ph.D. und Bio/CV. safiyaunoble.com.
- UCLA School of Education & Information Studies, 2020. UCLA Center for Critical Internet Inquiry Receives $2.9M Award to Launch Minderoo Initiative on Technology and Power. seis.ucla.edu, 13. August 2020.
- UCLA School of Education & Information Studies, o. J. Safiya U. Noble. Fakultätsprofil, seis.ucla.edu.
- University of California, 2024. How AI discriminates and what that means for your Google habit: A conversation with internet studies scholar Safiya Noble. universityofcalifornia.edu, 28. März 2024.
- NISO, 2023. The 2023 Miles Conrad Lecture – Dr. Safiya Umoja Noble. niso.org, März 2023.