FAccT (Fairness, Accountability, Transparency)

FAccT ist die Abkürzung für Fairness, Accountability, and Transparency und bezeichnet sowohl eine jährliche Fachkonferenz der ACM als auch das Forschungsfeld, das sich um diese drei Anforderungen an algorithmische Systeme gebildet hat.

Zusammenfassung

Die drei Begriffe benennen unterschiedliche Anforderungen. Fairness betrifft die Verteilung von Fehlern und Vorteilen zwischen Gruppen. Accountability betrifft die Zurechenbarkeit: Wer haftet, wenn ein System schadet? Transparency betrifft die Nachvollziehbarkeit einer Entscheidung.

Das Besondere des Feldes ist seine Zusammensetzung. Informatik, Rechtswissenschaft, Sozialwissenschaft und Philosophie arbeiten in einer Weise zusammen, die in keiner der beteiligten Disziplinen üblich ist.

Der Ertrag ist teils formal: Es liegen Beweise dafür vor, dass sich verbreitete Fairness-Maße nicht gleichzeitig erfüllen lassen. Teils praktisch: Prüfverfahren, Dokumentationsstandards und Folgenabschätzungen stammen aus diesem Umfeld.

Das Verhältnis zur Industrie ist zwiespältig. Ein großer Teil der Arbeit entsteht in Unternehmen oder mit deren Mitteln – was dem Feld den Vorwurf eingetragen hat, Kritik in verwertbarer Form zu liefern.

Begriffsgeschichte

Der Ursprung liegt in einem Arbeitstreffen zu fairem maschinellem Lernen, das ab 2014 im Rahmen größerer Konferenzen stattfand.

2018 wurde daraus eine eigenständige Konferenz unter dem Namen FAT*. Der Sternchen-Name stand für weitere, nicht ausgeschriebene Anforderungen.

2020 erfolgte die Umbenennung in ACM FAccT – auch, weil die alte Abkürzung als englisches Wort unglücklich war. Seither ist die Konferenz eine reguläre ACM-Veranstaltung mit begutachteten Beiträgen.

Prägend für die frühe Phase waren zwei Vorgänge außerhalb der Wissenschaft: die Untersuchung der Rückfallprognose-Software COMPAS durch ProPublica 2016 und die Untersuchung Gender Shades zu Gesichtserkennung 2018.

Seit 2021 wächst die Zahl der Beiträge zu generativen Modellen; die Konferenz ist damit von einem Nebenschauplatz zu einem Ort der Hauptdebatte geworden.

Methodische Grundlagen

Fairness-Maße. Mehrere formale Bestimmungen stehen nebeneinander: gleiche Fehlerraten zwischen Gruppen, gleiche Trefferquoten, gleiche Kalibrierung. Sie sind nicht gleichbedeutend.

Unvereinbarkeitsergebnisse. Der wichtigste formale Ertrag: Mehrere dieser Maße lassen sich nachweislich nicht zugleich erfüllen, außer in Sonderfällen. Fairness ist damit keine Größe, die man maximiert, sondern eine Entscheidung zwischen unvereinbaren Ansprüchen.

Prüfverfahren. Systeme werden von außen mit gezielt zusammengestellten Eingaben getestet – das Verfahren von Gender Shades.

Dokumentationsstandards. Datasheets for Datasets und Modellkarten stammen aus diesem Umfeld.

Folgenabschätzung. Verfahren, die vor dem Einsatz eines Systems dessen mögliche Wirkungen erheben – Vorbild ist die Umweltverträglichkeitsprüfung.

Interdisziplinäre Begutachtung. Beiträge werden von Gutachtenden aus verschiedenen Fächern geprüft, was den Anspruch an die Verständlichkeit erhöht.

Anwendungsfelder

Kreditvergabe und Versicherung. Felder mit langer Regulierungsgeschichte, in denen Fairness-Maße unmittelbar anschlussfähig sind.

Personalauswahl. Automatische Vorauswahl von Bewerbungen ist ein Standardgegenstand des Feldes – und in einigen Rechtsordnungen inzwischen prüfpflichtig.

Strafjustiz. Rückfallprognosen sind der am gründlichsten untersuchte Anwendungsfall und der Ausgangspunkt der öffentlichen Debatte.

Gesundheitswesen. Untersuchungen zu Algorithmen, die den Behandlungsbedarf über Kosten schätzen und dadurch bestehende Ungleichheit fortschreiben.

Regulierung. Die Begriffe des Feldes finden sich in Gesetzestexten wieder, darunter im EU AI Act.

Kontroversen und Kritik

Vereinnahmung. Der schärfste Einwand, unter anderem aus dem Umfeld des AI Now Institute: Ein Feld, das überwiegend von den Unternehmen finanziert wird, deren Produkte es prüft, liefert Kritik in einer Form, die sich einbauen lässt.

Fairness als Verrechnung. Formale Maße setzen voraus, dass Gruppen definiert und gemessen werden. Damit werden Kategorien festgeschrieben, deren Herkunft selbst der Kritik bedürfte.

Sponsorenstreit. 2020 und erneut in den Folgejahren gab es Auseinandersetzungen über die Annahme von Mitteln bestimmter Unternehmen; Teile der Gemeinschaft zogen sich zurück.

Technische Lösung für politische Fragen. Ein grundsätzlicher Einwand: Wer Fairness als Optimierungsproblem behandelt, hat die Frage, ob ein System überhaupt eingesetzt werden soll, bereits übersprungen.

Wirkung auf die Praxis. Ob die Verfahren des Feldes tatsächlich zu weniger Schaden geführt haben oder überwiegend zu Dokumenten, ist innerhalb der Gemeinschaft umstritten.

Was die Unvereinbarkeitsergebnisse bedeuten

Der bemerkenswerteste Beitrag dieses Feldes ist ein negatives Ergebnis – und es wird selten so gelesen, wie es gemeint war.

Gezeigt wurde: Wenn zwei Gruppen sich in der Grundrate eines Merkmals unterscheiden, kann ein Verfahren nicht zugleich für beide gleich kalibriert sein und gleiche Fehlerraten aufweisen. Das ist kein technischer Mangel, den bessere Verfahren beheben, sondern ein mathematischer Satz.

Die verbreitete Reaktion darauf besteht darin, ein Maß auszuwählen und den Rest zu übergehen. Das ist verständlich, denn ein System muss gebaut werden, und die Auswahl lässt sich als Fachentscheidung darstellen.

Genau das ist sie aber nicht. Welches Maß gilt, entscheidet darüber, wer die verbleibenden Fehler trägt – die fälschlich Abgelehnten oder die fälschlich Angenommenen, und in welcher Gruppe. Das ist eine Verteilungsfrage, und Verteilungsfragen werden in einer Demokratie nicht in der Modellauswahl entschieden.

Darin liegt der eigentliche Ertrag des Ergebnisses: Es beweist, dass an einer Stelle, die wie eine technische Einstellung aussieht, eine politische Entscheidung getroffen wird – und zwar unvermeidlich. Wer sie nicht ausdrücklich trifft, trifft sie trotzdem.

Verwandte Begriffe

• Algorithmic Bias – zentraler Gegenstand des Feldes
• Datasheets for Datasets – daraus hervorgegangenes Verfahren
• Timnit Gebru – prägende Figur
• Critical AI Studies – benachbartes, radikaleres Feld
• Algorithmic Justice League – aktivistischer Zweig
• EU AI Act – Regelwerk, das die Begriffe aufnimmt
• AI Now Institute – Herkunft der Vereinnahmungskritik

Quellenangaben

1. Angwin, Julia / Larson, Jeff / Mattu, Surya / Kirchner, Lauren, 2016. Machine Bias. ProPublica, 23. Mai 2016.
2. Chouldechova, Alexandra (2017): Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. In: Big Data 5 (2), S. 153–163. DOI: 10.1089/big.2016.0047.
3. Kleinberg, Jon / Mullainathan, Sendhil / Raghavan, Manish (2016): Inherent Trade-Offs in the Fair Determination of Risk Scores. arXiv: 1609.05807.
4. Obermeyer, Ziad / Powers, Brian / Vogeli, Christine / Mullainathan, Sendhil (2019): Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations. In: Science 366 (6464), S. 447–453. DOI: 10.1126/science.aax2342.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.