KI-Ethik bezeichnet die systematische Auseinandersetzung mit den moralischen Fragen, die Entwicklung und Einsatz künstlicher Intelligenz aufwerfen – von Diskriminierung durch algorithmische Systeme über Verantwortungszuschreibung bis zur Frage, wessen Werte in ein System einfließen.
Zusammenfassung
KI-Ethik ist kein einheitliches Lehrgebäude, sondern ein Sammelbegriff für sehr unterschiedliche Ansätze. Prinzipienkataloge wie die Ethikleitlinien der EU-Expertengruppe formulieren Anforderungen wie Transparenz oder Fairness auf hohem Abstraktionsniveau.
Angewandte Ansätze untersuchen dagegen einzelne Systeme und Fälle, etwa verzerrte Gesichtserkennung oder intransparente Bewerbungsfilter. Kritische Strömungen wie die Critical AI Studies fragen wiederum, ob Prinzipienarbeit die eigentlichen Machtfragen überhaupt berührt.
Eine 2019 veröffentlichte Untersuchung von 84 Leitlinien-Dokumenten fand eine hohe Übereinstimmung bei fünf Grundprinzipien – Transparenz, Gerechtigkeit, Schadensvermeidung, Verantwortlichkeit und Datenschutz –, aber erhebliche Unterschiede darin, was diese Prinzipien in der Praxis bedeuten sollen. Genau diese Lücke zwischen Bekenntnis und Umsetzung ist der Ausgangspunkt der meisten Kontroversen um das Feld.
Begriffsgeschichte
Die philosophische Vorgeschichte reicht weit vor die heutige KI-Debatte zurück. Der Mathematiker Norbert Wiener warnte 1960 in einem vielzitierten Aufsatz vor den moralischen Folgen selbstständig handelnder Maschinen, lange bevor der Ausdruck „künstliche Intelligenz“ zum Alltagsbegriff wurde.
Ein unmittelbarer Vorläufer der heutigen KI-Ethik war die Maschinenethik der 2000er-Jahre, die noch primär auf die moralische Handlungsfähigkeit einzelner Systeme zielte: James Moor unterschied 2006 zwischen Maschinen als bloßen ethischen Wirkfaktoren, impliziten, expliziten und vollwertigen moralischen Akteuren.
Wendell Wallach und Colin Allen entwarfen 2008 mit Moral Machines das einflussreichste Programm dafür, wie Maschinen selbst moralisch urteilsfähig gemacht werden könnten. Michael und Susan Leigh Anderson bündelten 2007 unter dem Titel Machine Ethics die ersten systematischen Ansätze des Feldes.
Der Bruch zur heutigen KI-Ethik ist deutlich: Statt einzelne Maschinen zu moralischen Akteuren zu machen, richtet sich die heutige Debatte primär auf soziotechnische und institutionelle Fragen – auf Organisationen, Regulierung und gesellschaftliche Auswirkungen statt auf die Maschine allein.
Als eigenständiges Praxisfeld in diesem soziotechnischen Sinn entstand KI-Ethik erst mit der Verbreitung lernender Systeme in Alltagsentscheidungen. Die Asilomar AI Principles von 2017 zählen zu den ersten breit rezipierten Sammlungen: 23 Leitsätze aus einer Konferenz des Future of Life Institute, von denen jeder einzelne mindestens 90 Prozent Zustimmung unter den Teilnehmenden fand (Future of Life Institute 2017).
2019 legte die von der Europäischen Kommission eingesetzte Expertengruppe ihre Ethics Guidelines for Trustworthy AI vor: sieben Anforderungen, darunter menschliche Aufsicht, technische Robustheit und Diskriminierungsfreiheit.
Im selben Jahr veröffentlichten Luciano Floridi und Josh Cowls ihr einflussreiches Fünf-Prinzipien-Modell, das die vier klassischen Prinzipien der Bioethik – Wohltätigkeit, Schadensvermeidung, Autonomie, Gerechtigkeit – um Erklärbarkeit ergänzte.
2021 verabschiedeten 193 UNESCO-Mitgliedsstaaten einstimmig eine Recommendation on the Ethics of Artificial Intelligence, das bislang einzige global verabschiedete Grundlagendokument des Feldes. Der EU AI Act übertrug ab 2024 einen Teil dieser Prinzipien erstmals in durchsetzbares Recht, statt sie als Selbstverpflichtung zu belassen.
Ansätze und Rahmenwerke
Prinzipienbasierte Ansätze. Der verbreitetste Zugang formuliert eine kleine Zahl abstrakter Grundsätze – etwa Fairness, Transparenz oder Rechenschaftspflicht –, an denen sich konkrete Systeme messen lassen sollen. Ihre Stärke ist die breite Anschlussfähigkeit, ihre Schwäche die geringe Handlungsanleitung im Einzelfall.
Angewandte Ethik am Einzelfall. Ein zweiter Zugang untersucht konkrete Systeme und ihre dokumentierten Wirkungen, etwa Fehlerraten von Gesichtserkennung nach Hautfarbe und Geschlecht. Dieser Zweig überschneidet sich stark mit Algorithmic Bias und stützt sich auf handfeste Befunde statt auf Prinzipienerklärungen.
Verfahrensethik und Dokumentationspflichten. Ein dritter Zweig setzt nicht bei Prinzipien, sondern bei Prozessen an: standardisierte Dokumentation von Trainingsdaten und Modellverhalten soll Verantwortlichkeit nachvollziehbar machen, ohne selbst schon eine moralische Bewertung zu liefern.
Institutionelle Umsetzung. Unternehmen und Forschungseinrichtungen richten Ethikgremien, Prüfverfahren oder eigene Abteilungen ein. Wie fragil solche Strukturen sein können, zeigte Google 2019: Ein neu berufener externer Ethikbeirat wurde nach heftiger Kritik an seiner Zusammensetzung binnen neun Tagen wieder aufgelöst.
Anwendungsfelder
Unternehmenspolitik. Große KI-Anbieter veröffentlichen eigene Ethikprinzipien und richten interne Prüfprozesse ein, oft als Reaktion auf öffentlichen Druck nach konkreten Vorfällen statt aus vorausschauender Planung.
Regulierung. Der EU AI Act übersetzt einen Teil der Prinzipienarbeit in Pflichten mit Sanktionsandrohung, etwa Risikoklassifizierung und Dokumentationspflichten für Hochrisikosysteme.
Fachkonferenzen und Standards. Tagungen wie FAccT bündeln die wissenschaftliche Auseinandersetzung mit Fairness, Rechenschaftspflicht und Transparenz und haben eigene Prüf- und Publikationsstandards entwickelt.
Forschungskritik von innen. Wissenschaftlerinnen wie Timnit Gebru und Margaret Mitchell verloren ihre Positionen bei Google im Zusammenhang mit intern geäußerter Kritik an den ethischen Risiken großer Sprachmodelle – ein Fall, der zum Präzedenzbeispiel für Spannungen zwischen Forschungsfreiheit und Unternehmensinteresse wurde.
Kontroversen und Kritik
Ethics Washing. Der am häufigsten erhobene Vorwurf, geprägt von Ben Wagner (2018): Unternehmen nutzten Ethikbekenntnisse, um verbindlicher Regulierung zuvorzukommen, ohne die eigene Praxis wesentlich zu ändern. Die Auflösung von Googles Ethikbeirat gilt vielen als Beleg für die Zerbrechlichkeit solcher Selbstverpflichtungen.
Prinzipienvielfalt ohne Durchsetzung. Die Konvergenz auf ähnliche Grundprinzipien in praktisch allen untersuchten Leitliniendokumenten löst das Umsetzungsproblem nicht: Wer entscheidet im Konfliktfall, was Fairness gegenüber welcher Gruppe konkret bedeutet, bleibt meist offen.
Strukturkritik statt Prinzipienarbeit. Aus den Critical AI Studies kommt der grundsätzlichere Einwand, Prinzipienkataloge blendeten aus, wer die Rechenkapazität, Daten und Marktmacht besitzt, mit der KI-Systeme überhaupt gebaut werden – ein Einwand, den auch Algorithmic Bias in seiner eigenen Debatte um Reparatur oder Verzicht aufgreift.
Wessen Ethik? Die dominierenden Prinzipienkataloge stammen überwiegend aus nordamerikanischen und europäischen Institutionen. Kritiker:innen bemängeln, dass andere moralische Traditionen und die Perspektiven betroffener Communities im globalen Süden unterrepräsentiert bleiben.
Ethik versus Sicherheit. Innerhalb des Feldes selbst gibt es Spannungen zwischen einer Ethik-Linie, die gegenwärtige Schäden wie Diskriminierung in den Vordergrund stellt, und der Alignment-Forschung, die sich stärker auf hypothetische Zukunftsrisiken konzentriert – beide Lager werfen sich gegenseitig vor, vom jeweils anderen Problem abzulenken.
Verwandte Begriffe
- Timnit Gebru – Forscherin, deren Google-Abgang zum Präzedenzfall wurde
- Margaret Mitchell – Mitautorin desselben Falls, seither eigenständige KI-Ethik-Stimme
- Datasheets for Datasets – Dokumentationsstandard als praktisches Gegenstück zu Prinzipienkatalogen
- Model Cards – vergleichbarer Standard für Modelle statt Datensätze
Quellenangaben
- Wiener, Norbert, 1960. Some Moral and Technical Consequences of Automation. In: Science 131 (3410), S. 1355–1358. DOI: 10.1126/science.131.3410.1355.
- Moor, James H., 2006. The Nature, Importance, and Difficulty of Machine Ethics. In: IEEE Intelligent Systems 21 (4), S. 18–21. DOI: 10.1109/MIS.2006.80.
- Anderson, Michael / Anderson, Susan Leigh (Hg.), 2007. Machine Ethics. Themenheft, IEEE Intelligent Systems 21 (4).
- Wallach, Wendell / Allen, Colin, 2008. Moral Machines: Teaching Robots Right from Wrong. Oxford University Press.
- Wagner, Ben, 2018. Ethics as an Escape from Regulation: From Ethics-Washing to Ethics-Shopping. In: Hildebrandt, Mireille (Hg.), Being Profiled: Cogitas Ergo Sum. Amsterdam University Press.
- Floridi, Luciano / Cowls, Josh, 2019. A Unified Framework of Five Principles for AI in Society. In: Harvard Data Science Review 1 (1).
- Jobin, Anna / Ienca, Marcello / Vayena, Effy, 2019. The Global Landscape of AI Ethics Guidelines. In: Nature Machine Intelligence 1, S. 389–399. DOI: 10.1038/s42256-019-0088-2.
- High-Level Expert Group on Artificial Intelligence, 2019. Ethics Guidelines for Trustworthy AI. Europäische Kommission.
- UNESCO, 2021. Recommendation on the Ethics of Artificial Intelligence. Verabschiedet am 23. November 2021.
- Future of Life Institute, 2017. A Principled AI Discussion in Asilomar. futureoflife.org.