Verantwortung (englisch accountability) bezeichnet die Frage, wer für die Folgen eines KI-Systems einsteht – rechtlich, moralisch und organisatorisch. Sie ist schwer zu beantworten, weil sich Entwicklung, Betrieb und Wirkung eines Systems auf viele Beteiligte verteilen.
Zusammenfassung
Der deutsche Begriff bündelt, was im Englischen auseinandertritt. Responsibility meint die moralische Zuschreibung an einen Handelnden, accountability die Pflicht, Rechenschaft abzulegen, liability die rechtliche Haftung. Ein System kann Haftung zuweisen, ohne dass jemand moralisch verantwortlich wäre – und umgekehrt.
Die Schwierigkeit ist nicht neu, aber sie verschärft sich. Bei einem lernenden System hat niemand die einzelne Ausgabe vorgesehen: nicht die Entwickelnden, die nur das Verfahren festlegten, und nicht die Betreibenden, die es anwendeten. Der Philosoph Andreas Matthias nannte diese Lage 2004 die Verantwortungslücke.
Das Recht antwortet darauf nicht mit einer Zurechnung zur Maschine, sondern mit Rollen: Die KI-Verordnung verteilt Pflichten auf Anbieter und Betreiber, unabhängig davon, wer den konkreten Schaden vorhergesehen hat.
Abgrenzung
Nachvollziehbarkeit – ist die Voraussetzung. Wer nicht rekonstruieren kann, wie eine Entscheidung zustande kam, kann sie niemandem zurechnen. Aus vollständiger Dokumentation folgt aber noch keine Zuständigkeit.
Haftung – ist die rechtliche Teilmenge. Sie regelt, wer zahlt, und beantwortet damit nur einen Teil der Frage, wer verantwortlich ist.
Begriffsgeschichte
Die klassische Bedingung moralischer Verantwortung verlangt zweierlei: Der Handelnde muss die Folgen vorhersehen und die Handlung kontrollieren können. Beides wird bei lernenden Systemen brüchig.
Andreas Matthias beschrieb 2004 die daraus folgende Lücke: Je stärker ein System sein Verhalten aus Daten statt aus Vorgaben bezieht, desto weniger lässt sich sein Ergebnis jemandem zurechnen, der es hätte voraussehen können.
Die Technikforscherin Madeleine Clare Elish prägte 2019 den Gegenbegriff zur naheliegenden Abhilfe. Ihre moralische Knautschzone beschreibt, wie ein Mensch im Entscheidungsweg im Schadensfall die Schuld auffängt, obwohl er weder Gestaltung noch Betrieb des Systems zu verantworten hatte.
Mit der KI-Verordnung von 2024 trat an die Stelle der philosophischen Frage eine administrative Antwort: nicht Zurechnung nach Vorhersehbarkeit, sondern Pflichten nach Rolle in der Wertschöpfungskette.
Methodische Grundlagen
Das Problem der vielen Hände. Entwicklung, Datenbeschaffung, Training, Einbau und Betrieb liegen bei verschiedenen Stellen. Jede kann auf eine andere verweisen, ohne zu lügen.
Rollenbasierte Zuweisung. Die regulatorische Antwort: Pflichten hängen an der Funktion – wer ein System in Verkehr bringt, wer es einsetzt, wer es verändert –, nicht am Nachweis individueller Schuld.
Prüfbarkeit. Verantwortung setzt voraus, dass sich Handeln im Nachhinein prüfen lässt. Protokollierung und Dokumentationsstandards wie Model Cards sind ihre praktische Form.
Folgenabschätzung im Voraus. Verfahren, die absehbare Schäden vor dem Einsatz benennen, verschieben Verantwortung von der nachträglichen Zuweisung zur vorherigen Prüfung.
Widerspruch und Abhilfe. Aus Betroffenensicht ist Verantwortung erst dann eingelöst, wenn es eine Stelle gibt, die eine Entscheidung überprüfen und korrigieren kann.
Anwendungsfelder
Hochrisikosysteme. Personalauswahl, Kreditvergabe und Strafverfolgung – Felder, in denen die Rollenverteilung der KI-Verordnung unmittelbar greift.
Autonomes Fahren. Der Fall, an dem Elish ihre Knautschzone entwickelte und an dem sich Haftungsfragen am konkretesten stellen.
Militärische Systeme. Die Zuspitzung der Verantwortungslücke, weil hier eine Tötungsentscheidung zuzurechnen wäre – siehe Autonome Waffensysteme.
Generative Systeme. Offene Zuständigkeit für Ausgaben, die weder Anbieter noch Nutzende so beabsichtigt haben.
Kontroversen und Kritik
Gibt es die Lücke überhaupt? Ein verbreiteter Einwand lautet, sie sei keine Eigenschaft der Technik, sondern eine Entscheidung: Wer ein System einsetzt, dessen Verhalten er nicht vorhersehen kann, übernimmt damit die Verantwortung für genau diese Unvorhersehbarkeit.
Verantwortung als Haftungsverschiebung. Wo Aufsicht formal verlangt, aber praktisch nicht ausübbar ist, erzeugt sie eine zurechenbare Person ohne Einflussmöglichkeit – die Knautschzone als Konstruktionsergebnis, nicht als Unfall.
Rollen statt Schuld. Die regulatorische Lösung ist verwaltbar, verfehlt aber den moralischen Kern: Sie sagt, wer zuständig ist, nicht, wer etwas falsch gemacht hat.
Maschinen als Verantwortungsträger. Der Vorschlag, Systemen eine eigene Rechtspersönlichkeit zu geben, wird überwiegend abgelehnt – er würde die Lücke nicht schließen, sondern ihr einen Namen geben und die Beteiligten entlasten.
Verwandte Begriffe
- Menschliche Aufsicht – der Mechanismus, mit dem Verantwortung im Betrieb gesichert werden soll
- Nachvollziehbarkeit – Voraussetzung jeder Zurechnung
- EU AI Act – verteilt Pflichten nach Rolle statt nach Verschulden
- FAccT – Feld, das Accountability als eigenen Forschungsgegenstand führt
Quellenangaben
- Matthias, Andreas, 2004. The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata. In: Ethics and Information Technology 6 (3), S. 175–183. DOI: 10.1007/s10676-004-3422-1.
- Elish, Madeleine Clare, 2019. Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. In: Engaging Science, Technology, and Society 5, S. 40–60.
- Europäisches Parlament und Rat der Europäischen Union, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung). Amtsblatt der Europäischen Union.
- Santoni de Sio, Filippo / Mecacci, Giulio, 2021. Four Responsibility Gaps with Artificial Intelligence: Why They Matter and How to Address Them. In: Philosophy & Technology 34, S. 1057–1084.