Utilitarismus

Der Utilitarismus ist eine ethische Theorie, nach der eine Handlung genau dann richtig ist, wenn sie unter den verfügbaren Handlungsmöglichkeiten die größte Summe an Wohlergehen hervorbringt. Wessen Wohlergehen dabei zählt, wird nicht durch Nähe, Herkunft oder Zugehörigkeit begrenzt.

Zusammenfassung

Drei Bestandteile machen die Theorie aus. Erstens: Nur Folgen zählen – nicht Absichten, nicht die Art der Handlung. Zweitens: Was an den Folgen zählt, ist Wohlergehen. Drittens: Das Wohlergehen jedes Betroffenen zählt gleich viel.

Der dritte Bestandteil ist der folgenreichste. Er verbietet es, das eigene Wohl oder das der eigenen Gruppe höher zu gewichten, und macht die Theorie zu einer Forderung, die den meisten Lebensentwürfen widerspricht.

Historisch formulierten Jeremy Bentham und John Stuart Mill die Lehre im 19. Jahrhundert als Reformprogramm. Ihr Maßstab richtete sich gegen Vorrechte, die sich auf Herkommen beriefen.

Für die KI-Debatte ist der Utilitarismus erheblich, weil er die begriffliche Grundlage des Effektiven Altruismus und über diesen einen Teil der Argumente zu Langzeitrisiken bildet.

Begriffsgeschichte

Vorläufer finden sich in der Antike, etwa bei Epikur. Als ausgearbeitete Theorie beginnt der Utilitarismus mit Benthams Introduction to the Principles of Morals and Legislation von 1789.

Bentham verband die Lehre mit konkreten Reformforderungen: Strafrechtsreform, Rechte für Frauen, Abschaffung der Sklaverei, Entkriminalisierung gleichgeschlechtlicher Handlungen. Sein Maßstab lautete, ob ein Wesen leiden kann – nicht, ob es sprechen oder denken kann.

John Stuart Mill milderte die Lehre 1861, indem er zwischen höheren und niederen Freuden unterschied – ein Zugeständnis an den Einwand, die Theorie behandle geistige und leibliche Genüsse gleich.

Henry Sidgwick gab ihr 1874 ihre strengste Form und arbeitete den Konflikt zwischen unparteilicher Vernunft und eigenem Interesse heraus, den er nicht auflösen konnte.

Im 20. Jahrhundert erneuerte R. M. Hare die Theorie sprachanalytisch; Peter Singer machte sie ab 1975 zur Grundlage praktischer Forderungen, zunächst in der Tierethik.

Methodische Grundlagen

Konsequenzialismus. Der Wert einer Handlung liegt vollständig in ihren Folgen. Handlungsarten haben keinen eigenen moralischen Rang.

Wohlfahrtsbezug. Was an den Folgen zählt, ist Wohlergehen. Was Wohlergehen ist, wird unterschiedlich bestimmt: als Lust und Leidfreiheit, als Erfüllung von Präferenzen oder als Liste objektiver Güter.

Unparteilichkeit. Jeder zählt für einen und keiner für mehr als einen. Diese Formel Benthams ist der Kern und zugleich die Quelle der meisten Einwände.

Aggregation. Wohlergehen wird summiert. Daraus folgt, dass große Nachteile weniger durch kleine Vorteile vieler aufgewogen werden können.

Handlungs- und Regelutilitarismus. Die erste Spielart wendet den Maßstab auf einzelne Handlungen an, die zweite auf Regeln, deren allgemeine Befolgung die besten Folgen hat.

Erwartungswerte. Da Folgen ungewiss sind, wird in der Praxis nicht der tatsächliche, sondern der erwartete Nutzen maximiert – Wahrscheinlichkeit mal Ausmaß. Diese Fassung erzeugt eigene Schwierigkeiten.

Anwendungsfelder

Praktische Ethik. Sterbehilfe, Tierhaltung, Verteilung knapper medizinischer Mittel – in all diesen Feldern liefert die Theorie ein Entscheidungsverfahren, wo Intuitionen auseinandergehen.

Ökonomie und Politikbewertung. Kosten-Nutzen-Analysen und Wohlfahrtsökonomie sind der Sache nach utilitaristisch, auch wo sie den Namen meiden.

Effektiver Altruismus. Die Bewegung überträgt den Maßstab auf die Frage, wie Spenden und Lebenszeit einzusetzen sind.

KI-Ethik. Der Versuch, Maschinen Ziele vorzugeben, verlangt eine ausdrückliche Zielfunktion – und eine solche zu formulieren ist strukturell eine utilitaristische Aufgabe. Die Schwierigkeiten des Reward Hacking wiederholen ältere Einwände gegen die Theorie in technischem Gewand.

Langfristrisiken. Die Sorge um künftige Generationen folgt aus der Unparteilichkeit: Wenn zeitliche Entfernung ebenso wenig zählt wie räumliche, wiegt die Zukunft schwer.

Kontroversen und Kritik

Überforderung. Wer stets das Beste bewirken soll, hat keine Erlaubnis zu einem eigenen Leben. Die Theorie kennt keinen Bereich des moralisch Erlaubten jenseits des Gebotenen.

Verrechnung von Personen. Der schwerste Einwand: Die Summenbildung behandelt Menschen als Behälter von Wohlergehen. John Rawls formulierte, der Utilitarismus nehme die Unterschiedenheit der Personen nicht ernst.

Gegenintuitive Urteile. Konstruierte Fälle – der Unschuldige, dessen Opferung viele rettet – führen zu Urteilen, die fast alle für falsch halten.

Messbarkeit. Wohlergehen verschiedener Personen soll verglichen und addiert werden. Ein Verfahren dafür fehlt.

Die abstoßende Folgerung. Derek Parfit zeigte, dass die Summenmaximierung eine sehr große Bevölkerung mit gerade noch lebenswertem Leben einer kleineren mit hoher Lebensqualität vorzieht. Eine allgemein akzeptierte Antwort darauf gibt es nicht.

Erwartungswert-Fanatismus. Werden Erwartungswerte maximiert, kann eine winzige Wahrscheinlichkeit auf einen gewaltigen Nutzen jede sichere Handlung überstimmen – siehe Fanaticism.

Verteidigung. Vertreter halten dem entgegen, dass Intuitionen keine Belege sind, sondern selbst der Prüfung bedürfen – und dass viele heute selbstverständliche Urteile ursprünglich gegen die Intuition ihrer Zeit erstritten wurden.

Warum die KI-Debatte utilitaristisch spricht

Es ist kein Zufall, dass ein erheblicher Teil der Argumente zu KI-Risiken in utilitaristischen Begriffen vorgetragen wird – auch von Leuten, die sich nicht als Utilitaristen verstehen.

Der Grund liegt in der Aufgabe. Wer ein System bauen will, das selbstständig handelt, muss ihm sagen, was gut ist. Eine Maschine versteht keine Tugend und kein Gebot; sie optimiert eine Größe. Damit ist die Form der Antwort vorentschieden, bevor über ihren Inhalt gestritten wird.

Diese technische Notwendigkeit hat eine philosophische Nebenwirkung. Die Einwände gegen den Utilitarismus wandern in die Technik mit: Was eine Zielvorgabe nicht erfasst, geht verloren; was sich nicht messen lässt, zählt nicht; und ein hinreichend fähiger Optimierer findet Lösungen, die die Vorgabe erfüllen und ihren Zweck verfehlen.

Umgekehrt hat die Technik der Philosophie etwas zurückgegeben. Die Sammlung dokumentierter Fälle, in denen Lernsysteme ihre Zielvorgabe ausnutzten, ist der empirische Beleg für einen Einwand, den die Ethik zwei Jahrhunderte lang nur als Gedankenexperiment vorbringen konnte.

Quellenangaben

Bentham, Jeremy (1789): An Introduction to the Principles of Morals and Legislation.
Mill, John Stuart (1863): Utilitarianism.
Parfit, Derek, 1984. Reasons and Persons.
Rawls, John (1971): A Theory of Justice.
Sidgwick, Henry (1874): The Methods of Ethics.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.