Fanaticism (Entscheidungstheorie)

Fanaticism (deutsch etwa Fanatismus im entscheidungstheoretischen Sinn) bezeichnet die Eigenschaft einer Entscheidungsregel, eine beliebig kleine Wahrscheinlichkeit auf einen hinreichend großen Wert jedem sicheren, aber kleineren Gewinn vorzuziehen. Der Begriff ist beschreibend, nicht wertend.

Zusammenfassung

Wer den Erwartungswert maximiert, muss diese Folgerung hinnehmen. Multipliziert man einen ausreichend großen Wert mit einer ausreichend kleinen Wahrscheinlichkeit, ergibt sich ein Produkt, das jeden sicheren Gewinn übertrifft.

Für gewöhnliche Entscheidungen fällt das nicht auf. Sichtbar wird es erst, wo mit sehr großen Werten gerechnet wird – etwa mit dem Wohl aller künftigen Generationen.

Die unangenehme Lage liegt darin, dass beide Auswege Kosten haben. Wer der Regel folgt, ist gegen Erpressung durch große Versprechen wehrlos. Wer sie aufgibt, verliert eine Regel, für die es starke Begründungen gibt – und handelt sich eigene Ungereimtheiten ein.

Der Begriff hat seinen Ort in der Debatte um Longtermism, wo er zugleich als Einwand vorgebracht und als Gegenstand eigener Untersuchung behandelt wird.

Begriffsgeschichte

Die Sache ist älter als der Name: Pascals Wette von 1670 ist der klassische Fall, dort mit unendlichem statt bloß sehr großem Wert.

Nick Bostrom brachte das Problem 2009 unter dem Titel Pascal’s Mugging in die zeitgenössische Diskussion – ein Fremder verlangt zehn Euro und verspricht dafür, morgen eine astronomische Zahl von Leben zu retten. Die Erwartungswertregel rät zur Zahlung.

In der Philosophie von Oxford wurde der Begriff fanaticism ab etwa 2015 als Fachterminus gebräuchlich, insbesondere in Arbeiten des Global Priorities Institute.

Nicholas Beckstead und Teruji Thomas zeigten 2021, dass jede Entscheidungsregel entweder fanatisch ist oder eine andere, ähnlich unerwünschte Eigenschaft aufweist – der Befund, der die Debatte seither strukturiert.

Hayden Wilkinson argumentierte 2022 in eine unbequeme Richtung: Nicht die fanatische Regel sei zu verwerfen, sondern die Intuition, die sich gegen sie sträubt.

Methodische Grundlagen

Erwartungswertmaximierung. Die Standardregel: Wahrscheinlichkeit mal Wert, aufsummiert. Sie folgt aus wenigen plausiblen Annahmen über vernünftige Vorlieben – das ist der Grund, warum ihr Aufgeben teuer ist.

Das Unmöglichkeitsergebnis. Beckstead und Thomas zeigten, dass eine Regel entweder fanatisch ist oder timid – dann ignoriert sie unter bestimmten Umständen beliebig große Wertunterschiede. Ein Ausweg ohne Preis besteht nicht.

Beschränkte Nutzenfunktionen. Der häufigste Vorschlag: eine Obergrenze für den Wert. Sie beseitigt den Fanatismus und erzeugt das Gegenproblem, dass ab einer Schwelle zusätzliches Wohl nicht mehr zählt.

Verwerfen kleiner Wahrscheinlichkeiten. Wahrscheinlichkeiten unterhalb einer Schwelle werden auf null gesetzt. Der Einwand: Die Schwelle ist willkürlich, und die Regel verletzt einfache Kohärenzbedingungen.

Bayessche Abwertung. Wer eine gewaltige Wirkung behauptet, muss dafür Belege liefern; fehlen sie, ist die Wahrscheinlichkeit der Behauptung selbst niedriger anzusetzen. Dieser Ansatz dämpft das Problem, löst es aber nicht.

Anwendungsfelder

Priorisierung von Ressourcen. Die praktische Frage, an der der Begriff hängt: Wie viel Aufmerksamkeit verdienen Szenarien mit sehr geringer Wahrscheinlichkeit und sehr großem Ausmaß?

Existenzrisiken. Argumente für Maßnahmen gegen existenzielle Risiken berufen sich häufig auf das Ausmaß der Folgen. Ob sie damit fanatisch werden, hängt an der Größe der angesetzten Wahrscheinlichkeiten.

Prüfung von Zielfunktionen. In der KI-Sicherheit ein technisches Problem: Ein System, das Erwartungswerte maximiert, ist derselben Erpressbarkeit ausgesetzt wie ein Mensch, der es tut.

Politikberatung. Vorsorgeprinzipien in Umwelt- und Gesundheitspolitik haben dieselbe Struktur und stehen unter denselben Einwänden.

Kontroversen und Kritik

Intuition gegen Formalismus. Der Kern des Streits: Fast alle halten die fanatische Folgerung für falsch. Zugleich folgt sie aus Annahmen, die fast alle für richtig halten. Eine der beiden Seiten muss nachgeben, und es ist unklar, welche.

Vorwurf an den Longtermism. Kritiker sehen im Fanatismus die verborgene Struktur der Argumente für Langzeitprioritäten: Wo mit astronomischen Zahlen künftiger Menschen gerechnet wird, überstimmt jede Wahrscheinlichkeit jedes gegenwärtige Anliegen.

Verteidigung. Vertreter halten dagegen, die einschlägigen Wahrscheinlichkeiten seien nicht winzig, sondern durchaus greifbar – Erhebungen unter Fachleuten nennen für KI-bedingte Katastrophen Werte im Prozentbereich. In dieser Größenordnung greife der Einwand nicht.

Willkür der Auswege. Jede vorgeschlagene Reparatur enthält eine Zahl, für die es keine Begründung gibt: die Nutzenobergrenze, die Wahrscheinlichkeitsschwelle. Der Einwand der Willkür trifft die Lösungen härter als das Problem.

Missbrauchsanfälligkeit. Ein praktischer Einwand: Die Denkfigur lässt sich verwenden, um jede beliebige Forderung zu begründen, solange man ihre Folgen groß genug beschreibt.

Was der Begriff für die Debatte leistet

Der eigentliche Ertrag dieses Begriffs liegt nicht in seiner Auflösung, sondern darin, dass er eine Zuschreibung prüfbar macht.

Vor seiner Einführung wurde der Vorwurf pauschal erhoben: Die Sorge um Langzeitrisiken sei religiös, eine Wette auf das Unwahrscheinliche. Der Vorwurf ließ sich weder belegen noch entkräften, weil er keine Bedingung nannte, unter der er zuträfe.

Der entscheidungstheoretische Begriff liefert diese Bedingung. Ein Argument ist fanatisch, wenn sein Ergebnis von einer Wahrscheinlichkeit abhängt, die so klein ist, dass ihre Schätzung selbst nicht mehr trägt. Damit lässt sich für jedes einzelne Argument prüfen, ob der Vorwurf greift.

Das Ergebnis dieser Prüfung fällt uneinheitlich aus – und quer zu den Lagern. Argumente, die mit einem einstelligen Prozentsatz für eine Katastrophe innerhalb dieses Jahrhunderts rechnen, sind nicht fanatisch; sie sind gewöhnliche Risikoabwägung. Argumente, die mit dem Wert von 10³⁵ künftigen Leben und Wahrscheinlichkeiten von eins zu einer Billiarde arbeiten, sind es.

Beide Sorten kommen in derselben Literatur vor, oft in denselben Texten. Der Begriff erlaubt es, sie zu trennen – und das ist mehr, als eine bloße Zurückweisung geleistet hätte.

Quellenangaben

Beckstead, Nicholas / Thomas, Teruji (2021): A Paradox for Tiny Probabilities and Enormous Values. Global Priorities Institute Working Paper 7-2021. globalprioritiesinstitute.org
Bostrom, Nick, 2009. Pascal’s Mugging. In: Analysis 69 (3), S. 443–445. DOI: 10.1093/analys/anp062.
Wilkinson, Hayden, 2022. In Defense of Fanaticism. In: Ethics 132 (2), S. 445–477. DOI: 10.1086/716869.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.