Pascalsche Erpressung

Pascalsche Erpressung (englisch Pascal’s Mugging) bezeichnet in der Entscheidungstheorie und der Ethik einen von Nick Bostrom 2009 formulierten Gedanken, demzufolge ein konsequent erwartungsnutzen-maximierender Akteur durch Versprechungen oder Drohungen mit sehr großen Wertbeträgen – auch bei sehr kleinen, vom Akteur selbst als unwahrscheinlich eingeschätzten Wahrscheinlichkeiten – zu beliebigen Handlungen veranlasst werden kann.

Der Begriff ist eine bewusste Anspielung auf Blaise Pascals klassisches Wette-Argument (Pascal, Pensées, posthum 1670), das mit ähnlicher Argumentationsstruktur den Gottesglauben zu rechtfertigen versucht.

Pascalsche Erpressung gilt seither als eine der zentralen Selbstkritiken des klassischen erwartungsnutzen-basierten Longtermism und der x-risk-Argumentation um Bostrom, Yudkowsky und MacAskill; sie ist ein paradigmatischer Reductio-Einwand gegen die in der TESCREAL-Tradition (Gebru/Torres 2024) verbreitete Praxis der Wertbilanzierung über extreme Wahrscheinlichkeits-Wert-Produkte.

Zusammenfassung

Das von Bostrom 2009 in Analysis 69 (3) publizierte Gedankenexperiment hat folgende Struktur: Ein Fremder spricht den Philosophen Blaise Pascal auf der Straße an und behauptet, über magische Kräfte zu verfügen, mit denen er Pascal nach dessen Tod beliebig große Mengen Glück (oder beliebig viele künftige menschliche Leben) verschaffen könne – vorausgesetzt, Pascal gibt ihm jetzt zehn Livres.

Pascal erkennt, dass die Wahrscheinlichkeit, dass der Fremde tatsächlich über solche Kräfte verfügt, verschwindend klein ist. Doch jede noch so kleine positive Wahrscheinlichkeit, multipliziert mit einem hinreichend großen Wertbetrag, ergibt einen positiven erwarteten Nutzen, der den sicheren Verlust der zehn Livres übersteigen kann.

Der konsequente erwartungsnutzen-maximierende Pascal müsste demnach zahlen – und derselben Logik folgend müsste er sich praktisch beliebig viele weitere Forderungen aufdrängen lassen.

Drei zentrale Eigenschaften des Problems sind hervorzuheben: erstens betrifft es nicht primär unbekannte, sondern bekannt extrem unwahrscheinliche Ereignisse; zweitens hängen die kritischen Konsequenzen nicht von empirischen Annahmen, sondern von der Struktur der Wahrscheinlichkeits-Wert-Verteilung ab; drittens skaliert die Schwierigkeit mit der Größe der angebotenen Werte – bei hinreichend großen Werten werden auch immer kleinere Wahrscheinlichkeiten praktisch handlungsleitend.

In der nachfolgenden Diskussion sind verschiedene Lösungsversuche formuliert worden – von bounded utility functions über probability discounting bis zu epistemischen Reaktionen –, ohne dass Konsens erreicht wurde. Das Problem ist eng verwandt mit der St.-Petersburg-Paradoxie (Bernoulli 1738) und mit Tobys Ord fanaticism-Diskussion (Ord 2020 The Precipice; Beckstead 2013).

Begriffsgeschichte

Vorgeschichte: Pascals Wette (1670)

Die Wurzel des Begriffs liegt in Blaise Pascals klassischem Wette-Argument, das posthum 1670 in den Pensées publiziert wurde.

Pascal argumentiert dort, dass es selbst bei sehr kleiner Wahrscheinlichkeit der Existenz Gottes vernünftig sei, gläubig zu leben – weil der mögliche Gewinn (ewige Seligkeit bei tatsächlicher Existenz) den Verlust (kleinere irdische Annehmlichkeiten) auch bei sehr kleiner Wahrscheinlichkeit erwartungsnutzen-mäßig überwiegt.

Diese Argumentationsstruktur ist seit Jahrhunderten Gegenstand philosophischer Kritik; sie liefert zugleich die Vorlage für die spätere Pascalsche Erpressung.

St.-Petersburg-Paradoxie (1738)

Eng verwandt mit der Pascalschen Erpressung ist die St.-Petersburg-Paradoxie (Daniel Bernoulli, Specimen Theoriae Novae de Mensura Sortis, 1738).

Bernoulli zeigte, dass ein einfaches Glücksspiel mit divergierender erwarteter Auszahlung existiert, das aber praktisch niemand für hohe Summen spielen würde. Dies war historisch die erste systematische Auseinandersetzung mit den Grenzen erwartungsnutzen-basierter Rationalität bei extremen Wahrscheinlichkeits-Wert-Verteilungen.

Die Antwort Bernoullis war die Einführung beschränkter Nutzenfunktionen (logarithmischer Nutzen) – ein Lösungsansatz, der auch in der späteren Pascalschen-Erpressung-Diskussion diskutiert wird.

Yudkowskys Vorgeschichte (2007)

Der Begriff Pascal’s Mugging wurde in seiner heutigen Form erstmals von Eliezer Yudkowsky auf dem Overcoming Bias-Blog am 19. Oktober 2007 verwendet (Pascal’s Mugging: Tiny Probabilities of Vast Utilities).

Yudkowsky formulierte das Problem im Kontext der LessWrong-Community-Diskussion um die Frage, wie x-risk-Argumentationen mit sehr kleinen Wahrscheinlichkeiten existenzieller Katastrophen rational behandelt werden sollten.

Die Pointe lag darin, dass die Argumentationsstruktur – Wahrscheinlichkeit p, multipliziert mit Wert V, ergibt erwarteten Nutzen pV – selbst bei beliebig kleinem p zu beliebig großem pV führen kann, wenn V nur hinreichend groß ist.

Bostroms kanonische Publikation (2009)

Die kanonische akademische Etablierung erfolgte mit Bostroms Aufsatz Pascal’s Mugging in Analysis 69 (3), S. 443–445, im Juli 2009. Bostroms Version präsentiert das Argument als Dialog mit Pascal und macht den Vergleich zur klassischen Pascalschen Wette explizit.

Bostrom formuliert das Problem zugleich als Selbstkritik: Er gehört selbst zu den Hauptvertretern erwartungsnutzen-basierter x-risk-Argumentationen, in denen sehr kleine Wahrscheinlichkeiten existenzieller Katastrophen mit sehr großen Wertbeträgen multipliziert werden.

Lösungsversuche und Folgediskussion (2009–2026)

Die Folgediskussion umfasst eine Reihe Lösungsversuche:

Beschränkte Nutzenfunktionen (Bostrom selbst andiskutiert; Beckstead 2013 On the Overwhelming Importance of Shaping the Far Future): Wenn die Nutzenfunktion bei sehr großen Werten saturiert, kann das Problem eingegrenzt werden – allerdings auf Kosten der Aufgabe der für Longtermism zentralen Annahme der linearen Additivität von Werten über Personen und Zeit.

Probability Discounting (Hájek 2011; Easwaran/Fitelson 2013): Sehr kleine Wahrscheinlichkeiten werden in Entscheidungsprozessen abgerundet oder abgeschnitten. Dieser Ansatz ist elegant, hat aber das Problem, dass die Schwelle willkürlich erscheint und im Kontext von x-risk-Argumentationen genau die argumentativ kritischen Wahrscheinlichkeiten betroffen wären.

Anti-Bayesianische Reaktionen (Bostrom selbst 2009): Bei sehr unwahrscheinlichen Behauptungen mit sehr großen Konsequenzen ist möglicherweise das posterior-Update angemessener als das prior-Update – der Empfänger der Behauptung darf seine Überzeugung nicht in dem Maße aktualisieren, wie die formale Bayes-Regel suggeriert.

Epistemische Reaktionen (Pittard 2014; Carr 2020): Ein konsequent rationaler Akteur sollte bei extremen Wahrscheinlichkeits-Wert-Verteilungen die epistemische Verlässlichkeit seiner eigenen Bewertungen in Frage stellen, statt erwartungsnutzen-konsequent zu handeln.

Strukturelle Reaktionen (Beckstead/Thomas 2024): Das Problem wird als grundsätzliche Inadäquatheit erwartungsnutzen-basierter Rationalität bei fanatischen Verteilungen interpretiert; vorgeschlagen werden alternative Entscheidungsregeln wie Risk-Weighted Expected Utility (Buchak 2013) oder Hurwicz-Regel.

MacAskill, Ord und der Longtermism-Kontext (2014–2026)

Mit der Etablierung des Longtermism als eigenständige philosophische Position (Greaves/MacAskill 2021 The Case for Strong Longtermism, MacAskill 2022 What We Owe the Future) und der zunehmenden praktischen Relevanz x-risk-Argumentationen ist die Pascalsche Erpressung methodisch wieder in den Vordergrund gerückt.

Toby Ord (2020 The Precipice) diskutiert das Problem unter dem Begriff fanaticism; Beckstead/Thomas (2024) liefern eine systematische Untersuchung. Die Frage, ob Longtermism fanatisch in einem problematischen Sinne ist, bleibt Gegenstand laufender philosophischer Auseinandersetzung.

Methodische Differenzierungen

Pascals Wette vs. Pascalsche Erpressung

Eine wichtige Unterscheidung trennt die beiden namensgebenden Argumente. Pascals Wette (1670) ist ein Argument für eine bestimmte Position – gläubiges Leben – auf Basis einer als plausibel präsentierten Wahrscheinlichkeits-Wert-Verteilung.

Pascalsche Erpressung (Bostrom 2009) ist dagegen ein methodisches Reductio-Argument gegen die unbeschränkte Anwendung erwartungsnutzen-basierter Rationalität – sie zeigt, dass eine konsequente Anwendung der Erwartungsnutzen-Maximierung zu praktisch absurden Konsequenzen führen kann.

Mugging vs. Wette: Asymmetrie der Information

Ein zentraler Unterschied: Bei Pascals Wette geht es um eine theologisch-philosophische Reflexion in vollem Bewusstsein der epistemischen Lage. Bei Pascalscher Erpressung kommt eine externe Forderung von einem Akteur, der explizit ein Interesse daran hat, eine bestimmte Handlung herbeizuführen. Diese Informationsasymmetrie ist eine wichtige Komponente – sie erklärt, warum das Pascal-Mugging-Argument so prägnant wirkt.

Sehr kleine Wahrscheinlichkeiten vs. unbekannte Wahrscheinlichkeiten

Pascalsche Erpressung betrifft primär den Fall bekannt extrem unwahrscheinlicher Ereignisse – Ereignisse, denen der Akteur selbst eine sehr kleine, aber positive Wahrscheinlichkeit zuordnet. Dies ist zu unterscheiden vom Problem unbekannter Wahrscheinlichkeiten (Knightian uncertainty), das eigene Lösungsstrategien erfordert.

Fanaticism und x-risk-Argumentation

Die in der Longtermism-Literatur diskutierte Eigenschaft fanaticism bezeichnet die Bereitschaft, sehr kleine Wahrscheinlichkeiten sehr großer Werte gegen sicheres, kleineres Erleben einzutauschen.

Fanatic Decision Theory ist die Position, dass diese Bereitschaft konsequent richtig ist; anti-fanatic-Positionen halten sie für problematisch. Bostroms und Beckstead/Thomas’ Diskussionen positionieren sich differenziert zwischen diesen Polen.

Einordnung

Pascalsche Erpressung gehört zu den philosophischen Grundbegriffen dieses Felds:

TESCREAL-Selbstkritik: Pascalsche Erpressung ist eine der ernsthaftesten internen Selbstkritiken des TESCREAL-Komplexes (Gebru/Torres 2024). Sie wird primär von Akteuren innerhalb der x-risk-Tradition (Bostrom, Yudkowsky, MacAskill, Ord, Beckstead) formuliert und problematisiert die Struktur ihrer eigenen erwartungsnutzen-basierten Argumentationen.

Longtermism-Komplex: Die Pascalsche Erpressung ist eng mit den Einträgen zu Longtermism, Existenzielles Risiko, Astronomical Waste und Maxipok-Prinzip verbunden. Alle diese Argumentationslinien rechnen sehr kleine Wahrscheinlichkeiten mit sehr großen Wertbeträgen – die Pascalsche Erpressung zeigt die Schwierigkeit dieses Vorgehens.

Yudkowsky-Tradition: Über die ursprüngliche Yudkowsky-Verwendung 2007 ist die Pascalsche Erpressung mit der LessWrong-Community und mit der breiteren rationality-Tradition verbunden, die besonders intensive Auseinandersetzungen mit erwartungsnutzen-basierter Rationalität geführt hat.

Bostrom-Komplex: Die Pascalsche Erpressung gehört selbst zum Bostrom-Komplex – ein eigenständiger Beitrag Bostroms, der seine eigene programmatische Linie kritisch reflektiert.

Anschluss an entscheidungstheoretische Tradition: Über Bernoullis St.-Petersburg-Paradoxie ist die Pascalsche Erpressung mit der ältesten Linie entscheidungstheoretischer Probleme verbunden – ein Anschluss an die klassische Philosophie und Ökonomie, der das Lexikon mit Linien jenseits der unmittelbaren KI-Debatte verbindet.

Kritische Linie: Die in der TESCREAL-kritischen Literatur (Gebru/Torres 2024) artikulierte Kritik an der utopisch-fanatischen Lesart des Longtermism nimmt die Pascalsche Erpressung implizit auf – die Argumentationsstruktur, gegen die sie sich richtet, ist dieselbe, die Bostrom 2009 als problematisch identifizierte. Diese Verbindung wird in der kritischen Literatur teilweise explizit gemacht.

Anschluss zu Reasoning Models und Sicherheitsforschung: Mit der Etablierung der Reasoning Models seit September 2024 hat die Frage, wie KI-Systeme selbst mit extremen Wahrscheinlichkeits-Wert-Verteilungen umgehen, neue Aktualität erhalten.

Wenn KI-Systeme erwartungsnutzen-basierte Argumentationen durchführen, werden sie potentiell für Pascalsche-Erpressung-Strukturen anfällig – ein Punkt, der in Anthropic-internen Sicherheits-Reflexionen aufgegriffen wurde.

Kontroversen und Kritik

Substantielle Kritik betrifft mehrere Linien:

Unbestimmtheit der Lösungsstrategien: Trotz substantieller philosophischer Diskussion seit 2009 ist kein Konsens darüber erreicht, wie Pascalsche Erpressung sauber zu vermeiden ist.

Beschränkte Nutzenfunktionen, probability discounting, anti-bayesianische und epistemische Reaktionen haben jeweils eigene Schwierigkeiten. Diese Unbestimmtheit ist in der Sekundärliteratur (Beckstead/Thomas 2024) als zentrales Problem markiert.

Strukturelle Asymmetrie zwischen Mugging und x-risk: Eine in der Sekundärliteratur (Greaves/MacAskill 2021) erörterte Frage betrifft, ob das Pascalsche-Erpressung-Problem tatsächlich strukturell auf reale x-risk-Argumentationen übertragbar ist.

Im Mugging-Beispiel liefert die Forderung selbst die einzige Evidenz; bei realen x-risk-Argumentationen gibt es typisch zusätzliche empirische Evidenz für die behaupteten Risiken. Diese Differenz wird teils als Entkräftung des Problems, teils als nicht hinreichend belastbare Differenzierung diskutiert.

Fanaticism als positive Position: Eine in der Hardcore-Longtermism-Tradition vertretene Position (Beckstead 2013; Wilkinson 2022 In Defense of Fanaticism) argumentiert, dass fanatische Entscheidungsregeln nicht trotz, sondern wegen der Pascalschen Erpressung richtig sind – die scheinbar absurden Konsequenzen ergeben sich aus konsequent angewandter Rationalität und müssen akzeptiert werden.

Diese Position wird in der breiteren akademischen Philosophie als problematisch diskutiert.

Kommerzielle und ideologische Folgen: In der TESCREAL-kritischen Literatur (Gebru/Torres 2024; Torres 2023 Human Extinction) wird argumentiert, dass die Pascalsche Erpressung in der Praxis als rhetorisches Mittel verwendet werden kann, um beliebig große Ressourcen-Allokationen in spekulative x-risk-Programme zu rechtfertigen. Diese Beobachtung verbindet die theoretische Diskussion mit politisch-ökonomischen Fragen der Forschungs-Finanzierung.

Anthropozentrische Engführung: In der akademischen Ethik (Carr 2020; Wilkinson 2022) wird diskutiert, ob die Pascalsche-Erpressung-Diskussion zu eng auf individuell-rationale Akteure und auf relativ klar definierte Wertbeträge fokussiert ist, während realistische ethische Entscheidungen in komplexeren, weniger gut quantifizierbaren Settings stattfinden.

Verhältnis zur empirischen Entscheidungsforschung: Die experimentelle Entscheidungsforschung (Kahneman/Tversky-Tradition) hat empirisch dokumentiert, dass Menschen sehr kleine Wahrscheinlichkeiten systematisch anders gewichten, als es die klassische Erwartungsnutzen-Theorie postuliert.

Diese empirische Beobachtung kann methodisch als pragmatische Antwort auf die Pascalsche Erpressung verstanden werden – die Frage, ob sie auch normativ rechtfertigt, was Menschen tatsächlich tun, bleibt allerdings offen.

Verwandte Begriffe

• Fanaticism (Entscheidungstheorie) – verwandter Begriff
• TESCREAL – diskutierter ideologischer Rahmen
• Eliezer Yudkowsky – frühe Formulierung des Begriffs

Quellenangaben

1. Beckstead, Nick, 2013. On the Overwhelming Importance of Shaping the Far Future. Dissertation, Department of Philosophy, Rutgers University.
2. Beckstead, Nick / Thomas, Teruji, 2021. A Paradox for Tiny Probabilities and Enormous Values. In: Noûs 58 (2). DOI: 10.1111/nous.12462.
3. Bernoulli, Daniel, 1738. Specimen Theoriae Novae de Mensura Sortis. In: Commentarii Academiae Scientiarum Imperialis Petropolitanae 5, S. 175–192. (Engl. Übersetzung: Exposition of a New Theory on the Measurement of Risk. In: Econometrica 22 (1), 1954, S. 23–36. DOI: 10.2307/1909829.)
4. Bostrom, Nick, 2009. Pascal’s Mugging. In: Analysis 69 (3), S. 443–445. DOI: 10.1093/analys/anp062.
5. Buchak, Lara, 2013. Risk and Rationality.
6. Carr, Jennifer Rose, 2020. Pascal’s Mugger Strikes Again. In: Utilitas 32 (3), S. 277–292. DOI: 10.1017/S0953820820000023.
7. Easwaran, Kenny / Fitelson, Branden, 2013. Accuracy, Coherence, and Evidence. In: Oxford Studies in Epistemology 5. Oxford: Oxford University Press.
8. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
9. Greaves, Hilary / MacAskill, William, 2021. The Case for Strong Longtermism. Global Priorities Institute Working Paper No. 5-2021.
10. Hájek, Alan, 2011. Pascal’s Wager. In: The Stanford Encyclopedia of Philosophy, hrsg. von Edward N. Zalta.
11. MacAskill, William, 2022. What We Owe the Future. Basic Books.
12. Ord, Toby, 2020. The Precipice: Existential Risk and the Future of Humanity.
13. Pascal, Blaise, 1670 (posthum). Pensées.
14. Pittard, John, 2014. Resolute Choice and Rational Deference. In: Philosophical Studies 168 (3), S. 643–658. DOI: 10.1007/s11098-013-0162-2.
15. Torres, Émile P., 2023. Human Extinction: A History of the Science and Ethics of Annihilation.
16. Wilkinson, Hayden, 2022. In Defense of Fanaticism. In: Ethics 132 (2), S. 445–477. DOI: 10.1086/716869.
17. Yudkowsky, Eliezer, 2007. Pascal’s Mugging: Tiny Probabilities of Vast Utilities. Overcoming Bias / LessWrong, 19. Oktober 2007.

← Zurück zur Lexikon-Übersicht