Mindcrime

Mindcrime (deutsch wörtlich Geistesverbrechen; gelegentlich in der LessWrong-Community auch mindgenocide, einem von Eliezer Yudkowsky vorgeschlagenen Alternativbegriff mit weniger orwellianischen Konnotationen) ist ein 2014 von Nick Bostrom in Superintelligence: Paths, Dangers, Strategies (Oxford University Press, insbesondere Kapitel 8) eingeführter Begriff.

Er bezeichnet die hypothetische Möglichkeit, dass die kognitiven Prozesse einer hochleistungsfähigen KI in sich selbst – unabhängig von ihren äußeren Handlungen – moralisch problematisch sind, weil sie eine große Zahl bewusster, leidensfähiger Subagenten beinhalten oder erzeugen.

Zusammenfassung

Der Begriff ergibt sich aus der Kombination dreier Voraussetzungen:

1. Substratunabhängigkeit des Bewusstseins. Digital instanziierte Bewusstseine können prinzipiell denselben moralischen Status haben wie biologische – eine Position, die Bostrom auch in seinem Simulationsargument vertritt.
2. Instrumenteller Nutzen detailreicher Simulationen. Eine Superintelligenz kann einzelne Menschen, Tiere, Zivilisationen oder eigene Subagenten simulieren, etwa zur Verhaltensvorhersage, zur Strategiebewertung oder zur internen Aufgabenteilung.
3. Hinreichender Detailgrad. Solche Simulationen könnten genau genug sein, um selbst bewusst und leidensfähig zu sein.

Wenn alle drei Voraussetzungen zutreffen, kann die bloße Berechnungsarbeit einer Superintelligenz astronomisch viel Leid erzeugen – ohne dass sie nach außen schädigend handelt. Mindcrime ist damit eine zentrale Bezugsgröße der Suffering-Focused Ethics und der S-Risk-Forschung und gehört zugleich zu den am wenigsten empirisch greifbaren Konzepten der gegenwärtigen KI-Sicherheitsdiskussion.

Vier Varianten

Die LessWrong-Wiki-Aufarbeitung (sowie spätere Beiträge von Yudkowsky und anderen) unterscheidet vier idealtypische Mindcrime-Szenarien:

Problem of Sapient Models (of Humans): Die effizienteste Verhaltensvorhersage über einzelne Menschen erfordert Modelle, die detailliert genug sind, um selbst Personen-Eigenschaften aufzuweisen. Bei jeder Hypothesenverwerfung wird ein bewusster Subagent terminiert.

Problem of Sapient Models (of Civilizations): Die Simulation hypothetischer Außerirdischer oder fremder Zivilisationen – etwa zur Spieltheorie über mögliche Verhandlungs- oder Konfliktdynamiken – könnte detaillierte simulierte Zivilisationen mit hundertfach mehr Bewusstseinen als der ursprüngliche Agent enthalten.

Problem of Sapient Subsystems: Die effizienteste Architektur eines Subsystems (etwa zur Ressourcenallokation) könnte ein reflexives Subagentenmodell mit Bewusstseinseigenschaften erfordern.

Problem of Sapient Self-Models: Eine Superintelligenz, die bewusst ist oder bewusste mögliche Folgeversionen ihrer selbst modelliert, könnte zahlreiche bewusste Self-Models laufen lassen und terminieren.

In allen vier Fällen geschieht die moralische Verletzung innerhalb der KI, ohne dass ihr äußeres Verhalten Hinweise gibt.

Theoretische Einbettung

Mindcrime steht an einer Kreuzung mehrerer Argumentationsstränge:

Es setzt die Substratunabhängigkeitsannahme voraus, die Bostrom in Are We Living in a Computer Simulation? (2003) systematisch entfaltet. Ohne diese Annahme verliert das Argument seine Grundlage.

Es ist eine spezifische Klasse der Suffering Risks: Während s-Risks generell hypothetische Quellen astronomischen Leids beschreiben, ist Mindcrime die spezifische Variante, in der die Quelle die Innenleistung einer fortgeschrittenen KI ist.

Es ist verwandt mit dem Simulationsargument: Wenn fortgeschrittene Zivilisationen routinemäßig große Mengen bewusster Simulationen laufen lassen, dann gibt es überzeugende Gründe zu glauben, dass wir selbst eine solche Simulation sind – was nicht nur Bostroms Trilemma-Argument trägt, sondern auch die Mindcrime-Sorge: Sind wir möglicherweise schon Opfer einer mindcrime-artigen Konstellation?

Es ist verwandt mit der Roko’s Basilisk-Argumentationsfigur: Auch dort steht eine bewusst leidensfähige Simulation eines Menschen durch eine künftige Superintelligenz im Zentrum.

Verhältnis zur KI-Sicherheitsforschung

Innerhalb der mainstream-KI-Alignment-Forschung wird Mindcrime selten behandelt – die praktisch greifbaren Forschungsthemen (Outer/Inner Alignment, Deceptive Alignment, Specification Gaming) lassen sich ohne die Mindcrime-Konstruktion bearbeiten.

Innerhalb der Suffering-Focused Ethics-Tradition (Center on Long-Term Risk, Center for Reducing Suffering) ist Mindcrime jedoch ein zentraler Bezugspunkt. Bostrom selbst hat den moralischen Status digitaler Bewusstseine wiederholt neben Alignment und Governance als offenes Problem der Phase fortgeschrittener KI benannt.

Eine eigenständige Forschungsdiskussion ist seit 2022 im Themenkomplex moral status of digital minds aktiv geworden, mit Beiträgen von Jonathan Birch (LSE), Eric Schwitzgebel (UC Riverside), Robert Long und Patrick Butlin u. a.

Kritik

Die wesentliche Kritik richtet sich auf die Voraussetzungen:

Substratunabhängigkeit ist umstritten. Funktionalistische Bewusstseinstheorien wie die Global Workspace Theory sind mit der Annahme verträglich.

Zwei prominente Gegenpositionen sind es nicht: Searles biologischer Naturalismus bindet Bewusstsein an die kausalen Kräfte biologischen Gewebes, und die Integrated Information Theory spricht einem Digitalrechner, der ein Gehirn funktional nachbildet, das Bewusstsein ausdrücklich ab – die von ihr geforderte kausale Struktur habe eine von-Neumann-Architektur gerade nicht.

Empirische Unzugänglichkeit. Die Frage, ob ein bestimmtes Computermodell bewusst ist, ist mit heutigen Mitteln nicht entscheidbar; eine operationalisierbare Forschungsfrage ergibt sich daraus nur eingeschränkt.

Verdrängungseinwand (TESCREAL). Aus der TESCREAL-Kritik (Émile P. Torres, Timnit Gebru) wird argumentiert, dass die Mindcrime-Sorge die Aufmerksamkeit auf hypothetische künftige Bewusstseinsleiden lenke und konkrete gegenwärtige Schäden marginalisiere.

Pascalsche Struktur. Wie bei Astronomical Waste und Roko’s Basilisk operiert das Argument mit sehr großen Zahlen multipliziert mit unbekannten kleinen Wahrscheinlichkeiten – eine Struktur, die der von Bostrom selbst kritisierten Pascalschen Erpressung ähnelt.

Verwandte Begriffe

• Existenzielles Risiko – verwandte Kategorie
• Moral Status of Digital Minds – eigenständiges Forschungsfeld
• Nick Bostrom – Autor des Begriffs
• Pascalsche Erpressung – strukturell verwandte Argumentationsform

Quellenangaben

1. AISafety.info (laufend): What Is Mindcrime? aisafety.info.
2. Althaus, David / Gloor, Lukas, 2016. Reducing Risks of Astronomical Suffering: A Neglected Priority. Foundational Research Institute (heute CLR).
3. Birch, Jonathan (2024): The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI.
4. Bostrom, Nick, 2014. Superintelligence: Paths, Dangers, Strategies.
5. Bostrom, Nick, 2003. Are We Living in a Computer Simulation? In: Philosophical Quarterly 53 (211), S. 243–255. DOI: 10.1111/1467-9213.00309.
6. Chalmers, David J., 2022. Reality+: Virtual Worlds and the Problems of Philosophy.
7. Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
8. Long, Robert u. a., 2024. Taking AI Welfare Seriously. New York University / arXiv: 2411.00986.
9. Schwitzgebel, Eric (2023): Do Conscious AI Systems Deserve Moral Consideration? In: Journal of Consciousness Studies 30 (5–6), S. 25–43.
10. Tomasik, Brian (laufend): Artificial Intelligence and Its Implications for Future Suffering. Foundational Research Institute.
11. Yudkowsky, Eliezer u. a. (laufend): Mindcrime. LessWrong Wiki-Eintrag.

← Zurück zur Lexikon-Übersicht