Robin Dale Hanson (* 28. August 1959 in den USA) ist ein US-amerikanischer Ökonom, Sachbuchautor und Blogger. Er ist Associate Professor of Economics an der George Mason University in Fairfax, Virginia, und war bis zur Schließung der Institution im April 2024 Research Associate am Future of Humanity Institute (FHI) der University of Oxford.
Hanson ist eine zentrale, in mehreren Hinsichten ungewöhnliche Figur der gegenwärtigen Tech- und KI-Ideologiedebatte. Seine wichtigsten Beiträge:
- Er gilt als Mitbegründer des modernen Feldes der prediction markets (Vorhersagemärkte) und Erfinder der Logarithmic Market Scoring Rule (LMSR).
- Er hat das Konzept des Great Filter (1996/1998) in die Diskussion um die Fermi-Frage eingeführt.
- Er ist gemeinsam mit Daniel Martin, Calvin McCarter und Jonathan Paulson Autor des Grabby Aliens-Modells (2021).
- Er ist Autor der bislang umfangreichsten ökonomisch-soziologischen Spekulation über eine Welt nach Whole Brain Emulation (The Age of Em, 2016).
- Er war Co-Blogger Eliezer Yudkowskys auf Overcoming Bias (2006–2009) und Hauptgegner der starken Foom-Thesen Yudkowskys in der zwischen 2008 und 2013 geführten AI-Foom Debate.
Hansons Werk ist innerhalb der Rationalisten- und EA-Community überaus einflussreich und zugleich Gegenstand wiederkehrender Kontroversen – insbesondere wegen einer Reihe blogpublizistischer Beiträge zu gender- und ressourcenpolitischen Themen, die ab etwa 2018 für nachhaltige Aufmerksamkeit gesorgt haben.
Zusammenfassung
Hansons intellektuelles Profil ist durch eine ungewöhnliche disziplinäre Wanderung geprägt: Ingenieurwissenschaften, Physik, Informatik (neun Jahre KI-Forschung bei Lockheed und NASA) und schließlich Sozialwissenschaft / Ökonomie.
Aus dieser Bahn folgt ein Werk, das zwischen formaler Modellbildung, institutionellem Design, Futurologie und gesellschaftstheoretischer Spekulation oszilliert.
Seine wichtigsten Beiträge liegen in vier Bereichen:
- der Theorie und Implementierung von Vorhersagemärkten;
- der konsequenten Anwendung ökonomischer Modellierung auf futurologische Fragen (Brain Emulation, Singularität, Alien-Statistik);
- einer Signal-Theorie menschlichen Verhaltens (The Elephant in the Brain, 2018);
- einem genuin idiosynkratischen Stil öffentlicher Theorieproduktion, der ihm 1100 Medienauftritte, 400 eingeladene Vorträge, rund 5.000 akademische Zitationen, eine h-Index-Wertung von 35, über 90 Aufsätze in Fachzeitschriften sowie einen Blog (Overcoming Bias, seit 2006) mit über acht Millionen Aufrufen eingebracht hat.
Besonders bemerkenswert: Hanson ist der prominenteste innerhalb der Rationalisten-Community angesiedelte Skeptiker der Yudkowsky-Bostrom-Linie zur Frage existenzieller KI-Risiken aus einer Intelligence Explosion.
Biografie
Studium und frühe Karriere
Hanson studierte zunächst Ingenieurwissenschaften und schloss 1981 mit einem B.S. (mit physik-orientiertem Schwerpunkt) an der University of California, Irvine, ab. Es folgten zwei Master-Abschlüsse an der University of Chicago – ein M.S. in Physik (1984) und ein M.A. in Philosophie (1984).
Zwischen 1984 und 1993 arbeitete Hanson als research programmer bei der Lockheed Corporation und am NASA Ames Research Center; sein Schwerpunkt waren Bayes’sche Methoden in der KI-Forschung. In dieser Zeit (ab 1988) begann er auch, eigene Vorschläge zur Konstruktion von idea futures – Märkten für wissenschaftliche und politische Vorhersagen – zu entwickeln.
1993 begann Hanson ein Promotionsstudium am California Institute of Technology, das er 1997 mit einem Ph.D. in Social Science abschloss. Es folgten zwei Jahre als Postdoctoral Researcher an der UC Berkeley (1997–1999) und der Wechsel an die George Mason University (Fairfax, Virginia, USA), an der er seither lehrt – bis heute als Associate Professor.
Hanson ist nicht in den Rang eines Full Professor aufgestiegen; in der Sekundärliteratur ist verschiedentlich darauf hingewiesen worden, dass sein Diskursstil und seine wissenschaftliche Heterodoxie für diese institutionelle Stellung mitverantwortlich sein könnten.
Future of Humanity Institute
Hanson war von etwa 2010 bis zur Schließung der Institution im April 2024 Research Associate am Future of Humanity Institute der University of Oxford. Diese Affiliation verband ihn institutionell mit Nick Bostrom und der akademischen Existential-Risk-Forschung; in der Sache vertrat Hanson allerdings – gegen die FHI-Mehrheitslinie – eine deutlich technikoptimistischere Position zu KI-Risiken.
Overcoming Bias und LessWrong
Ab November 2006 betrieb Hanson gemeinsam mit Eliezer Yudkowsky und mit gelegentlichen Beiträgen weiterer Autor:innen das Gruppenblog Overcoming Bias. Aus dieser Plattform entstand 2009 die eigenständige Plattform LessWrong; Overcoming Bias wird seit 2009 von Hanson allein fortgeführt.
Der Blog hat heute über acht Millionen Aufrufe erreicht und gilt als eine der einflussreichsten Plattformen heterodoxer ökonomischer und sozialwissenschaftlicher Spekulation.
Werk
Vorhersagemärkte und Futarchy
Hansons zentraler ökonomischer Beitrag liegt in der Theorie und Praxis von prediction markets (Vorhersagemärkten).
Ab 1988 hat er als erster systematisch ausgearbeitet, wie Märkte zur Aggregation verstreuter Information über zukünftige Ereignisse konstruiert und subventioniert werden können. Wichtige praktische Realisierungen: – Internes Vorhersagemarktsystem bei der Firma Xanadu (1990).
- Foresight Exchange (FX, ab 1994), der erste webbasierte Vorhersagemarkt. – Policy Analysis Market (PAM) der DARPA (2001–2003), der wegen einer öffentlichen Kontroverse um sogenannte „Terror-Futures” 2003 vom US-Senat geschlossen wurde. – DAGGRE (2010–2014) und SCICAST (2014–2015), kombinatorische Vorhersagemärkte für die Intelligence Advanced Research Projects Activity (IARPA).
Auf theoretischer Ebene entwickelte Hanson die Logarithmic Market Scoring Rule (LMSR), eine automatische Marktmacher-Regel, die heute Industriestandard ist und in nahezu allen kommerziellen Vorhersagemärkten (Augur, Polymarket, Manifold Markets u. a.) verwendet wird.
Aus diesen Arbeiten erwuchs der Vorschlag eines Regierungssystems, das Hanson futarchy nennt: „vote on values, but bet on beliefs” – Wähler:innen entscheiden über gesellschaftliche Werte und Ziele, Vorhersagemärkte entscheiden über die zur Zielerreichung am besten geeigneten Maßnahmen. Der Vorschlag wurde insbesondere von Vitalik Buterin (Ethereum) und in Teilen der Liquid-Democracy-Diskussion aufgegriffen.
Der Great Filter
In dem 1996 erstmals veröffentlichten Aufsatz The Great Filter – Are We Almost Past It? (überarbeitet 1998) wendet Hanson eine Bayes’sche Argumentationsfigur auf das Fermi-Paradoxon an. Wenn intelligentes Leben im Universum häufig entstehen sollte, das Universum aber „still” erscheint, dann muss zwischen der Entstehung einfachen Lebens und der Konstruktion einer interstellar sichtbaren Zivilisation mindestens eine sehr restriktive Filterstufe liegen.
Die zentrale Pointe lautet: Wenn dieser Filter hinter uns liegt (z. B. in der Entstehung von Eukaryoten oder Mehrzelligkeit), sind wir aussichtsreich; wenn er vor uns liegt, sind die Aussichten ungünstig. Der Begriff Great Filter ist seither in der astrobiologischen, futurologischen und existential-risk-Literatur fest etabliert.
Grabby Aliens (2021)
Im Februar 2021 publizierte Hanson gemeinsam mit Daniel Martin, Calvin McCarter und Jonathan Paulson das Grabby Aliens-Modell (arXiv: 2102.01522). Es unterscheidet zwischen quiet aliens (kaum sichtbar, möglicherweise zahlreich) und grabby aliens / loud aliens (expansive, prinzipiell sichtbare Zivilisationen, die ihre Hubble-Volumen zunehmend besetzen).
Das Modell erklärt, warum wir scheinbar früh in der Geschichte des Universums entstanden sind: Wenn grabby Zivilisationen das Universum sukzessive füllen, dann müssen Beobachter, die wie wir noch leere Hubble-Volumen sehen, frühzeitig vor der Sättigung entstanden sein. Das Modell hat in der Astrobiologie, der theoretischen Kosmologie und der populären Wissenschaftskommunikation breite Resonanz gefunden.
The Age of Em (2016)
In The Age of Em: Work, Love and Life When Robots Rule the Earth (Oxford University Press 2016) entwickelt Hanson eine über 400-seitige ökonomisch-soziologische Spekulation. Sie beschreibt eine Welt, in der die Technologie der Whole Brain Emulation vor anderen Formen künstlicher Allgemeinintelligenz reif wird.
Die zentralen Modellannahmen:
- Ems (digitale Emulationen menschlicher Gehirne) können kopiert, gespeichert, schneller oder langsamer ausgeführt und temporär oder dauerhaft beendet werden.
- Sie organisieren sich in clans der von einer ursprünglichen biologischen Person abstammenden Emulationen.
- Sie konkurrieren auf einem hochkompetitiven Em-Arbeitsmarkt, in dem die Lohnspanne nahe dem Subsistenzminimum liegt.
Hansons Methode ist konsequent ökonomisch: Aus wenigen Grundannahmen leitet er detaillierte Vorhersagen zu Familienstrukturen, Geschlechterordnung, Arbeitsorganisation, Stadtgeographie, Wirtschaftswachstum und Religion einer Em-Welt ab. Das Buch ist als Tour de Force Konsistenz weithin gewürdigt – und zugleich für seine spekulative Reichweite vielfach kritisiert worden.
The Elephant in the Brain (2018)
In The Elephant in the Brain: Hidden Motives in Everyday Life (Oxford University Press 2018, gemeinsam mit Kevin Simler) entwickelt Hanson eine umfassende Signal- und Verdeckungstheorie menschlichen Verhaltens. Viele zentrale soziale Praktiken (Bildung, Medizin, Religion, Kunst, politische Diskussion, Wohltätigkeit, Sprache, Lachen) seien demnach primär nicht durch ihre offiziellen Funktionen, sondern durch verdeckte Signal- und Statusmotive erklärt.
Die These steht in der Tradition der evolutionären Psychologie und Tribalsignal-Theorie (Robert Trivers, Geoffrey Miller, Joseph Henrich) und wird von Hanson und Simler über ein breites empirisches Material entwickelt. Das Buch hat erheblichen Niederschlag in der Behavioral-Economics-Diskussion und in der EA-Community gefunden.
Die Hanson-Yudkowsky AI-Foom Debate (2008–2013)
Zwischen 2008 und 2013 führten Hanson und Yudkowsky auf Overcoming Bias eine lange öffentliche Auseinandersetzung über die These einer Intelligence Explosion bzw. eines Foom (Yudkowskys Begriff für ein rasches, lokal konzentriertes Aufstiegsereignis einer KI in den Superintelligenz-Bereich).
Hansons Gegenposition: Wirtschaftliches und technologisches Wachstum verläuft empirisch über breite, distribuierte, marktvermittelte Prozesse mit erheblichen Skalierungs- und Spezialisierungsanteilen; eine lokal-isolierte, autonome Intelligenzexplosion sei aus mikroökonomischen Gründen unwahrscheinlich.
Die Debatte ist 2013 vom Machine Intelligence Research Institute (MIRI) als Sammelband (The Hanson-Yudkowsky AI-Foom Debate) zusammengefasst worden und gilt als der prominenteste innere Streit der frühen Rationalisten-Community.
Stil und öffentliches Profil
Hansons öffentlicher Stil ist durch eine konsequent ökonomisch-kalkülhafte Argumentationsweise auf nahezu jedes Thema gekennzeichnet, in Verbindung mit einer ausgeprägten Vorliebe für kontraintuitive Vorschläge.
Bryan Caplan, Hansons Kollege an der George Mason University, hat dies in einem viel zitierten Bonmot festgehalten. Während er bei der typischen Kollegenforschung mit „Eh, vielleicht” reagiere, sei seine Standardreaktion auf Hansons Vorschläge *„No way! Impossible!“* – gefolgt davon, dass er anschließend „jahrelang” darüber nachdenke.
Hansons Themenpalette umfasst Gesundheitsökonomie (die These, dass Gesundheitsausgaben in den USA nahezu keine messbaren Gesundheitseffekte haben – Cut Medicine in Half, 2007), Politiktheorie (futarchy, Governance by Jury), evolutionäre Soziologie, Kosmologie, Theorie sozialer Bewegungen, Wissenschaftssoziologie und vieles weitere.
Die Konsequenz seiner ökonomischen Heuristik führt ihn regelmäßig in Themengebiete, die sonst in dieser Methodik nicht behandelt werden.
Rezeption und Kontroversen
Wissenschaftliche Anerkennung
Hansons Werk ist innerhalb der heterodoxen Ökonomie, der Theorie institutionellen Designs, der Behavioral Economics und der futurologischen Forschung gut etabliert.
The Age of Em wurde unter anderem von The Economist, Financial Times, New York Times und Foreign Affairs rezensiert; The Elephant in the Brain erreichte den New York Times-Bestsellerstatus. Die LMSR ist in der Mechanism-Design-Literatur ein Standardergebnis. Das Grabby Aliens-Modell ist in der astrobiologischen Sekundärliteratur kontrovers, aber breit diskutiert.
DARPA Policy Analysis Market (2003)
Der 2001 begonnene DARPA-Vorhersagemarkt, an dem Hanson maßgeblich beteiligt war, wurde 2003 nach öffentlicher Kritik durch die US-Senatoren Ron Wyden und Byron Dorgan eingestellt – diese hatten argumentiert, der Markt ermögliche eine moralisch problematische Wettstruktur über zukünftige Terroranschläge und politische Attentate.
Hanson und seine Mitautor:innen haben in einer Reihe von Beiträgen (insbesondere The Real Story of the Policy Analysis Market, 2003) erwidert, die Berichterstattung sei verzerrt gewesen; gleichwohl ist das Programm beendet worden.
Blog-Kontroversen ab 2018
Ab 2018 ist Hanson wiederholt Gegenstand öffentlicher Kontroverse geworden, ausgelöst durch eine Reihe von Overcoming Bias-Beiträgen zu gender-, ressourcenpolitischen und sozialpsychologischen Themen.
Mehrere Beiträge – unter anderem 2018 zur Frage, ob ökonomische Argumente zur Umverteilung von Einkommen analog auf andere knappe soziale Güter angewendet werden könnten – wurden in akademischen, journalistischen und Aktivismus-Kontexten als problematisch kritisiert.
Die EA Munich-Diskussion 2020 (die Frage, ob Hanson zu einer EA-Veranstaltung in München eingeladen werden solle, und der nachfolgende Diskurs auf dem EA Forum) ist eine repräsentative Episode dieser Auseinandersetzung.
Hanson hat seine Beiträge in mehreren Folgepostings verteidigt und seine Methodik (provokante hypothetische Argumentation als Mittel der Theorie-Bildung) erläutert; Kritiker:innen haben dies wiederum als unzureichende Erklärung zurückgewiesen.
Die EA Forum-Auseinandersetzung über die Munich-Episode ist als Lehrstück über die Spannungen zwischen den methodischen Konventionen der Rationalisten-Community (kalkülhafte hypothetische Argumentation als legitime Theoriebildung) und den Konventionen breiterer Diskurskontexte (öffentlicher Vorschlag als implizit politisches Statement) ausführlich kommentiert worden.
Position innerhalb der KI-Sicherheitsdebatte
Hanson steht im KI-Sicherheitsdiskurs in einer eigentümlichen Mittelposition: Er ist eng mit der Rationalisten-Community verbunden, vertritt aber substantiell andere Positionen als deren Mainstream (Yudkowsky, Bostrom).
Konkret: Er hält ein Foom-Szenario aus mikroökonomischen Gründen für unwahrscheinlich, hält die Orthogonality Thesis in ihrer starken Form für argumentationslogisch unzureichend gestützt und hält die Instrumental Convergence Thesis in ihrer x-risk-relevanten Form für überdehnt.
Hanson erwartet stattdessen – wie in Age of Em skizziert – eine schrittweise, marktvermittelte Transformation, in der KI- und Em-Systeme ökonomische Akteure neben Menschen werden. Sein KI-spezifischer Aufsatz What Are Reasonable AI Fears? (2023) systematisiert diese Position.
Distanz zur Doomer-Tradition
Hanson hat öffentlich klargemacht, dass er nicht zur klassischen Doomer-Tradition gehört, ohne deren Argumentationsapparat pauschal zurückzuweisen. Er hat damit eine Rolle als prominenter innerer Kritiker der x-risk-Argumentation eingenommen, dessen Einwände in der Sache ernster genommen werden als die ideologiekritischen Einwände aus der TESCREAL-Tradition – gerade weil sie aus derselben Tradition stammen.
Verwandte Begriffe
- Prediction Markets – sein zentraler praktischer Beitrag
- Logarithmic Market Scoring Rule (LMSR) – von ihm entwickelter Algorithmus
- Futarchy – sein governance-theoretischer Vorschlag
- Grabby Aliens – sein kosmologisches Modell (2021)
- George Mason University – institutionelle Verankerung
Quellenangaben
- Aaronson, Scott (2021): Grabby Aliens. In: Shtetl-Optimized, 7. März 2021.
- Caplan, Bryan (2016): The Age of Em: A Review. In: EconLog, 1. Juni 2016.
- Gebru, Timnit / Torres, Émile P., 2024. The TESCREAL Bundle: Eugenics and the Promise of Utopia through Artificial General Intelligence. In: First Monday 29 (4). DOI: 10.5210/fm.v29i4.13636.
- Hanson, Robin, 2016. The Age of Em: Work, Love, and Life when Robots Rule the Earth.
- Hanson, Robin (1998): The Great Filter – Are We Almost Past It? Manuskript, George Mason University.
- Hanson, Robin / Martin, Daniel / McCarter, Calvin / Paulson, Jonathan (2021): If Loud Aliens Explain Human Earliness, Quiet Aliens Are Also Rare. In: The Astrophysical Journal 922 (2). arXiv: 2102.01522. DOI: 10.3847/1538-4357/ac2369.
- Hanson, Robin (2003): Combinatorial Information Market Design. In: Information Systems Frontiers 5 (1), S. 107–119. DOI: 10.1023/A:1022058209073.
- Hanson, Robin (2007): Logarithmic Market Scoring Rules for Modular Combinatorial Information Aggregation. In: Journal of Prediction Markets 1 (1), S. 3–15.
- Hanson, Robin (2013): Shall We Vote on Values, But Bet on Beliefs? In: Journal of Political Philosophy 21 (2), S. 151–178. DOI: 10.1111/jopp.12008.
- Hanson, Robin / Yudkowsky, Eliezer, 2013. The Hanson-Yudkowsky AI-Foom Debate.
- Hanson, Robin (2023): What Are Reasonable AI Fears? In: Quillette, 23. April 2023.
- Hanson, Robin (2007): Cut Medicine in Half. In: Overcoming Bias, 11. September 2007.
- Hanson, Robin / Berg, Joyce / Forsythe, Robert / Nelson, Forrest / Rietz, Thomas (2008): Results from a Dozen Years of Election Futures Markets Research. In: Plott, Charles / Smith, Vernon (Hrsg.): Handbook of Experimental Economics Results. Amsterdam: Elsevier, S. 742–751.
- Hanson, Robin (2014): What Will It Be Like to Be an Emulation?
- Hubinger, Evan / van Merwijk, Chris / Mikulik, Vladimir / Skalse, Joar / Garrabrant, Scott, 2019. Risks from Learned Optimization in Advanced Machine Learning Systems. Machine Intelligence Research Institute. arXiv: 1906.01820.
- Sandberg, Anders / Bostrom, Nick, 2008. Whole Brain Emulation: A Roadmap. Future of Humanity Institute, Oxford University, Technical Report 2008-3.
- Simler, Kevin / Hanson, Robin (2018): The Elephant in the Brain: Hidden Motives in Everyday Life.