Overcoming Bias ist ein englischsprachiges Blog zur menschlichen Rationalität, das im November 2006 entstand. Es wurde von dem Ökonomen Robin Hanson und dem KI-Forscher Eliezer Yudkowsky getragen und ist die unmittelbare Keimzelle der heutigen Rationalisten-Community.
Zusammenfassung
Overcoming Bias versammelte Beiträge über kognitive Verzerrungen, Bayesianisches Schließen und vernünftiges Entscheiden unter Unsicherheit. Dort schrieb Yudkowsky zwischen 2006 und 2009 die Aufsatzreihe, die später als The Sequences bekannt wurde.
Im Februar 2009 gingen diese Texte als Startbestand auf das neue Community-Blog LessWrong über; Overcoming Bias wurde danach zu Hansons persönlichem Blog.
Damit ist der Ort doppeltes Fundament. Er ist die Wurzel der heutigen Rationalisten-Community und zugleich das gemeinsame Frühwerk zweier Denker, die später als Gegenspieler in der Debatte um selbstverbessernde KI auftraten.
Begriffsgeschichte
Overcoming Bias startete im November 2006 als Gruppenblog. Neben Hanson, der an der George-Mason-Universität lehrte, und Yudkowsky vom Singularity Institute for Artificial Intelligence schrieben weitere Autor:innen. Die Frage, der sich der Ort verschrieb, war eine alte der Aufklärung in neuer Form: Wie denken Menschen systematisch falsch, und wie lässt sich das korrigieren?
Der Titel benannte das Vorhaben direkt. Eine Verzerrung (bias) ist hier nicht das Vorurteil im moralischen Sinn, sondern die nachweisbare, messbare Abweichung vernünftigen Denkens – das Forschungsgebiet, das Daniel Kahneman und Amos Tversky seit den 1970er Jahren aufgebaut hatten. Das Blog wollte deren Befunde in eine praktische Denklehre überführen.
Yudkowsky trug in dieser Zeit seine Beitragsreihe zusammen, die später unter dem Titel The Sequences kanonisiert wurde. Sie verband kognitive Psychologie, Wahrscheinlichkeitstheorie und Überlegungen zu künstlicher Intelligenz. Diese Texte zogen eine wachsende Leserschaft an und bildeten den Kernbestand, aus dem im Februar 2009 die Plattform LessWrong hervorging.
Nach der Abspaltung wandelte sich Overcoming Bias zu Hansons eigenem Blog. Yudkowsky verlagerte seine Aktivität auf LessWrong. Hanson hingegen schreibt dort weiter – zu Signalgebung, Vorhersagemärkten, den Themen, die später zu seinem Buch The Age of Em führten, sowie zu Fragen, die auch den Great Filter berühren.
Themen und Wirkung
Die frühen Beiträge kreisten um kognitive Verzerrungen im Gefolge von Kahneman und Tversky. Bayesianisches Schließen wurde als Werkzeug alltäglichen Denkens vorgestellt: Wie ändert eine neue Beobachtung eine bestehende Einschätzung?
Dazu kamen Yudkowskys Überlegungen zu KI-Sicherheit – sein Konzept einer kohärent extrapolierten Volition hatte er bereits 2004 skizziert, zwei Jahre vor Gründung des Blogs, und vertiefte es hier weiter – sowie Hansons wirtschaftssoziologische Themen: Signale, Status, versteckte Motive.
Die Wirkung des Blogs ging weit über seine Leserschaft hinaus. LessWrong wurde zum Zentrum einer eigenen Gemeinschaft, die eng mit dem Effektiven Altruismus und der KI-Sicherheitsforschung verzahnt ist. Über diese Community erreichten Ideen aus dem Umkreis von Overcoming Bias die spätere Alignment-Debatte. Eine Reihe später bekannter Forscher:innen las dort zuerst; einige traten der umliegenden Szene als Jugendliche bei.
Einordnung
Overcoming Bias ist der selten zitierte, aber vorgeschobene Teil der Rationalisten-Geschichte. LessWrong trat sein Erbe an; Yudkowsky wurde die öffentliche Stimme der KI-Risikosorge; Hanson wurde der eigenwillige Außenseiter, dessen Thesen – von der Wirtschaft der Emulationen bis zum radikalen Sparen für die Zukunft – die Community regelmäßig spalten.
Die Gemeinsamkeit beider, das Programm eines geschärften Vernunftgebrauchs, hat ihren Ursprung in diesem Blog.
Kritik
Die Kritik an Overcoming Bias ist weitgehend die Kritik an der Gemeinschaft, die daraus hervorging. Die Rationalisten-Bewegung, die hier ihren Anfang nahm, wird seit den 2020er Jahren als Teil des sogenannten TESCREAL-Bündels diskutiert – eines Zusammenschlusses aus Transhumanismus, Singularitarismus und Effektivem Altruismus, dem technokratische und elitäre Züge vorgeworfen werden.
Auch das Gedankenexperiment der Pascalschen Erpressung, das Yudkowsky in diesem Umfeld prägte, blieb nicht ohne Widerspruch. Solche Einwände treffen die späteren Foren und Organisationen jedoch direkter als das Blog selbst, das im Wesentlichen ein Textarchiv des Frühwerks geblieben ist.
Verwandte Begriffe
- Eliezer Yudkowsky – Mitgründer, Autor der Sequences
- LessWrong – die 2009 hervorgegangene Plattform
- Coherent Extrapolated Volition – Yudkowskys KI-Ethik-Entwurf, bereits 2004 skizziert
Quellenangaben
- Chivers, Tom, 2019. The AI Does Not Hate You: Superintelligence, Rationality and the Race to Save the World. Weidenfeld & Nicolson.
- Hanson, Robin / Yudkowsky, Eliezer, 2006 ff. Overcoming Bias. overcomingbias.com.
- Lewis-Kraus, Gideon, 2020. Slate Star Codex and Silicon Valley’s War Against the Media. In: The New Yorker, 9. Juli 2020.