Die Hanson-Yudkowsky AI Foom Debate ist eine 2008 auf dem Blog Overcoming Bias geführte öffentliche Debatte zwischen dem Ökonomen Robin Hanson und dem Rationalisten-Denker Eliezer Yudkowsky, später um ein persönliches Streitgespräch von 2011 ergänzt.
Ihr Gegenstand war die Frage, ob eine Künstliche Intelligenz plötzlich und lokal oder allmählich und breit gestreut die menschliche Intelligenz überflügeln würde.
Zusammenfassung
Yudkowsky vertrat die Position eines harten Take-offs („Foom”): Sobald ein KI-System die Fähigkeit zur Verbesserung seiner eigenen Intelligenz erreicht, könne es durch rekursive Selbstverbesserung innerhalb kurzer Zeit – Tage oder Wochen statt Jahre – weit über menschliches Niveau hinauswachsen. Dabei gewinne es einen entscheidenden strategischen Vorsprung vor allen anderen Akteuren.
Hanson hielt dem ein Modell allmählicher, breit verteilter Diffusion entgegen: Technologischer Fortschritt vollziehe sich historisch fast immer graduell und über viele konkurrierende Akteure verteilt. Der Übergang zu fortgeschrittener KI werde deshalb eher einer kontinuierlichen ökonomischen Wachstumskurve als einer plötzlichen, lokal begrenzten Explosion gleichen.
Begriffsgeschichte
Die ursprüngliche Blog-Debatte fand 2008 statt; 2011 folgte ein persönliches Streitgespräch, das gemeinsam mit einer Zusammenfassung von Kaj Sotala und einem 2013 von Yudkowsky verfassten technischen Bericht zur Mikroökonomie einer Intelligenzexplosion in einem gemeinsamen Sammelband veröffentlicht wurde.
Methodische Grundlagen
Beide Seiten argumentierten primär mit historischen Analogien statt mit belastbaren empirischen Daten über tatsächliche KI-Systeme, da zum Zeitpunkt der Debatte keine hinreichend fortgeschrittenen Systeme existierten, an denen sich die konkurrierenden Modelle hätten prüfen lassen. Yudkowsky zog Parallelen zu evolutionären Sprüngen wie der Entstehung menschlicher Sprache, Hanson zu historischen Wachstumsschüben wie der industriellen Revolution.
Anwendungsfelder
Die in der Debatte aufgeworfene Frage nach der Geschwindigkeit eines KI-Take-offs bleibt bis heute zentral für die praktische KI-Sicherheitspolitik: Ein plötzlicher, lokal begrenzter Take-off würde andere Regulierungs- und Sicherheitsmaßnahmen erfordern als ein allmählicher, breit verteilter Übergang.
Bei einem allmählichen Übergang lassen sich Vorsichtsmaßnahmen schrittweise anpassen.
Kontroversen und Kritik
Beobachter:innen bewerten den Ausgang der Debatte bis heute unterschiedlich: Einige sehen in der bisherigen, eher graduellen und breit verteilten Entwicklung großer Sprachmodelle eine nachträgliche Bestätigung von Hansons Position.
Andere argumentieren, ein tatsächlicher Foom-artiger Sprung stehe möglicherweise erst noch bevor und lasse sich aus dem bisherigen Verlauf nicht ausschließen. Beide Seiten räumten in der Debatte selbst ein, dass sich die entscheidende Frage letztlich nicht abschließend im Voraus klären lasse.
Verwandte Begriffe
- Eliezer Yudkowsky – Vertreter der Position eines plötzlichen, lokalen Take-offs
- Overcoming Bias – Blog, auf dem die ursprüngliche Debatte 2008 stattfand
- Coherent Extrapolated Volition – Yudkowskys Konzept, das eng an seine Foom-Position anschließt
Quellenangaben
- Hanson, Robin / Yudkowsky, Eliezer, 2013. The Hanson-Yudkowsky AI-Foom Debate. Machine Intelligence Research Institute.