Lexikon-Thema: Philosophie & Zukunft

Sparks of AGI ist der Microsoft-Aufsatz von 2023 über eine frühe GPT-4-Fassung: Vorgehen, These, benannte Grenzen und die gespaltene Rezeption.

Mindcrime bezeichnet nach Nick Bostrom moralisch problematische Rechenvorgänge einer Superintelligenz: vier Varianten, Voraussetzungen und deren Kritik.

ANI bezeichnet KI-Systeme für einen begrenzten Aufgabenbereich – der Normalfall heutiger Technik und die Abgrenzung, an der sich AGI-Behauptungen messen.

HLMI bezeichnet maschinelle Intelligenz auf menschlichem Niveau – der Begriff, mit dem Forscherbefragungen seit 2016 nach dem Eintrittszeitpunkt fragen.

Suffering Risks bezeichnen Szenarien astronomischen Leidens – die Gegenposition zur Auslöschungsfurcht, für die nicht das Ende das Schlimmste wäre.

ASI bezeichnet eine hypothetische KI, die menschliche Leistung in praktisch allen Domänen weit übertrifft – von Goods Intelligenzexplosion 1965 bis heute.

Astronomical Waste ist Bostroms Argument von 2003, dass jede Verzögerung technologischer Reife an Opportunitätskosten unfassbaren Ausmaßes zu messen sei.

Das Simulationsargument ist Bostroms Trilemma von 2003: Zivilisationen sterben früh aus, verzichten auf Ahnen-Simulationen – oder wir leben selbst in einer.

Posthumanismus stellt das humanistische Subjekt infrage – Abgrenzung zum Transhumanismus, Hayles, Braidotti, Barad und die Folgen für die KI-Debatte.

Effektiver Altruismus richtet Wohltun an messbarer Wirkung aus – von Giving What We Can 2009 über den FTX-Zusammenbruch bis zur Wendung zur KI-Sicherheit.