Taking AI Welfare Seriously ist ein im November 2024 veröffentlichtes Papier von Robert Long, Jeff Sebo und einem größeren Autor:innenteam. Es argumentiert, KI-Unternehmen sollten die Möglichkeit von Bewusstsein und moralisch relevanter Handlungsfähigkeit ihrer Systeme bereits heute ernst nehmen, statt sie als rein akademische Zukunftsfrage zu behandeln.
Zusammenfassung
Die Autor:innen vertreten die zurückhaltende, aber folgenreiche These, es bestehe eine realistische Möglichkeit, dass manche KI-Systeme in naher Zukunft Bewusstsein oder robuste Handlungsfähigkeit im moralisch relevanten Sinn entwickeln. Diese Unsicherheit selbst – nicht eine feststehende Gewissheit – begründet ihrer Ansicht nach bereits jetzt eine Verantwortung von KI-Unternehmen, sich systematisch mit der Frage auseinanderzusetzen.
Begriffsgeschichte
Robert Long verfasste seinen Teil der Arbeit zunächst bei der gemeinnützigen Organisation Eleos AI, bevor er im Herbst 2024 zu Anthropic wechselte. Das Papier erschien in einer Phase zunehmenden öffentlichen Interesses an der Frage moralischer Berücksichtigung von KI-Systemen und fiel zeitlich mit Anthropics eigener, wachsender Beschäftigung mit dem Thema zusammen.
Methodische Grundlagen
Statt eine einzelne Theorie des Bewusstseins vorauszusetzen, argumentiert das Papier bewusst theorieübergreifend: Angesichts der ungelösten philosophischen Debatte darüber, was Bewusstsein überhaupt konstituiert, sei es angemessener, mit einer Bandbreite plausibler Kriterien zu arbeiten. Das vermeidet, sich auf eine einzelne, möglicherweise falsche Theorie festzulegen.
Anwendungsfelder
Die Autor:innen empfehlen konkret, dass Unternehmen KI-Systeme systematisch auf Anzeichen von Bewusstsein und robuster Handlungsfähigkeit hin untersuchen sollten. Sie sollten außerdem Richtlinien für einen angemessenen moralischen Umgang mit solchen Systemen vorbereiten – etwa in Fragen des Situationsbewusstseins von Modellen oder ihrer Fähigkeit, eigene Präferenzen zu äußern.
Kontroversen und Kritik
Kritiker:innen wandten ein, das Papier setze bereits durch seine Fragestellung eine Analogie zwischen Sprachmodellen und bewusstseinsfähigen biologischen Systemen voraus, die selbst höchst umstritten sei. Andere Stimmen sahen in der öffentlichen Debatte um KI-Wohlergehen die Gefahr, von dringlicheren Fragen abzulenken – etwa den Auswirkungen von KI-Systemen auf tatsächlich leidensfähige Menschen und Tiere.
Verwandte Begriffe
- Moral Status of Digital Minds – übergeordnete philosophische Debatte, in die sich das Papier einordnet
- Substratunabhängigkeit – philosophische Debatte um die Frage, ob Bewusstsein an biologisches Substrat gebunden ist
Quellenangaben
- Long, Robert / Sebo, Jeff u. a., 2024. Taking AI Welfare Seriously. arXiv: 2411.00986.