Pause Giant AI Experiments: An Open Letter ist ein im März 2023 vom Future of Life Institute veröffentlichter offener Brief. Er forderte alle KI-Labore zu einer mindestens sechsmonatigen Pause im Training von Systemen auf, die leistungsfähiger als GPT-4 sind.
Zusammenfassung
Der Brief warnte vor KI-generierter Propaganda, extremer Automatisierung von Arbeitsplätzen, dem Verlust menschlicher Bedeutsamkeit gegenüber immer leistungsfähigeren Systemen und einem gesellschaftsweiten Kontrollverlust. Er forderte, die Trainingspause öffentlich überprüfbar zu gestalten und in dieser Zeit gemeinsame Sicherheitsprotokolle für fortgeschrittene KI-Entwicklung zu erarbeiten.
Begriffsgeschichte
Der Brief erschien kurz nach der Veröffentlichung von GPT-4 im März 2023, in einer Phase raschen öffentlichen Interesses an den Fähigkeiten und Risiken großer Sprachmodelle. Zu den über 30.000 Unterzeichnenden (Future of Life Institute 2023) zählten akademische KI-Forscher:innen wie Yoshua Bengio und Stuart Russell ebenso wie prominente Technologieunternehmer wie Elon Musk und Steve Wozniak.
Anwendungsfelder
Auch wenn die geforderte Trainingspause nie umgesetzt wurde, wird dem Brief zugeschrieben, das politische Interesse an KI-Regulierung deutlich beschleunigt zu haben: In den folgenden Monaten und Jahren intensivierten mehrere Regierungen ihre Bemühungen um verbindliche KI-Sicherheitsrahmenwerke.
Kontroversen und Kritik
Kritiker:innen bemängelten von Beginn an, ein freiwilliger, unverbindlicher Aufruf ohne Durchsetzungsmechanismus werde die adressierten Unternehmen im globalen Wettbewerbsdruck kaum tatsächlich zur Pause bewegen – eine Einschätzung, die sich in der Praxis bestätigte.
Andere Stimmen warfen einigen prominenten Unterzeichnenden vor, selbst an konkurrierenden KI-Projekten zu arbeiten und den Aufruf strategisch zu nutzen, um Wettbewerber:innen auszubremsen. Zum einjährigen Jahrestag stellte das Future of Life Institute selbst fest, die adressierten Unternehmen hätten stattdessen ihre Investitionen in noch größere KI-Systeme massiv ausgeweitet.
Verwandte Begriffe
- Jaan Tallinn – Mitgründer des Future of Life Institute
- xAI – von Elon Musk, einem prominenten Unterzeichner, kurz nach dem Brief gegründetes KI-Unternehmen
Quellenangaben
- Future of Life Institute, 2023. Pause Giant AI Experiments: An Open Letter. 22. März 2023.