Responsible Scaling Policy

Die Responsible Scaling Policy (RSP, deutsch sinngemäß Richtlinie zur verantwortlichen Skalierung) ist ein von Anthropic im September 2023 veröffentlichtes Rahmenwerk, das Sicherheitsauflagen nicht an Modellgrößen oder Zeitpläne bindet, sondern an gemessene Fähigkeiten.

Der Kerngedanke kehrt die übliche Reihenfolge um. Statt ein Modell zu bauen und danach zu fragen, welche Vorkehrungen angemessen sind, legt die Richtlinie im Voraus fest, welche Fähigkeitsschwelle welche Schutzmaßnahme auslöst – und verpflichtet das Unternehmen, die Entwicklung anzuhalten, solange die Maßnahme nicht steht.

Die RSP war das erste Dokument dieser Art eines Frontier-Labs und wurde zur Vorlage für eine ganze Gattung.

Zusammenfassung

Das Rahmenwerk ordnet Modelle in AI Safety Levels (ASL) ein, benannt in Anlehnung an die Biosicherheitsstufen der Laborforschung. Die Analogie ist bewusst gewählt: Auch dort richtet sich das Schutzniveau nach der Gefährlichkeit des Materials, nicht nach dem Forschungsziel.

ASL-1 bezeichnet Systeme ohne nennenswertes Risikopotenzial, ASL-2 die Modellklasse, in der frühe Frontier-Modelle eingeordnet wurden.

ASL-3 verlangt verschärfte Sicherheitsauflagen, wenn ein Modell bei der Beschaffung chemischer, biologischer, radiologischer oder nuklearer Waffen erheblich helfen kann, oder wenn es autonom Forschungsarbeit an KI-Systemen leistet. ASL-4 und höher sind bewusst offener beschrieben, weil die auslösenden Fähigkeiten noch nicht genau bestimmbar sind.

Zwei Verpflichtungen tragen das Ganze. Erstens die Evaluierungspflicht: Vor jeder Freigabe wird geprüft, ob eine Schwelle überschritten ist. Zweitens die Anhaltezusage: Wird sie überschritten, bevor die zugehörigen Schutzmaßnahmen bestehen, wird die Weiterentwicklung ausgesetzt.

Im Oktober 2024 erschien eine überarbeitete Fassung, die von starren Stufen zu Capability Thresholds mit jeweils zugeordneten Required Safeguards überging und Zuständigkeiten schärfer benannte. Im Mai 2025 aktivierte Anthropic mit Claude Opus 4 erstmals die ASL-3-Schutzmaßnahmen.

Begriffsgeschichte

Vorgeschichte

Die Idee, Sicherheitsauflagen an messbare Fähigkeitsschwellen statt an Vermutungen zu binden, entstand aus einer Verlegenheit der Alignment-Debatte: Die Forderung, mit der Skalierung aufzuhören, war politisch folgenlos, während die Gegenposition, alles laufen zu lassen, keine Grenze kannte. Ein Stufenmodell verschiebt den Streit von der Frage ob zur Frage wann und woran erkennbar.

Vorbild war das biologische Sicherheitsstufenmodell, das seit den 1970er Jahren regelt, welche Laborausstattung für welche Erregerklasse verlangt wird – nach der Konferenz von Asilomar, an die auch die KI-Debatte wiederholt angeknüpft hat.

Die erste Fassung (September 2023)

Anthropic veröffentlichte die RSP wenige Wochen nach den freiwilligen Selbstverpflichtungen führender KI-Unternehmen gegenüber dem Weißen Haus. Der Unterschied lag im Verbindlichkeitsgrad: Die RSP nannte konkrete Schwellen, benannte Schutzmaßnahmen und band beides an eine Entscheidungsregel.

Bemerkenswert ist eine Selbstbindung, die über Technik hinausgeht: Die Richtlinie kann nur mit Zustimmung des Long-Term Benefit Trust geändert werden, eines Gremiums, das Anteile hält, aber nicht den Investoren verpflichtet ist. Damit sollte verhindert werden, dass wirtschaftlicher Druck die Schwellen im Nachhinein verschiebt.

Die Gattung entsteht (2023–2025)

Innerhalb von zwei Jahren folgten vergleichbare Dokumente: OpenAI legte im Dezember 2023 das Preparedness Framework vor, Google DeepMind im Mai 2024 das Frontier Safety Framework. Auf dem KI-Gipfel in Seoul im Mai 2024 sagten sechzehn Unternehmen zu, solche Rahmenwerke zu veröffentlichen.

Damit war ein Muster gesetzt: freiwillige, unternehmenseigene Selbstverpflichtung mit veröffentlichten Schwellen. Der EU AI Act und der General-Purpose AI Code of Practice haben Teile dieser Logik später in verbindliches Recht überführt.

Anwendung in der Praxis (ab 2025)

Mit Claude Opus 4 aktivierte Anthropic im Mai 2025 erstmals die ASL-3-Auflagen – nicht, weil die Schwelle nachweislich überschritten war, sondern weil sie sich nicht mehr sicher ausschließen ließ. Diese Umkehr der Beweislast ist der praktisch folgenreichste Zug des Rahmenwerks.

Methodische Grundlagen

Fähigkeit statt Größe. Parameterzahl und Rechenaufwand sind schlechte Risikomaße, weil dieselbe Fähigkeit mit sehr unterschiedlichem Aufwand erreichbar ist. Die Kopplung an gemessenes Können ist der Kern.

Schwelle und Maßnahme getrennt. Das Dokument beschreibt beides einzeln: woran eine Fähigkeit erkannt wird, und was dann zu geschehen hat. Nur so lässt sich prüfen, ob eine Zusage eingehalten wurde.

Vorsorge bei Unsicherheit. Lässt sich nicht ausschließen, dass eine Schwelle erreicht ist, gelten die strengeren Auflagen. Der Nachweis der Unbedenklichkeit liegt beim Betreiber.

Sicherheit umfasst Diebstahlschutz. Ein erheblicher Teil der ASL-3-Anforderungen betrifft nicht das Modellverhalten, sondern die Absicherung der Gewichte gegen Entwendung. Ein Modell, dessen Schutzmaßnahmen sich durch Nachtraining entfernen lassen, ist nur so sicher wie der Server, auf dem es liegt.

Anwendungsfelder

Innerhalb der Unternehmen strukturiert das Rahmenwerk die Freigabeentscheidung: Evaluierung vor Auslieferung, dokumentierte Einordnung, benannte Verantwortliche. Nach außen dient es als Rechenschaftsgrundlage – veröffentlichte Zusagen lassen sich gegen späteres Verhalten halten.

Regulatorisch sind die Rahmenwerke zur Referenz geworden. Der Code of Practice zum EU AI Act greift ihre Begrifflichkeit auf, und Aufsichtsdiskussionen in mehreren Ländern nehmen die Schwellenlogik als Ausgangspunkt.

Kontroversen und Kritik

Selbstregulierung ohne Instanz. Das Unternehmen setzt die Schwellen, misst die Fähigkeiten, bewertet das Ergebnis und entscheidet über die Folgen. Es gibt keine externe Stelle, die eine Einstufung zurückweisen könnte. Aus Sicht der Kritik ist das kein Sicherheitsregime, sondern dessen Nachbildung.

Unschärfe der Schwellen. Formulierungen wie „erheblich helfen” oder „autonom Forschung leisten” sind ohne Messvorschrift nicht falsifizierbar. Wo die Grenze verläuft, entscheidet die Auslegung – und die liegt beim selben Akteur.

Änderbarkeit. Die Fassung von Oktober 2024 lockerte einzelne Formulierungen gegenüber der ersten. Beobachter werteten das teils als sachliche Präzisierung, teils als Beleg dafür, dass Selbstbindungen dem Wettbewerbsdruck nachgeben.

Legitimationswirkung. Aus der Beschleunigungs-Kritik kommt der Einwand, solche Rahmenwerke verschafften der weiteren Skalierung ein Gütesiegel: Wer Stufen definiert, erklärt implizit alles darunter für unbedenklich.

Und der gegenteilige Einwand. Aus der x-risk-Linie wird umgekehrt kritisiert, das Verfahren setze voraus, dass gefährliche Fähigkeiten vor ihrem Auftreten benennbar und messbar sind – genau das ist bei sprunghaft auftretenden Fähigkeiten fraglich.

Quellenangaben

Anthropic, 2023. Anthropic’s Responsible Scaling Policy. anthropic.com, September 2023, mehrfach aktualisiert 2024/2025.
Anthropic, 2024. Announcing Our Updated Responsible Scaling Policy. anthropic.com/news, 15. Oktober 2024.
Anthropic, 2025. Activating ASL-3 Protections for Claude Opus 4. anthropic.com, Mai 2025.
Europäische Kommission, 2025. General-Purpose AI Code of Practice. 10. Juli 2025. digital-strategy.ec.europa.eu.
Google DeepMind, 2024. Introducing the Frontier Safety Framework. deepmind.google, 17. Mai 2024.
OpenAI, 2023. Preparedness Framework (Beta). openai.com, 18. Dezember 2023.
UK Government / Republic of Korea, 2024. Frontier AI Safety Commitments, AI Seoul Summit 2024. gov.uk, 21. Mai 2024.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.