Die Responsible Scaling Policy (RSP, deutsch sinngemäß Richtlinie zur verantwortlichen Skalierung) ist ein von Anthropic im September 2023 veröffentlichtes Rahmenwerk, das Sicherheitsauflagen nicht an Modellgrößen oder Zeitpläne bindet, sondern an gemessene Fähigkeiten.
Der Kerngedanke kehrt die übliche Reihenfolge um. Statt ein Modell zu bauen und danach zu fragen, welche Vorkehrungen angemessen sind, legt die Richtlinie im Voraus fest, welche Fähigkeitsschwelle welche Schutzmaßnahme auslöst – und band in den früheren Fassungen die Weiterentwicklung daran, dass die Maßnahme steht. Die dritte Fassung von Februar 2026 baut diese Zusage um.
Die RSP war das erste Dokument dieser Art eines Frontier-Labs und wurde zur Vorlage für eine ganze Gattung.
In einfachen Worten
Eine Sicherheitsrichtlinie legt vorher fest, welche Vorkehrung eine bestimmte Fähigkeit auslöst. Ein Team baut ein System also nicht einfach und denkt danach über Vorsicht nach. Die Regel ordnet Systeme in Stufen ein, ähnlich wie in einem Labor. Je höher die Stufe, desto strenger die vorgeschriebenen Schutzmaßnahmen. Frühere Fassungen verlangten eine Pause. Sie galt, wenn ein System eine Stufe erreichte, bevor die passende Schutzmaßnahme stand. Die neue Fassung legt sich nicht mehr allein darauf fest. So soll Sicherheit feste Regeln haben, statt vom Zufall abzuhängen.
Zusammenfassung
Das Rahmenwerk ordnet Modelle in AI Safety Levels (ASL) ein, benannt in Anlehnung an die Biosicherheitsstufen der Laborforschung. Die Analogie ist bewusst gewählt: Auch dort richtet sich das Schutzniveau nach der Gefährlichkeit des Materials, nicht nach dem Forschungsziel.
ASL-1 bezeichnet Systeme ohne nennenswertes Risikopotenzial, ASL-2 die Modellklasse, in der frühe Frontier-Modelle eingeordnet wurden.
ASL-3 verlangt verschärfte Sicherheitsauflagen, wenn ein Modell bei der Beschaffung chemischer, biologischer, radiologischer oder nuklearer Waffen erheblich helfen kann, oder wenn es autonom Forschungsarbeit an KI-Systemen leistet. ASL-4 und höher sind bewusst offener beschrieben, weil die auslösenden Fähigkeiten noch nicht genau bestimmbar sind.
In den ersten Fassungen trugen zwei Verpflichtungen das Ganze. Erstens die Evaluierungspflicht: Vor jeder Freigabe wird geprüft, ob eine Schwelle überschritten ist. Zweitens die Anhaltezusage: Wird sie überschritten, bevor die zugehörigen Schutzmaßnahmen bestehen, wird die Weiterentwicklung ausgesetzt.
Im Oktober 2024 erschien eine überarbeitete Fassung, die von starren Stufen zu Capability Thresholds mit jeweils zugeordneten Required Safeguards überging und Zuständigkeiten schärfer benannte. Im Mai 2025 aktivierte Anthropic mit Claude Opus 4 erstmals die ASL-3-Schutzmaßnahmen.
Am 24. Februar 2026 trat Version 3.0 in Kraft, ein umfassender Neuentwurf. Die aktuelle Fassung ist Version 3.4 vom 8. Juli 2026. Was sich geändert hat, steht im Abschnitt zur dritten Fassung.
Begriffsgeschichte
Vorgeschichte
Die Idee, Sicherheitsauflagen an messbare Fähigkeitsschwellen statt an Vermutungen zu binden, entstand aus einer Verlegenheit der Alignment-Debatte: Die Forderung, mit der Skalierung aufzuhören, war politisch folgenlos, während die Gegenposition, alles laufen zu lassen, keine Grenze kannte. Ein Stufenmodell verschiebt den Streit von der Frage ob zur Frage wann und woran erkennbar.
Vorbild war das biologische Sicherheitsstufenmodell, das seit den 1970er Jahren regelt, welche Laborausstattung für welche Erregerklasse verlangt wird – nach der Konferenz von Asilomar, an die auch die KI-Debatte wiederholt angeknüpft hat.
Die erste Fassung (September 2023)
Anthropic veröffentlichte die RSP wenige Wochen nach den freiwilligen Selbstverpflichtungen führender KI-Unternehmen gegenüber dem Weißen Haus. Der Unterschied lag im Verbindlichkeitsgrad: Die RSP nannte konkrete Schwellen, benannte Schutzmaßnahmen und band beides an eine Entscheidungsregel.
Bemerkenswert ist eine Selbstbindung, die über Technik hinausgeht. Nach der aktuellen Fassung schlagen Geschäftsführer und Verantwortlicher für die Richtlinie Änderungen vor. Der Verwaltungsrat beschließt sie in Abstimmung mit dem Long-Term Benefit Trust, einem Gremium, das Anteile hält, aber nicht den Investoren verpflichtet ist.
Die Gattung entsteht (2023–2025)
Innerhalb von zwei Jahren folgten vergleichbare Dokumente: OpenAI legte im Dezember 2023 das Preparedness Framework vor, Google DeepMind im Mai 2024 das Frontier Safety Framework. Auf dem KI-Gipfel in Seoul im Mai 2024 sagten sechzehn Unternehmen zu, solche Rahmenwerke zu veröffentlichen.
Damit war ein Muster gesetzt: freiwillige, unternehmenseigene Selbstverpflichtung mit veröffentlichten Schwellen. Der EU AI Act und der General-Purpose AI Code of Practice haben Teile dieser Logik später in verbindliches Recht überführt.
Anwendung in der Praxis (ab 2025)
Mit Claude Opus 4 aktivierte Anthropic im Mai 2025 erstmals die ASL-3-Auflagen – nicht, weil die Schwelle nachweislich überschritten war, sondern weil sie sich nicht mehr sicher ausschließen ließ. Diese Umkehr der Beweislast ist der praktisch folgenreichste Zug des Rahmenwerks.
Die dritte Fassung (ab Februar 2026)
Anthropic begründet den Neuentwurf mit einem Kollektivhandlungsproblem: Das Gesamtrisiko hänge von den Handlungen mehrerer Entwickler ab, nicht von einem allein. Die frühere Fassung habe zugesagt, die eigenen Risiken unabhängig vom Verhalten anderer auf ein akzeptables Niveau zu senken. Hielte ein Entwickler an, während andere ohne starke Schutzmaßnahmen weitermachten, könne die Welt unsicherer werden.
Version 3.0 trennt deshalb zwei Dinge: Pläne, die Anthropic unabhängig vom Verhalten anderer umsetzen will, und weitergehende Empfehlungen für die gesamte Branche, die das Unternehmen allein nicht zusagt. Neu sind Frontier Safety Roadmaps, deren Ziele Anthropic als öffentlich erklärt, aber nicht als harte Verpflichtung beschreibt, und Risikoberichte, die alle drei bis sechs Monate erscheinen sollen.
Eine externe Prüfung der Berichte ist nur in bestimmten Fällen vorgesehen.
Die Ankündigung nennt außerdem ein politisches Umfeld, das Regulierung ablehnt, und Anforderungen höherer Stufen, die ein Unternehmen allein kaum erfüllen kann.
Die Bezeichnung AI Safety Levels bleibt für die derzeit eingehaltenen Schutzstufen bestehen. Für künftige Fähigkeitsstufen verlangt die Richtlinie statt fester Kontrolllisten ein begründetes Sicherheitsargument. Die aktuelle Fassung hält ausdrücklich fest, dass Anthropic auch ohne Vorgabe der Richtlinie frei bleibt, die Entwicklung anzuhalten.
Methodische Grundlagen
Fähigkeit statt Größe. Parameterzahl und Rechenaufwand sind schlechte Risikomaße, weil dieselbe Fähigkeit mit sehr unterschiedlichem Aufwand erreichbar ist. Die Kopplung an gemessenes Können ist der Kern.
Schwelle und Maßnahme getrennt. Das Dokument beschreibt beides einzeln: woran eine Fähigkeit erkannt wird, und was dann zu geschehen hat. Nur so lässt sich prüfen, ob eine Zusage eingehalten wurde.
Vorsorge bei Unsicherheit. Lässt sich nicht ausschließen, dass eine Schwelle erreicht ist, gelten die strengeren Auflagen. Der Nachweis der Unbedenklichkeit liegt beim Betreiber.
Sicherheit umfasst Diebstahlschutz. Ein erheblicher Teil der ASL-3-Anforderungen betrifft nicht das Modellverhalten, sondern die Absicherung der Gewichte gegen Entwendung. Ein Modell, dessen Schutzmaßnahmen sich durch Nachtraining entfernen lassen, ist nur so sicher wie der Server, auf dem es liegt.
Anwendungsfelder
Innerhalb der Unternehmen strukturiert das Rahmenwerk die Freigabeentscheidung: Evaluierung vor Auslieferung, dokumentierte Einordnung, benannte Verantwortliche. Nach außen dient es als Rechenschaftsgrundlage – veröffentlichte Zusagen lassen sich gegen späteres Verhalten halten.
Regulatorisch sind die Rahmenwerke zur Referenz geworden. Der Code of Practice zum EU AI Act greift ihre Begrifflichkeit auf, und Aufsichtsdiskussionen in mehreren Ländern nehmen die Schwellenlogik als Ausgangspunkt.
Kontroversen und Kritik
Selbstregulierung ohne Instanz. Das Unternehmen setzt die Schwellen, misst die Fähigkeiten, bewertet das Ergebnis und entscheidet über die Folgen. Es gibt keine externe Stelle, die eine Einstufung zurückweisen könnte. Aus Sicht der Kritik ist das kein Sicherheitsregime, sondern dessen Nachbildung.
Unschärfe der Schwellen. Formulierungen wie „erheblich helfen” oder „autonom Forschung leisten” sind ohne Messvorschrift nicht falsifizierbar. Wo die Grenze verläuft, entscheidet die Auslegung – und die liegt beim selben Akteur.
Änderbarkeit. Die Fassung von Oktober 2024 lockerte einzelne Formulierungen gegenüber der ersten. Beobachter werteten das teils als sachliche Präzisierung, teils als Beleg dafür, dass Selbstbindungen dem Wettbewerbsdruck nachgeben. Die dritte Fassung von 2026 ändert die Konstruktion selbst. Ob man das als Reifung oder als Lockerung liest, hängt davon ab, was man von dem Instrument erwartet.
Legitimationswirkung. Aus der Beschleunigungs-Kritik kommt der Einwand, solche Rahmenwerke verschafften der weiteren Skalierung ein Gütesiegel: Wer Stufen definiert, erklärt implizit alles darunter für unbedenklich.
Und der gegenteilige Einwand. Aus der x-risk-Linie wird umgekehrt kritisiert, das Verfahren setze voraus, dass gefährliche Fähigkeiten vor ihrem Auftreten benennbar und messbar sind – genau das ist bei sprunghaft auftretenden Fähigkeiten fraglich.
Verwandte Begriffe
- Frontier Models – die geregelte Modellklasse
- Agentic Misalignment – Belegtyp, an dem Schwellen festgemacht werden
- Red-Teaming – Verfahren der Fähigkeitsprüfung
- AI Alignment – übergeordnetes Feld
- Selbstverpflichtung (KI-Governance) – Oberbegriff für freiwillige Zusagen dieser Art
- Dario Amodei – Mitverantwortlicher der Programmatik
- Claude (Anthropic) – erste Anwendung der ASL-3-Stufe
Quellenangaben
- Anthropic, 2023. Anthropic’s Responsible Scaling Policy. anthropic.com, Versionsverlauf von Version 1.0 (19. September 2023) bis Version 3.4 (8. Juli 2026).
- Anthropic, 2024. Announcing Our Updated Responsible Scaling Policy. anthropic.com/news, 15. Oktober 2024.
- Anthropic, 2025. Activating ASL-3 Protections for Claude Opus 4. anthropic.com, Mai 2025.
- Europäische Kommission, 2025. General-Purpose AI Code of Practice. 10. Juli 2025. digital-strategy.ec.europa.eu.
- Anthropic, 2026. Responsible Scaling Policy, Version 3.0. anthropic.com, gültig ab 24. Februar 2026.
- Anthropic, 2026. Anthropic’s Responsible Scaling Policy: Version 3.0. anthropic.com/news, 24. Februar 2026.
- Google DeepMind, 2024. Introducing the Frontier Safety Framework. deepmind.google, 17. Mai 2024.
- OpenAI, 2023. Preparedness Framework (Beta). openai.com, 18. Dezember 2023.
- UK Government / Republic of Korea, 2024. Frontier AI Safety Commitments, AI Seoul Summit 2024. gov.uk, 21. Mai 2024.