AI Safety Levels (ASL) sind ein gestuftes Risikorahmenwerk, das Anthropic im September 2023 mit der ersten Fassung seiner Responsible Scaling Policy einführte. Es koppelt technische Sicherheitsmaßnahmen an das katastrophale Risikopotenzial eines Modells.
Zusammenfassung
Die Grundidee ist bei biologischen Laboren entlehnt: Die Biosafety Levels BSL-1 bis BSL-4 stufen den Umgang mit gefährlichem Material nach Risiko, und je höher die Stufe, desto strenger die Schutzmaßnahmen. ASL überträgt dieses Prinzip auf Sprachmodelle – nicht auf Belastung im Labor, sondern auf die Fähigkeit eines Modells, bei Biowaffen, Cyberangriffen oder autonomem Handeln gegen die Absicht seiner Entwickler zu helfen.
Anders als Belastungswerte bei Bakterien lässt sich das katastrophale Potenzial eines Sprachmodells nicht direkt messen. Anthropic ermittelt es über Capability-Evaluations vor jedem größeren Release.
Methodische Grundlagen – die Stufen
ASL-1 bezeichnet Systeme ohne bedeutsames katastrophales Risiko, etwa ein Schachprogramm oder ein Sprachmodell von 2018. ASL-2 erfasst Systeme mit ersten Anzeichen gefährlicher Fähigkeiten – etwa Anleitungen zu Biowaffen –, die aber nicht zuverlässiger sind als eine gewöhnliche Suchmaschine. Die meisten heutigen Claude-Modelle laufen unter diesem Standard.
ASL-3 gilt für Systeme, die katastrophalen Missbrauch gegenüber Nicht-KI-Baselines substanziell erleichtern, oder für Systeme mit ersten autonomen Fähigkeiten. Diese Stufe verlangt eine vierschichtige Deployment-Architektur aus Zugangskontrolle, Echtzeit-Klassifizierern, asynchronem Monitoring und schneller Reaktion auf erkannte Jailbreaks.
Dazu kommen über hundert technische Kontrollen zum Schutz der Modellgewichte. Claude Opus 4 war am 22. Mai 2025 das erste Modell, für das Anthropic diese ASL-3-Standards aktivierte.
ASL-4 und höhere Stufen blieben in der ursprünglichen Fassung bewusst unkonkret – zu weit entfernt von den damaligen Systemen. Mit Version 3.0 der Responsible Scaling Policy im Februar 2026 gab Anthropic das Mehrstufen-Vorausplanen ganz auf: Die Policy definiert seither nur noch Maßnahmen für die jeweils nächste Stufe.
Konkrete ASL-4-Standards wurden aus dem Dokument gestrichen, an ihre Stelle traten Fähigkeitsschwellenwerte wie „AI R&D-4” sowie periodische Risk Reports.
Anwendungsfelder
Vor jedem größeren Modell-Release führt Anthropic sechsmonatige Capability-Evaluations durch, ergänzt durch externe Red-Team-Partnerschaften. Elicitation-Techniken wie Chain-of-Thought-Prompting oder Best-of-N-Sampling sollen dabei versteckte gefährliche Fähigkeiten aufdecken, bevor ein Modell öffentlich zugänglich wird. Das Ergebnis entscheidet, welche ASL-Standards vor der Veröffentlichung greifen müssen.
Kontroversen und Kritik
ASL bleibt ein freiwilliges, unternehmensinternes Commitment ohne externe Rechtsverbindlichkeit. Anthropic setzt die Schwellenwerte selbst, bewertet den eigenen Fortschritt selbst und entscheidet auch über Redaktionen in seinen Risk Reports – eine unabhängige Kontrollinstanz fehlt. Kritiker:innen wie GovAI bezeichnen vergleichbare Frameworks pointiert als „nicht mehr als eine PDF-Datei”.
Die Neufassung vom Februar 2026 verschärfte diese Kritik: Der Wegfall konkreter ASL-4-Standards und früherer Pause-Zusagen bei fehlenden Schutzmaßnahmen wurde im Effective-Altruism-Forum als stilles Zurückrudern gewertet.
OpenAI nennt sein Pendant bewusst „Preparedness Framework” statt Responsible Scaling Policy, weil Fähigkeitssprünge dort auch ohne Skalierungssprung auftreten können; Google DeepMind hat mit dem Frontier Safety Framework ein strukturell ähnliches, ebenso freiwilliges Modell. Alle drei Rahmenwerke gelten als laborspezifische Selbstverpflichtungen, die Drittanbieter nicht binden.
Stand 2026
Die Responsible Scaling Policy wurde seit 2023 mehrfach überarbeitet, zuletzt mit Version 3.4 im Juli 2026, die unter anderem den Schwellenwert für automatisierte KI-Forschung und -Entwicklung anpasste. Ein formaler ASL-4-Status wurde bislang bei keinem veröffentlichten Modell ausgelöst; Claude Opus 4.6 überschritt laut Anthropics eigener System Card vom Februar 2026 den „AI R&D-4”-Schwellenwert nicht.
Verwandte Begriffe
- Dario Amodei – Anthropic-CEO, der das Rahmenwerk mitverantwortet
- Frontier Models – die Systemklasse, für die ASL entwickelt wurde
- Red-Teaming – Methode zur Ermittlung der Einstufung
- Center for AI Safety – verwandte Institution der Sicherheitsdebatte
Quellenangaben
- Anthropic, 2023. Anthropic’s Responsible Scaling Policy. anthropic.com, September 2023, mehrfach aktualisiert 2024/2025.
- Anthropic, 2025. Activating AI Safety Level 3 Protections. anthropic.com, 22. Mai 2025.
- Anthropic, 2026. Anthropic’s Responsible Scaling Policy (Version 3.0). anthropic.com, 24. Februar 2026.
- Anthropic, 2026. Claude Opus 4.6 System Card. anthropic.com, Februar 2026.
- Governance.ai, 2026. Anthropic’s RSP v3.0: How it Works, What’s Changed, and Some Reflections. governance.ai, 2026.
- Effective Altruism Forum, 2026. Anthropic is Quietly Backpedalling on its Safety Commitments. forum.effectivealtruism.org, 2026.