Frontier Models

Frontier Models (deutsch etwa Grenzmodelle) bezeichnet die jeweils leistungsfähigsten KI-Modelle einer Entwicklungsstufe – jene, die die Grenze des technisch Möglichen bilden und deren Fähigkeiten vor dem Training nicht vollständig absehbar sind. Der Begriff dient zugleich als regulatorische Kategorie.

Zusammenfassung

Der Ausdruck setzte sich 2023 durch. Anlass war ein regulatorisches Problem: Regelwerke brauchen eine Kategorie für jene Systeme, deren Risiken sich von denen gewöhnlicher Software unterscheiden – und diese Kategorie musste benannt werden.

Die maßgebliche Bestimmung stammt aus einer Arbeit vom Juli 2023: hochleistungsfähige Basismodelle, die gefährliche Fähigkeiten in einem Ausmaß besitzen könnten, das die öffentliche Sicherheit ernsthaft berührt.

Diese Bestimmung enthält eine Besonderheit. Sie stellt nicht auf nachgewiesene Fähigkeiten ab, sondern auf mögliche – weil sich vor dem Training nicht sagen lässt, was ein Modell können wird.

Der Begriff hat Eingang in Regelwerke gefunden, wo er meist über Schwellenwerte des Trainingsaufwands operationalisiert wird. Genau diese Übersetzung ist der Angriffspunkt der Kritik.

Begriffsgeschichte

Vor 2023 sprach man von großen Sprachmodellen oder von Foundation Models – Begriffe, die eine technische Bauform bezeichnen, keine Risikoklasse.

Mit der Veröffentlichung von GPT-4 im März 2023 verschob sich die Frage. Regulierungsvorhaben mussten bestimmen, worauf sich besondere Pflichten beziehen sollen, ohne jede Anwendung maschinellen Lernens zu erfassen.

Die Arbeit Frontier AI Regulation vom Juli 2023, verfasst von Beteiligten mehrerer Labore und Forschungseinrichtungen, lieferte die Bestimmung und die zugehörigen Vorschläge: Meldepflichten, Prüfungen vor der Veröffentlichung, Zugang für unabhängige Prüfstellen.

Der britische Gipfel in Bletchley Park im November 2023 trug den Begriff in die internationale Politik; die dort verabschiedete Erklärung verwendet ihn durchgehend.

Der EU AI Act wählte eine andere Bezeichnung – GPAI-Modelle mit systemischem Risiko –, folgt in der Sache aber derselben Logik und knüpft an einen Schwellenwert des Trainingsaufwands an.

Methodische Grundlagen

Grenze statt Eigenschaft. Der Begriff bezeichnet eine relative Position: Was heute an der Grenze liegt, ist in zwei Jahren Mittelmaß. Eine Liste von Frontier-Modellen veraltet daher fortlaufend.

Unvorhersehbarkeit als Merkmal. Der eigentliche Grund für eine eigene Kategorie ist nicht die Größe, sondern die Tatsache, dass sich die Fähigkeiten eines Modells vor seinem Training nicht bestimmen lassen.

Rechenleistung als Anknüpfungspunkt. Regelwerke verwenden Schwellenwerte des Trainingsaufwands, weil sich dieser zählen, dokumentieren und an physische Anlagen binden lässt – anders als Fähigkeit.

Prüfung gefährlicher Fähigkeiten. Die zugehörige Praxis prüft gezielt auf bestimmte Risiken: Unterstützung bei biologischen oder chemischen Waffen, Angriffsfähigkeiten in Netzwerken, selbstständige Vermehrung.

Abgestufte Verpflichtungen. Die Labore haben eigene Rahmenwerke veröffentlicht, die Maßnahmen an Fähigkeitsstufen binden – etwa Anthropics Responsible Scaling Policy.

Anwendungsfelder

Regulierung. Der Hauptzweck des Begriffs. Er trennt die Systeme, für die besondere Pflichten gelten sollen, von der übrigen Softwarelandschaft.

Selbstverpflichtungen. Die Rahmenwerke der Labore verwenden ihn, um den eigenen Prüfaufwand zu staffeln.

Internationale Abstimmung. Die Gipfelfolge seit Bletchley Park verhandelt Zuständigkeiten und Meldewege für genau diese Kategorie.

Fachdiskussion. Als Sammelbegriff für die Modelle, an denen sich der Stand der Technik ablesen lässt.

Kontroversen und Kritik

Rechenleistung misst nicht Fähigkeit. Der schwerwiegendste Einwand. Ein Schwellenwert erfasst den Aufwand, nicht das Können. Effizientere Verfahren erreichen dieselben Fähigkeiten unterhalb der Schwelle – und fallen damit aus der Regelung.

Schwellenwerte veralten. Was heute Frontier ist, wird in wenigen Jahren auf gewöhnlicher Hardware erreichbar. Ein fester Wert erfasst dann Modelle, für die er nicht gedacht war, oder verfehlt jene, für die er gedacht war.

Bevorzugung der Etablierten. Kritiker sehen im Begriff eine Form regulatorischer Vereinnahmung: Wer die Kategorie mitdefiniert, definiert zugleich, dass die eigenen Systeme die einzigen sind, die besondere Sorgfalt verlangen – und erschwert Neueintritten den Zugang.

Verdrängung gegenwärtiger Schäden. Aus der Richtung des AI Now Institute wird eingewandt, die Konzentration auf mögliche künftige Fähigkeiten lenke von belegten Schäden ab, die von Systemen weit unterhalb jeder Schwelle ausgehen.

Fehlende Prüfstandards. Was als gefährliche Fähigkeit gilt und wie sie zu messen ist, ist nicht standardisiert. Die Prüfungen finden überwiegend bei den Anbietern selbst statt.

Offene Modelle. Die Kategorie setzt voraus, dass ein Anbieter Zugriff und damit Verantwortung hat. Bei Modellen mit offenen Gewichten trifft das nach der Veröffentlichung nicht mehr zu.

Ein Begriff, der sich selbst verbraucht

Der Ausdruck hat eine Eigenschaft, die ihn für Regelwerke schlecht geeignet macht: Er bezeichnet keine Sache, sondern eine Position im Verhältnis zu anderen.

Ein Modell ist nicht an sich an der Grenze. Es ist es, solange nichts Besseres existiert. Damit verändert sich der Bedeutungsumfang des Begriffs, ohne dass sich die Modelle veränderten – was einer Regelung, die an ihn anknüpft, den Boden entzieht.

Der Ausweg über Rechenleistungsschwellen tauscht dieses Problem gegen ein anderes. Ein fester Wert bezeichnet zwar etwas Bestimmtes, aber nicht das Gemeinte: Er erfasst Aufwand, während die Sorge den Fähigkeiten gilt, und diese beiden Größen driften mit jeder Effizienzverbesserung weiter auseinander.

Was bliebe, wäre eine Anknüpfung an geprüfte Fähigkeiten – die aber setzt Prüfverfahren voraus, die es noch nicht gibt, und eine Instanz, die sie durchführt.

Damit steht der Begriff für ein ungelöstes Grundproblem der KI-Regulierung: Sie soll an Eigenschaften anknüpfen, die sich erst nach dem Bauen zeigen, mit Mitteln, die vor dem Bauen greifen müssen.

Verwandte Begriffe

• Foundation Models – technische Bauform ohne Risikobezug
• EU AI Act – Regelwerk mit entsprechender Kategorie
• Compute – Größe, über die die Kategorie operationalisiert wird
• Responsible Scaling Policy – Selbstverpflichtung mit Fähigkeitsstufen
• Red-Teaming – Prüfverfahren für gefährliche Fähigkeiten
• Skalierungshypothese – Annahme hinter der Aufwandsanknüpfung
• AI Now Institute – Gegenposition zur Risikorahmung
• Open Weights – Veröffentlichungsform, die die Kategorie unterläuft

Quellenangaben

1. Anderljung, Markus u. a., 2023. Frontier AI Regulation: Managing Emerging Risks to Public Safety. arXiv: 2307.03718.
2. Bommasani, Rishi / Hudson, Drew A. / Adeli, Ehsan u. a., 2021. On the Opportunities and Risks of Foundation Models. Stanford Center for Research on Foundation Models. arXiv: 2108.07258.
3. Europäisches Parlament / Rat der EU (2024): Verordnung (EU) 2024/1689 (EU AI Act). Amtsblatt der EU L 2024/1689.
4. UK Government, 2023. The Bletchley Declaration by Countries Attending the AI Safety Summit. 1. November 2023. gov.uk.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.