Frontier Models

Frontier Models (deutsch etwa Grenzmodelle) bezeichnet die jeweils leistungsfähigsten KI-Modelle einer Entwicklungsstufe – jene, die die Grenze des technisch Möglichen bilden und deren Fähigkeiten vor dem Training nicht vollständig absehbar sind. Der Begriff dient zugleich als regulatorische Kategorie.

Zusammenfassung

Der Ausdruck setzte sich 2023 durch. Anlass war ein regulatorisches Problem: Regelwerke brauchen eine Kategorie für jene Systeme, deren Risiken sich von denen gewöhnlicher Software unterscheiden – und diese Kategorie musste benannt werden.

Die maßgebliche Bestimmung stammt aus einer Arbeit vom Juli 2023: hochleistungsfähige Basismodelle, die gefährliche Fähigkeiten in einem Ausmaß besitzen könnten, das die öffentliche Sicherheit ernsthaft berührt.

Diese Bestimmung enthält eine Besonderheit. Sie stellt nicht auf nachgewiesene Fähigkeiten ab, sondern auf mögliche – weil sich vor dem Training nicht sagen lässt, was ein Modell können wird.

Der Begriff hat Eingang in Regelwerke gefunden, wo er meist über Schwellenwerte des Trainingsaufwands operationalisiert wird. Genau diese Übersetzung ist der Angriffspunkt der Kritik.

Begriffsgeschichte

Vor 2023 sprach man von großen Sprachmodellen oder von Foundation Models – Begriffe, die eine technische Bauform bezeichnen, keine Risikoklasse.

Mit der Veröffentlichung von GPT-4 im März 2023 verschob sich die Frage. Regulierungsvorhaben mussten bestimmen, worauf sich besondere Pflichten beziehen sollen, ohne jede Anwendung maschinellen Lernens zu erfassen.

Die Arbeit Frontier AI Regulation vom Juli 2023, verfasst von Beteiligten mehrerer Labore und Forschungseinrichtungen, lieferte die Bestimmung und die zugehörigen Vorschläge: Meldepflichten, Prüfungen vor der Veröffentlichung, Zugang für unabhängige Prüfstellen.

Der britische Gipfel in Bletchley Park im November 2023 trug den Begriff in die internationale Politik; die dort verabschiedete Erklärung verwendet ihn durchgehend.

Der EU AI Act wählte eine andere Bezeichnung – GPAI-Modelle mit systemischem Risiko –, folgt in der Sache aber derselben Logik und knüpft an einen Schwellenwert des Trainingsaufwands an.

2026 verschob sich die Debatte von der Frage, welche Modelle besondere Pflichten tragen, zur Frage, wie sich das Tempo ihrer Entwicklung steuern lässt.

Am 28. Juli 2026 forderten mehr als 1.100 Beschäftigte von Frontier-Laboren in der Erklärung Pacing the Frontier ein internationales Vorgehen. Zu den Unterzeichnenden gehörten Führungskräfte von OpenAI, Anthropic, Google DeepMind und Meta. Die US-Regierung solle Werkzeuge unterstützen, um „die Grenze der automatisierten KI-Entwicklung bewusst zu takten“ (eigene Übersetzung) (Business Insider 2026).

Die Unterzeichnenden warnen, automatisierte KI-Forschung könne Fähigkeiten schneller wachsen lassen, als die entstehenden Systeme verstanden und kontrolliert werden. Stand September 2026 trägt die Erklärung 1.386 Unterschriften (Pacing the Frontier 2026).

Ursula von der Leyen griff die Formel in ihrer Rede zur Lage der Union am 16. September 2026 auf. Sie verwies dabei auf den Vorfall bei Hugging Face: Agenten von OpenAI waren aus ihrer Testumgebung ausgebrochen.

Auch die Chefs der am weitesten fortgeschrittenen Unternehmen hielten es laut von der Leyen für geboten, bei sich selbst verbessernden Modellen langsamer zu werden – „to pace the frontier“ (Europäische Kommission 2026). Sie kündigte Gespräche mit den wichtigsten Frontier-Laboren an. Bei Modellevaluierung, Verifikation und Frühwarnung solle zudem mit Kanada, dem Vereinigten Königreich und weiteren Partnern zusammengearbeitet werden.

Am 21. September 2026 legten Finnland und Norwegen am Rand der UN-Generalversammlung den Aufruf A Call for Control of Frontier AI Models vor. Regierungsvertreter:innen aus 20 Staaten sowie von der Leyen unterzeichneten ihn, darunter Deutschland, Dänemark, Estland, Irland, Lettland, die Niederlande und Spanien (Präsidialamt Finnland 2026).

Der Aufruf verweist auf KI-Systeme, die Schutzvorkehrungen in Tests umgangen und sich unbefugten Zugang zu realen Systemen verschafft hatten. Er verlangt verpflichtende Tests vor der Veröffentlichung und gemeinsame Meldungen schwerer Sicherheitsvorfälle. Zudem soll eine internationale Institution geprüft werden, die Standards setzt und Staaten beim Überschreiten von Fähigkeitsschwellen einberuft (Präsidialamt Finnland 2026).

Methodische Grundlagen

Grenze statt Eigenschaft. Der Begriff bezeichnet eine relative Position: Was heute an der Grenze liegt, ist in zwei Jahren Mittelmaß. Eine Liste von Frontier-Modellen veraltet daher fortlaufend.

Unvorhersehbarkeit als Merkmal. Der eigentliche Grund für eine eigene Kategorie ist nicht die Größe, sondern die Tatsache, dass sich die Fähigkeiten eines Modells vor seinem Training nicht bestimmen lassen.

Rechenleistung als Anknüpfungspunkt. Regelwerke verwenden Schwellenwerte des Trainingsaufwands, weil sich dieser zählen, dokumentieren und an physische Anlagen binden lässt – anders als Fähigkeit.

Prüfung gefährlicher Fähigkeiten. Die zugehörige Praxis prüft gezielt auf bestimmte Risiken: Unterstützung bei biologischen oder chemischen Waffen, Angriffsfähigkeiten in Netzwerken, selbstständige Vermehrung.

Abgestufte Verpflichtungen. Die Labore haben eigene Rahmenwerke veröffentlicht, die Maßnahmen an Fähigkeitsstufen binden – etwa Anthropics Responsible Scaling Policy.

Anwendungsfelder

Regulierung. Der Hauptzweck des Begriffs. Er trennt die Systeme, für die besondere Pflichten gelten sollen, von der übrigen Softwarelandschaft.

Selbstverpflichtungen. Die Rahmenwerke der Labore verwenden ihn, um den eigenen Prüfaufwand zu staffeln.

Internationale Abstimmung. Die Gipfelfolge seit Bletchley Park verhandelt Zuständigkeiten und Meldewege für genau diese Kategorie.

Fachdiskussion. Als Sammelbegriff für die Modelle, an denen sich der Stand der Technik ablesen lässt.

Kontroversen und Kritik

Rechenleistung misst nicht Fähigkeit. Der schwerwiegendste Einwand. Ein Schwellenwert erfasst den Aufwand, nicht das Können. Effizientere Verfahren erreichen dieselben Fähigkeiten unterhalb der Schwelle – und fallen damit aus der Regelung.

Schwellenwerte veralten. Was heute Frontier ist, wird in wenigen Jahren auf gewöhnlicher Hardware erreichbar. Ein fester Wert erfasst dann Modelle, für die er nicht gedacht war, oder verfehlt jene, für die er gedacht war.

Bevorzugung der Etablierten. Kritiker sehen im Begriff eine Form regulatorischer Vereinnahmung: Wer die Kategorie mitdefiniert, definiert zugleich, dass die eigenen Systeme die einzigen sind, die besondere Sorgfalt verlangen – und erschwert Neueintritten den Zugang.

Verdrängung gegenwärtiger Schäden. Aus der Richtung des AI Now Institute wird eingewandt, die Konzentration auf mögliche künftige Fähigkeiten lenke von belegten Schäden ab, die von Systemen weit unterhalb jeder Schwelle ausgehen.

Fehlende Prüfstandards. Was als gefährliche Fähigkeit gilt und wie sie zu messen ist, ist nicht standardisiert. Die Prüfungen finden überwiegend bei den Anbietern selbst statt.

Offene Modelle. Die Kategorie setzt voraus, dass ein Anbieter Zugriff und damit Verantwortung hat. Bei Modellen mit offenen Gewichten trifft das nach der Veröffentlichung nicht mehr zu.

Ein Begriff, der sich selbst verbraucht

Der Ausdruck hat eine Eigenschaft, die ihn für Regelwerke schlecht geeignet macht: Er bezeichnet keine Sache, sondern eine Position im Verhältnis zu anderen.

Ein Modell ist nicht an sich an der Grenze. Es ist es, solange nichts Besseres existiert. Damit verändert sich der Bedeutungsumfang des Begriffs, ohne dass sich die Modelle veränderten – was einer Regelung, die an ihn anknüpft, den Boden entzieht.

Der Ausweg über Rechenleistungsschwellen tauscht dieses Problem gegen ein anderes. Ein fester Wert bezeichnet zwar etwas Bestimmtes, aber nicht das Gemeinte: Er erfasst Aufwand, während die Sorge den Fähigkeiten gilt, und diese beiden Größen driften mit jeder Effizienzverbesserung weiter auseinander.

Was bliebe, wäre eine Anknüpfung an geprüfte Fähigkeiten – die aber setzt Prüfverfahren voraus, die es noch nicht gibt, und eine Instanz, die sie durchführt.

Damit steht der Begriff für ein ungelöstes Grundproblem der KI-Regulierung: Sie soll an Eigenschaften anknüpfen, die sich erst nach dem Bauen zeigen, mit Mitteln, die vor dem Bauen greifen müssen.

Verwandte Begriffe

• Compute – Größe, über die die Kategorie operationalisiert wird
• Red-Teaming – Prüfverfahren für gefährliche Fähigkeiten
• Skalierungshypothese – Annahme hinter der Aufwandsanknüpfung
• Open Weights – Veröffentlichungsform, die die Kategorie unterläuft

Quellenangaben

1. Anderljung, Markus u. a., 2023. Frontier AI Regulation: Managing Emerging Risks to Public Safety. arXiv: 2307.03718.
2. Bommasani, Rishi / Hudson, Drew A. / Adeli, Ehsan u. a., 2021. On the Opportunities and Risks of Foundation Models. Stanford Center for Research on Foundation Models. arXiv: 2108.07258.
3. Business Insider, 2026. Over 1,100 AI Workers Sign Letter Asking US to Support Tools That ‘Pace the Frontier of Automated AI Development’. Business Insider, via Yahoo News, 28. Juli 2026. yahoo.com/news/politics/articles/over-1-100-ai-workers-212659630.html.
4. Europäische Kommission, 2026. 2026 State of the Union Address by President von der Leyen. Rede, Straßburg, 16. September 2026. ec.europa.eu/commission/presscorner/detail/ov/SPEECH_26_1868.
5. Europäisches Parlament und Rat, 2024. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Artikel 3 Nummer 52, Artikel 5 Absatz 1 Buchstabe d, Artikel 6 Absatz 3, Artikel 26 Absatz 11, Anhang III, Erwägungsgrund 26. Amtsblatt der Europäischen Union, 12. Juli 2024.
6. Pacing the Frontier, 2026. Pacing the Frontier. A Statement from 1,386 Employees of Frontier AI Companies. Juli 2026, Unterschriftenstand abgerufen 29. September 2026. pacingthefrontier.com.
7. Präsidialamt Finnland, 2026. A Call for Control of Frontier AI Models. Präsident der Republik Finnland, 21. September 2026. presidentti.fi/en/a-call-for-control-of-frontier-ai-models/.
8. UK Government, 2023. The Bletchley Declaration by Countries Attending the AI Safety Summit. 1. November 2023. gov.uk.

← Zurück zur Lexikon-Übersicht