Compute bezeichnet in der KI-Debatte die für Training und Betrieb eines Modells aufgewendete Rechenleistung. Sie gilt neben Daten und Verfahren als dritte Größe, aus der sich Modellfähigkeiten ergeben – und als die einzige, die sich unmittelbar messen, in Geld ausdrücken und politisch steuern lässt.
Zusammenfassung
Der Aufstieg des Begriffs zur eigenständigen Kategorie folgt aus einer empirischen Beobachtung: Die Leistung von Sprachmodellen wächst in vorhersagbarem Verhältnis zum eingesetzten Rechenaufwand. Damit wurde Rechenleistung von einer technischen Randgröße zur strategischen Ressource. Gemessen wird sie üblicherweise in Gleitkommaoperationen (FLOP); der Aufwand für das Training führender Modelle stieg über Jahre hinweg um Größenordnungen.
Seit 2024 tritt neben das Training eine zweite Verbrauchsstelle: Reasoning-Modelle wenden erhebliche Rechenzeit zur Antwortzeit auf. Da sich Rechenleistung anders als Daten oder Verfahren zählen und kontrollieren lässt, ist sie zum bevorzugten Ansatzpunkt regulatorischer Steuerung geworden.
Begriffsgeschichte
Auffällig am Begriff ist bereits seine grammatische Form. Im Englischen wurde aus dem Verb to compute ein unzählbares Substantiv – compute wie water oder electricity, nicht wie computer. Diese Wortbildung ist jung und verrät die Perspektive, aus der sie stammt: Rechenleistung erscheint darin nicht als Gerät, sondern als fließende, beschaffbare, verbrauchbare Menge.
Im Deutschen fehlt eine entsprechende Prägung; die Umschreibung Rechenleistung bleibt näher am Apparat.
Zur eigenständigen Kategorie wurde der Begriff durch zwei Entwicklungen. Zum einen machten Untersuchungen ab 2018 sichtbar, dass der Rechenaufwand für die jeweils größten Trainingsläufe über Jahre hinweg exponentiell und deutlich schneller als die Leistungsfähigkeit einzelner Chips gewachsen war – eine Kurve, die nur durch immer größere Verbünde erklärbar ist.
Zum anderen zeigten die Skalierungsgesetze, dass sich Modellleistung aus dem eingesetzten Aufwand vorhersagen lässt. Damit wurde aus einer Kostenposition eine Planungsgröße: Wer die Kurve kennt, kann eine Fähigkeit bestellen, statt auf sie zu hoffen.
Die politische Karriere des Begriffs folgte unmittelbar. Weil Rechenleistung sich – anders als Daten, Verfahren oder Fachwissen – zählen, an physische Anlagen binden und an Landesgrenzen anhalten lässt, wurde sie zum bevorzugten Ansatzpunkt der Regulierung. Sowohl europäische als auch US-amerikanische Regelwerke knüpfen Auflagen an Schwellenwerte des Trainingsaufwands; Ausfuhrbeschränkungen für Beschleuniger folgen derselben Logik.
Messung
Die gebräuchliche Einheit ist die Gleitkommaoperation (FLOP). Der Trainingsaufwand eines Modells wird als Gesamtzahl solcher Operationen angegeben und liegt bei Frontier-Modellen in Größenordnungen von 10²⁵ bis 10²⁶ FLOP.
Eine gängige Näherung setzt den Trainingsaufwand ins Verhältnis zu Parameterzahl und Datenmenge: Er wächst etwa proportional zum Produkt beider Größen. Daraus folgt die praktische Frage, wie ein gegebenes Rechenbudget zwischen Modellgröße und Datenmenge aufzuteilen ist – die Chinchilla-Arbeit von 2022 kam zu dem Ergebnis, dass die damals üblichen Modelle im Verhältnis zu ihrer Größe deutlich unterrainiert waren.
Erhebungen zeigen ein Wachstum des Trainingsaufwands über mehrere Jahrzehnte hinweg, mit deutlicher Beschleunigung seit etwa 2010.
Zwei Verbrauchsstellen
| Training | Inferenz | |
|---|---|---|
| Wann | einmalig vor dem Einsatz | bei jeder Anfrage |
| Kostenträger | Anbieter | Anbieter, weitergegeben an Nutzer |
| Skalierungshebel | größere Modelle, mehr Daten | längere Gedankenketten, mehr Lösungswege |
| Bedeutung | dominierend bis etwa 2024 | wachsend seit den Reasoning-Modellen |
Bis 2024 galt der Trainingsaufwand als maßgebliche Größe. Mit den Reasoning-Modellen kam ein zweites Skalierungsregime hinzu: Snell u. a. (2024) zeigten, dass ein kleineres Modell mit optimal zugeteiltem Rechenbudget zur Antwortzeit ein erheblich größeres übertreffen kann. Über die Lebensdauer eines verbreiteten Modells kann der summierte Inferenzaufwand den Trainingsaufwand übersteigen.
Bedeutung
Wirtschaftlich. Rechenleistung ist der größte Kostenblock der Modellentwicklung. Die fünf größten Cloudanbieter planten für 2026 zusammen Investitionsausgaben in der Größenordnung mehrerer hundert Milliarden US-Dollar, überwiegend für KI-Hardware. Diese Summen bestimmen, wer überhaupt Frontier-Modelle trainieren kann.
Politisch. Weil Rechenleistung sich zählen lässt, eignet sie sich als Regulierungsgröße. Der EU AI Act knüpft Pflichten für Modelle mit systemischem Risiko unter anderem an einen Schwellenwert des Trainingsaufwands. Ausfuhrbeschränkungen für KI-Beschleuniger verfolgen dieselbe Logik: Wer den Zugang zur Rechengrundlage steuert, steuert mittelbar die Entwicklung.
Ökologisch. Energieverbrauch, Kühlwasserbedarf und Flächenverbrauch von Rechenzentren sind Gegenstand wachsender Kritik.
Kritik am Compute-Maß
Es misst Aufwand, nicht Ergebnis. Zwei Modelle mit gleichem Trainingsaufwand können sehr unterschiedlich leisten. Verfahrensverbesserungen und Datenqualität verschieben das Verhältnis erheblich.
Schwellenwerte veralten. Ein regulatorischer Grenzwert, der heute Frontier-Modelle erfasst, erfasst in wenigen Jahren gewöhnliche. Effizienzgewinne verschieben zudem, was sich mit einem gegebenen Aufwand erreichen lässt.
Die Angaben sind schwer prüfbar. Anbieter legen den Trainingsaufwand meist nicht offen; veröffentlichte Zahlen beruhen häufig auf Schätzungen.
Skalierungsgrenzen. Seit 2024 wird diskutiert, ob die Leistungszuwächse reiner Skalierung nachlassen. Ilya Sutskever formulierte im November 2025, das Zeitalter des Skalierens gehe in ein Zeitalter der Forschung über – größere Modelle helfen weiterhin, verändern aber die grundlegenden Fähigkeiten nicht mehr.
Verwandte Begriffe
- Scaling Laws – Zusammenhang von Aufwand und Leistung
- Chinchilla – Arbeit zur optimalen Aufteilung des Rechenbudgets
- GPU – vorherrschende Rechenhardware
- Tensor Processing Unit – eigens entworfene Alternative
- Nvidia – Hauptlieferant
- Test-Time Compute – Rechenaufwand zur Antwortzeit
- Reasoning-Modelle – Modellklasse mit hohem Inferenzbedarf
- EU AI Act – Regulierung mit Schwellenwert für Trainingsaufwand
- Compute Governance – politische Steuerung des Zugangs
Quellenangaben
- Europäisches Parlament / Rat der EU (2024): Verordnung (EU) 2024/1689 (EU AI Act). Amtsblatt der EU L 2024/1689.
- Hoffmann, Jordan / Borgeaud, Sebastian / Mensch, Arthur u. a., 2022. Training Compute-Optimal Large Language Models. DeepMind. arXiv: 2203.15556. (Chinchilla).
- Kaplan, Jared / McCandlish, Sam / Henighan, Tom / Brown, Tom B. / Chess, Benjamin / Child, Rewon / Gray, Scott / Radford, Alec / Wu, Jeffrey / Amodei, Dario, 2020. Scaling Laws for Neural Language Models. OpenAI. arXiv: 2001.08361.
- Sevilla, Jaime u. a., 2022. Compute Trends Across Three Eras of Machine Learning. In: Proceedings of the 2022 International Joint Conference on Neural Networks (IJCNN 2022). arXiv: 2202.05924.
- Snell, Charlie / Lee, Jaehoon / Xu, Kelvin / Kumar, Aviral, 2024. Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters. arXiv: 2408.03314.
← Zurück zur Lexikon-Übersicht
Zuletzt bearbeitet: 10. August 2026
Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.