Die GPU (deutsch Grafikprozessor) ist ein ursprünglich für Bildberechnung entwickelter Prozessor, der aus tausenden einfachen Recheneinheiten besteht und dieselbe Operation gleichzeitig auf viele Datenelemente anwendet. Seit etwa 2012 ist sie die maßgebliche Rechengrundlage des Deep Learning.
Zusammenfassung
Der Aufstieg der GPU zur KI-Hardware beruht auf einer Übereinstimmung, die niemand geplant hatte: Bildberechnung und das Training neuronaler Netze bestehen beide im Kern aus vielen gleichartigen, voneinander unabhängigen Rechenoperationen.
Der Wendepunkt war 2012, als AlexNet mit Grafikkarten trainiert wurde und die Bilderkennung sprunghaft verbesserte – der Beginn der Deep-Learning-Ära. Seither ist die GPU nicht nur technische Voraussetzung, sondern wirtschaftlicher und politischer Faktor: Zugang zu Rechenleistung entscheidet darüber, wer Frontier-Modelle trainieren kann, und ist Gegenstand von Ausfuhrbeschränkungen.
Nvidia hielt 2026 je nach Abgrenzung zwischen 75 und 88 Prozent des Marktes für KI-Beschleuniger – der höhere Wert bezieht sich auf die von Nvidia, AMD und Intel gemeldeten Umsätze, der niedrigere auf den gesamten verbauten Rechenbestand einschließlich der Eigenentwicklungen großer Cloud-Anbieter.
Funktionsprinzip
Ein Allzweckprozessor ist auf schnelle Abarbeitung wechselnder, voneinander abhängiger Befehle ausgelegt: wenige, sehr leistungsfähige Kerne mit umfangreicher Ablaufsteuerung, Sprungvorhersage und Zwischenspeicherverwaltung.
Eine GPU folgt dem umgekehrten Entwurf: tausende einfache Kerne, die dieselbe Operation gleichzeitig auf verschiedene Daten anwenden. Für Aufgaben mit vielen unabhängigen, gleichförmigen Rechnungen ergibt das ein Vielfaches an Durchsatz.
Neuronale Netze bestehen im Kern aus Matrixmultiplikationen – genau diesem Muster. Weder das Training noch die Ausführung verlangen verzweigte Ablaufsteuerung; sie verlangen sehr viele gleichartige Multiplikationen und Additionen.
| CPU | GPU | |
|---|---|---|
| Kerne | wenige, komplex | tausende, einfach |
| Ausgelegt auf | Abarbeitung wechselnder Befehle | gleichzeitige gleichartige Operationen |
| Stärke | Ablaufsteuerung, Verzweigungen | Durchsatz bei Matrixrechnung |
| Rolle in der KI | Steuerung, Datenvorbereitung | Training und Inferenz |
Entwicklung zur KI-Hardware
Ab 2007 stellte Nvidia mit CUDA eine Programmierschnittstelle bereit, die die allgemeine Nutzung von Grafikprozessoren jenseits der Bildberechnung ermöglichte. Das war die Voraussetzung dafür, dass Forschende sie für neuronale Netze einsetzen konnten.
Der Durchbruch erfolgte 2012 mit AlexNet, das auf Grafikkarten trainiert wurde und den Bilderkennungswettbewerb ImageNet mit deutlichem Abstand gewann. Der Erfolg wird als Auslöser der gegenwärtigen Entwicklungsphase gewertet – nicht wegen eines neuen Verfahrens, sondern weil vorhandene Verfahren erstmals in ausreichendem Maßstab rechenbar wurden.
Seither entwickelten sich GPUs zunehmend zu KI-spezifischer Hardware. Sie enthalten eigene Einheiten für Matrixoperationen, unterstützen verringerte Zahlenformate und verfügen über Verbindungstechnik, die tausende Einheiten zu einem Verbund zusammenschaltet.
Wirtschaftliche und politische Dimension
Rechenleistung ist neben Daten und Verfahren die dritte Größe, aus der sich Modellfähigkeiten ergeben – und die einzige, die sich unmittelbar in Geld ausdrückt. Daraus folgen mehrere Entwicklungen:
Konzentration. Die fünf größten Cloudanbieter planten für 2026 zusammen Investitionsausgaben in der Größenordnung mehrerer hundert Milliarden US-Dollar, überwiegend für KI-Hardware. Wer diese Summen nicht aufbringt, kann keine Frontier-Modelle trainieren.
Ausfuhrkontrollen. Leistungsfähige KI-Beschleuniger unterliegen Beschränkungen im Export, insbesondere nach China. Rechenleistung ist damit zu einem Gegenstand der Handels- und Sicherheitspolitik geworden.
Lieferkette. Die Fertigung fortgeschrittener Halbleiter konzentriert sich auf wenige Unternehmen, was die gesamte Branche von einem schmalen Engpass abhängig macht.
Gegenbewegung. Große Anbieter entwickeln eigene Beschleuniger – Google die TPU, Amazon Trainium und Inferentia –, um Kosten und Abhängigkeit zu senken. Ihr Anteil am Markt für KI-Chips wuchs 2025 auf rund ein Fünftel.
Grenzen
GPUs bleiben Allzweckhardware im Vergleich zu eigens entworfenen Beschleunigern. Insbesondere für Inferenz gelten sie als nicht ideal: hoher Energieverbrauch und begrenzte Speicheranbindung. Mit dem Aufkommen der Reasoning-Modelle, die zur Antwortzeit erheblich mehr rechnen, gewinnt dieser Punkt an Gewicht.
Der anhaltende Vorsprung Nvidias beruht daher weniger auf der Hardware allein als auf CUDA: Software, Werkzeuge und Bibliotheken sind über anderthalb Jahrzehnte darauf ausgerichtet worden, was einen Wechsel kostspielig macht.
Die Rolle der Software
Die Marktstellung des führenden Anbieters beruht nur zum Teil auf der Hardware. Ebenso wichtig ist die 2006 eingeführte Programmierumgebung, mit der sich Grafikprozessoren erstmals bequem für nicht-grafische Berechnungen ansprechen ließen. Sie erschien Jahre bevor es dafür eine erkennbare Nachfrage gab, und sie war lange die einzige Umgebung, in der wissenschaftliches Rechnen auf Grafikhardware praktikabel war.
Die Folge ist eine Bindung, die sich nicht durch bessere Chips allein auflösen lässt.
Praktisch die gesamte Werkzeugkette des maschinellen Lernens – Bibliotheken, Optimierungen, Beispielcode, Fehlerbehebungen, das gesammelte Erfahrungswissen zweier Entwicklergenerationen – setzt diese eine Umgebung voraus.
Ein Wettbewerber muss deshalb nicht nur einen konkurrenzfähigen Prozessor liefern, sondern ein gleichwertiges Software-Ökosystem, und selbst dann bleibt der Wechselaufwand beim Kunden. Konkurrierende offene Umgebungen und herstellerübergreifende Zwischenschichten sind vorhanden, haben die Abhängigkeit aber bislang nicht aufgehoben.
Darin liegt zugleich der Ansatzpunkt für Angriffe auf die Marktstellung. Die großen Cloud-Anbieter entwickeln eigene Beschleuniger und können deren Software mit der eigenen Plattform verzahnen; wer seine Modelle ohnehin in einer bestimmten Cloud betreibt, sieht sich einem geringeren Wechselaufwand gegenüber als ein Einzelkunde. Nicht der bessere Chip bedroht die Stellung, sondern der Umstand, dass die größten Abnehmer zugleich Wettbewerber sind.
Verwandte Begriffe
- Tensor Processing Unit – Googles eigens entworfene Alternative
- Nvidia – marktbeherrschender Hersteller
- CUDA – Programmierschnittstelle und Bindungsfaktor
- Deep Learning – Anwendungsfeld
- ImageNet – Wettbewerb, in dem der Durchbruch erfolgte
- Scaling Laws – Zusammenhang von Rechenaufwand und Modellleistung
- Reasoning-Modelle – Modellklasse mit hohem Inferenzbedarf
- Compute Governance – politische Steuerung des Zugangs
Quellenangaben
- Jouppi, Norman P. u. a. (Google) (2017): In-Datacenter Performance Analysis of a Tensor Processing Unit. In: Proceedings of the 44th Annual International Symposium on Computer Architecture (ISCA ’17), S. 1–12. arXiv: 1704.04760.
- Kaplan, Jared / McCandlish, Sam / Henighan, Tom / Brown, Tom B. / Chess, Benjamin / Child, Rewon / Gray, Scott / Radford, Alec / Wu, Jeffrey / Amodei, Dario, 2020. Scaling Laws for Neural Language Models. OpenAI. arXiv: 2001.08361.
- Krizhevsky, Alex / Sutskever, Ilya / Hinton, Geoffrey E., 2012. ImageNet Classification with Deep Convolutional Neural Networks. In: Advances in Neural Information Processing Systems 25 (NeurIPS 2012), S. 1097–1105.
- Sevilla, Jaime u. a., 2022. Compute Trends Across Three Eras of Machine Learning. In: Proceedings of the 2022 International Joint Conference on Neural Networks (IJCNN 2022). arXiv: 2202.05924.
← Zurück zur Lexikon-Übersicht
Zuletzt bearbeitet: 10. August 2026
Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.