KI-Inferenzkapazität binnen eines Jahres um das 4,6-Fache gestiegen

Die geschätzte agentische Inferenzkapazität aller bislang verkauften KI-Chips ist laut Epoch AI zwischen Q2 2025 und Q2 2026 um das 4,6-Fache gestiegen. Damit wuchs sie schneller als die 2,6-fache Zunahme der maximalen 8-Bit-Rechenleistung dieser Chips.
- Die agentische Inferenzkapazität stieg von Q2 2025 bis Q2 2026 um das 4,6-Fache.
- Die maximale 8-Bit-Rechenleistung wuchs im selben Zeitraum um das 2,6-Fache.
- Blackwell und Blackwell Ultra lieferten 74 % der zusätzlichen Kapazität.
- Die Inferenzkapazität pro Einheit maximaler Rechenleistung stieg um etwa 77 %.
- Epoch AI erwartet eine Verlangsamung des Wachstums, sobald die installierte Basis größer wird.
Blackwell trieb den größten Teil des Anstiegs
Epoch AI führt das Wachstum größtenteils auf Nvidias Wechsel von Hopper zu Blackwell zurück. Die Familien Nvidia Blackwell und Blackwell Ultra machten laut der Untersuchung 74 % der zusätzlichen agentischen Inferenzkapazität in diesem Zeitraum aus.
Bis Q2 2026 entfielen auf diese beiden Familien rund 73 % der gesamten agentischen Inferenzkapazität, verglichen mit 50 % der maximalen 8-Bit-Rechenleistung. Dem Bericht zufolge liefern GB300-Systeme pro GPU etwa die 8-fache Inferenzkapazität von H200-Systemen.
Die Schätzung misst die kumulierte Kapazität aller bislang verkauften Chips und nicht die in einem einzelnen Quartal hinzugekommene Kapazität. In den Daten erreichte die Gesamtkapazität das 4,58-Fache ihres Niveaus aus Q2 2025, während die maximale 8-Bit-Rechenleistung das 2,59-Fache ihres Ausgangsniveaus erreichte.
So hat Epoch AI die agentische Kapazität gemessen
Epoch AI nutzte die erste Version seines Inference Performance Index (IPI), um Hardware anhand eines festen Satzes von Workloads mit langen, zwischengespeicherten Kontexten zu vergleichen. Der Index wird in GB300-Äquivalenten ausgedrückt und auf Schätzungen aus dem AI Chip Sales-Datensatz von Epoch AI angewandt.
Die Kennzahl berücksichtigt Speicher, die Kommunikation zwischen Chips und Berechnungen mit geringerer Präzision. Sie umfasst sowohl die Verarbeitung der Eingaben als auch die Erzeugung der Ausgaben und verwendet für jedes Quartal denselben Workload-Korb.
Um die Gesamtkapazität zu schätzen, multiplizierte Epoch AI die kumulierte Zahl der verkauften Chips jeder Kategorie mit deren IPI-Wert pro Chip und addierte die Ergebnisse. Zum Vergleich berechnete das Unternehmen für dieselben Chips die maximale 8-Bit-Rechenleistung.
Epoch AI schätzt, dass die Inferenzkapazität pro Einheit maximaler Rechenleistung im Jahresverlauf um etwa 77 % gestiegen ist. Die Organisation verwendet den Begriff „Hardware- und Modell-Co-Design“ allgemein für Zugewinne, die über proportionale Steigerungen bei Rechendurchsatz und Speicherbandbreite hinausgehen. Dazu zählen größere Scale-up-Domänen, Berechnungen mit geringerer Präzision und Modellarchitekturen, die Hardware effektiver nutzen.
Das Wachstum dürfte sich verlangsamen, die Lücke aber bestehen bleiben
Die im Q2 2026 verkauften Chips fügten die 3,3-fache Inferenzkapazität der im Q2 2025 verkauften Chips hinzu. Da dieser Zuwachs geringer war als das 4,6-fache Wachstum der kumulierten Kapazität, erwartet Epoch AI eine Verlangsamung des Gesamtwachstums, sobald die installierte Basis größer wird.
Dem Bericht zufolge würde die Aufrechterhaltung eines jährlichen Wachstums von 4,6x jährliche Ergänzungen erfordern, die dem 3,6-Fachen der Kapazität zu Beginn jedes Jahres entsprechen. Zudem rechnet Epoch AI mit geringeren Verbesserungen bei späteren Chipgenerationen. Die modellierte Inferenzkapazität pro GPU steigt von H200 auf GB300 um das 8-Fache, von GB300 auf Vera Rubin VR200 jedoch nur um das 2,2-Fache.
Epoch AI zufolge dürfte ein anhaltendes Hardware- und Modell-Co-Design die Inferenzkapazität dennoch weiterhin schneller wachsen lassen als die maximale Rechenleistung. Die Unsicherheitsanalyse ergibt 90%-Intervalle von 4.2, 5.1x für das Inferenzwachstum und 2.5, 2.7x für das Wachstum der maximalen Rechenleistung. Darin sind Unsicherheiten bei Auslieferungen und beim Hardware-Mix berücksichtigt.
Epoch AI: AI inference capacity grew 4.6× in one year


