Astera Labs nimmt mit Scorpio, Leo und COSMOS die Konnektivitätsmauer der KI ins Visier

Vier Mauern bremsen die Tokens pro Dollar

In einem Blogbeitrag schreibt Mohan, die KI sei endgültig im Inferenzzeitalter angekommen, und Rechenzentrumsbetreiber sprächen immer weniger vom „KI-Modell“, sondern vom „KI-Fabrik“-Ansatz. Aus seiner Sicht muss der erfolgreiche Ansatz neben Spitzenleistung und Zuverlässigkeit auch wirtschaftliche Effizienz liefern. Vier Mauern begrenzten die Tokens pro Sekunde und, wichtiger noch, die Tokens pro Dollar.

• Wafer-Mauer: Ein Gigawatt KI-Rechenleistung benötigt rund 55.000 Logik-Wafer und 170.000 Speicher-Wafer. Bis 2030 wird bei den Wafern für KI eine Lücke von 1 bis 4 Millionen Wafern in fortschrittlichen Fertigungsknoten erwartet.
• Strom-Mauer: Das US-Netz wächst linear, während die KI-Nachfrage exponentiell steigt. Entwickler sehen sich bis 2028 mit einem Netto-Stromdefizit von 34 Prozent (rund 32 GW) konfrontiert, und 70 Prozent der regulären Netzanschlussanträge werden wegen jahrelanger Verzögerungen zurückgezogen.
• Speicher-Mauer: Auf dem AI Infra Summit 2026 berichtete Analyst Jim Handy von einem Anstieg der DRAM-Preise um 250 Prozent gegenüber dem Vorjahr, da Inferenz- und Agenten-Workloads den Bedarf an KV-Cache nach oben treiben.
• Konnektivitätsmauer: In einem großen GPU-Cluster entscheidet der Interconnect darüber, wie viel Rechenleistung tatsächlich nützliche Arbeit verrichtet.

Warum die Konnektivität der Hebel ist

Mohan schreibt, drei der Mauern seien physisch fix, denn niemand könne in diesem Zyklus in relevanter Zeit mehr Wafer fertigen, mehr Strom erzeugen oder mehr Speicher kaufen, um die Knappheit zu überwinden. Die Konnektivität sei die Ausnahme. Jede neue GPU-Generation bringe mehr PFLOPS und Speicherbandbreite und erhöhe damit die Anforderungen an das Fabric, das sie versorgt. Andernfalls warteten Beschleuniger für Millionen Dollar auf Daten, statt Tokens zu erzeugen.

Das Argument des Unternehmens: Eine bessere Auslastung bestehender Infrastruktur wirke wie zusätzliche Kapazität. Sie hole mehr nutzbare Arbeit aus demselben Silizium, demselben Strom und demselben Budget.

Produkte auf der OCP 2026

Astera Labs zeigt auf der OCP 2026 Live-Demos, allen voran den Scorpio X-Series 320L Smart Fabric Switch, den das Unternehmen als den PCIe-Scale-up-Switch mit der höchsten Radix der Branche bezeichnet. Laut Astera Labs steigern die Funktionen Hypercast und In-Network Compute von Scorpio kollektive Operationen um bis zu das Doppelte, indem sie optimierte Pfade schaffen und den Kommunikationsaufwand senken. Eine Fußnote besagt, der Wert beruhe auf einer mindestens 50-prozentigen Verringerung der Latenz bei AllReduce-Kollektivoperationen gegenüber dem klassischen Ring-AllReduce, basierend auf interner Analyse; die Ergebnisse könnten je nach Workload, Systemkonfiguration und Clustergröße abweichen.

Der kürzlich vorgestellte Leo X-Series Smart Memory Controller bildet zusammen mit Scorpio-Switches eine am Fabric angebundene Speicherebene für das Auslagern des KV-Cache. Erste Daten zeigen laut Astera Labs allein durch diese Ebene eine um 22 Prozent höhere GPU-Auslastung, also 22 Prozent mehr Tokens pro Sekunde. Die Controller der zweiten Generation, Leo E-Series und P-Series, bieten CXL-Speichererweiterung, -Sharing und -Pooling am Prozessor und können recycelten DDR4-Speicher weiterverwenden, solange das DDR5-Angebot extrem knapp bleibt.

Software, stromsparende Signalaufbereitung und offene Standards

COSMOS, das Software-Framework des Unternehmens, ermöglicht es Kunden, Astera-Produkte anzupassen, die Systemleistung zu optimieren und komplexe Systeme mit umfassenden Debug-Funktionen in Betrieb zu nehmen. Zudem liefert es Telemetrie im Flottenmaßstab. In Scorpio-X-Series-Fabrics konfiguriert und verwaltet es Hypercast und In-Network Compute. Astera Labs zufolge wird COSMOS bereits von mehreren Kunden eingesetzt und ist Bestandteil jeder Demo auf der OCP 2026.

Für Standorte mit begrenzter Stromversorgung bieten die kürzlich vorgestellten Taurus Smart Signal Conditioners für Ethernet, ESUN und UALink footprint-kompatible Varianten als Smart Retimer oder Smart Redriver. Wo eine Signalverstärkung genügt, können Entwickler den stromsparenderen Redriver wählen. Außerdem zeigt das Unternehmen Roadmaps für Kupfer und Optik: Kupfer für dichte Verbindungen innerhalb des Racks, Optik, um PCIe-Fabrics über Gehäuse und Rack hinaus zu erweitern.

Astera Labs bezeichnet den OCP Global Summit als sein jährliches Flaggschiff-Event und gibt an, in den Gremien von Standardisierungsorganisationen wie UALink und CXL vertreten zu sein. Der Ansatz „AI Your Way“ verspricht Interconnects, die auf die Workloads der Kunden zugeschnitten sind, unabhängig von Beschleuniger, Protokoll oder physischem Medium.

Was das für Betreiber bedeutet

Für Betreiber, die mit knappen Chips, knappem Strom und knappem Speicher kämpfen, lautet das Angebot, die Leistung der bereits installierten Hardware zu steigern, statt auf weitere Beschleuniger zu setzen. Die Leistungsangaben stammen von Astera Labs selbst und aus ersten Daten, unabhängige Ergebnisse werden daher wichtig sein. Besucher am Stand auf der OCP 2026 können sich die Demos aus erster Hand ansehen.