Microsoft stellt Maia 300 und offene Rechenzentrums-Spezifikationen für KI-Inferenz vor

Maia 300 zielt auf Effizienz bei der Inferenz

Laut Microsoft wird Inferenz zur dominierenden KI-Arbeitslast, weshalb Effizienz, Latenz und Kosten in den Vordergrund rücken. Azure Maia 300 wird als Komplettsystem für neuere Workloads präsentiert: Reasoning mit langem Kontext, latenzempfindliche Dialoganwendungen und dauerhafte, mehrstufige agentische Aufgaben.

Microsoft zufolge soll Maia 300 im Vergleich zu führenden GPU-basierten Systemen 40 % mehr Tokens pro Watt liefern. In der vollen Ausbaustufe mit 96 Beschleunigern erreicht das System nach Angaben des Unternehmens bis zu siebenmal so viel Token-Durchsatz auf Rack-Ebene wie Maia 200.

Microsoft beschreibt das Design als Co-Design-Ansatz, der Modelle, Anwendungs-Frameworks, Kernels, Kommunikationsbibliotheken, Systemsoftware und eigene Chips in einer gemeinsamen Optimierungsschleife zusammenführt. Maia 200 wird bereits in den USA, Europa und Australien ausgerollt. Laut Microsoft liefert der Chip bei den integrierten KI-Funktionen in Microsoft Teams, Copilot und Cowork bis zu 1,7-mal mehr Tokens pro Watt als führende GPU-Infrastruktur.

Neue Chips für CPU, Datenverarbeitung und Sicherheit

Microsoft argumentiert, dass agentische Workloads neue Anforderungen an CPUs stellen, da jede Agenten-Interaktion Orchestrierung, Datenabruf, Speicherverwaltung und Dienstaufrufe auslöst. Die Antwort darauf ist Cobalt 200, eine laut Microsoft agentennative CPU. Das Unternehmen gibt an, sie biete mehr als 50 % mehr Leistung als Cobalt 100, senke die Latenz von Agentenaufrufen um 33 % und erreiche bei agentischen Workloads einen um 23 % höheren Durchsatz.

Die Azure Boost Data Processing Unit verlagert Kompression, Netzwerktransaktionen und Sicherheitsfunktionen von der CPU auf speziell dafür entwickelte Chips. Laut Microsoft bringt das die vierfache Leistung bei deutlich geringerem Stromverbrauch. Azure Integrated HSM, ein selbst entwickelter Sicherheitschip, steckt in allen neuen Rechenzentrumsservern und hält kryptografische Schlüssel innerhalb der Hardware-Sicherheitsgrenze.

Microsoft, Marvell und Oracle führen außerdem Tessera Integrated HSM ein, eine Open-Source-Initiative, die die Architektur von Azure Integrated HSM weiterführt. Sie legt Architektur, Spezifikationen, Protokolle, Treiber, Software, Firmware und Silizium offen.

Netzwerk, Strom und Kühlung

Beim Netzwerk haben Microsoft und Branchenpartner Multipath Reliable Connection (MRC) entwickelt, das Ethernet für KI neu denkt. Die Multi-Plane-Architektur skaliert mit zwei Netzwerkebenen auf mehr als 100.000 GPUs und nutzt Packet Spraying, um Überlastungen zu begrenzen. Microsoft verweist zudem auf die Optical Compute Interconnect Multi-Source Agreement (OCI MSA), die erste optische Spezifikation für Scale-up-Systeme über mehrere Racks hinweg. Die Arbeitsgruppe Ethernet for Scale-Up Networking (ESUN) mit mehr als 175 Organisationen hat die Spezifikationsversion 1.0 veröffentlicht und arbeitet an Version 1.1, die später in diesem Jahr erscheinen soll.

Bei der Stromversorgung will Microsoft die Branche zu einer Infrastruktur mit 800 Volt Gleichstrom (VDC) bewegen. Die Mt.-Diablo-Architektur trennt die Stromwandlung vom Compute-Rack und unterstützt ungefähr 100 Kilowatt bis über ein Megawatt. Die Spezifikationen v0.7 und v1.0 wurden an das OCP übergeben. Zudem arbeitet das Unternehmen an Architekturen mit Solid-State-Transformatoren, offenen Anforderungen für Backup-Systeme, die weniger auf Diesel angewiesen sind, und einer gemeinsamen Netzschnittstellen-Spezifikation für Versorger, Betreiber und Hersteller.

Bei der Kühlung verdoppelt die dritte Generation der Azure Heat Exchanger Unit, Mt. Atlas, laut Microsoft die Kühlkapazität im Vergleich zur Vorgängergeneration nahezu, bei gleichem Platzbedarf im Betrieb. Die KI-Rechenzentren der nächsten Generation sollen eine zonale Kühlstrategie mit mehreren unabhängigen Wasserkreisläufen bei unterschiedlichen Temperaturen nutzen.

Zuverlässigkeit der Flotte und Einordnung

Microsoft hat über das OCP außerdem gemeinsame Spezifikationen für RAS, Debugging, Telemetrie und Diagnose veröffentlicht. Nach eigenen Angaben nutzt das Unternehmen Flottendaten aus mehreren Jahren und KI, um Fehler vorherzusagen, Probleme genau zu lokalisieren und sich autonomer zu erholen.

Die Ankündigung zeigt, wie Microsoft eigene Chips mit offenen Spezifikationen über den gesamten Rechenzentrums-Stack hinweg verbindet. Die meisten Leistungsangaben sind Aussagen oder Erwartungen des Unternehmens selbst, und die Quelle nennt weder Preise noch die Verfügbarkeit von Maia 300. Für Kunden lautet das erklärte Ziel eine KI, die besser verfügbar, zuverlässiger und nachhaltiger ist, während andere Hersteller und Betreiber dank der OCP-Beiträge dieselben Designs übernehmen können.