MemryX AI stellt MX3+-Beschleuniger mit mehr als 1 POPS Rechenleistung vor

Skalierbare Beschleunigerarchitektur

MX3+ baut auf der in der Produktion bewährten MX3-Datenflussarchitektur von MemryX AI auf. Die geplanten Konfigurationen reichen von einem einzelnen Beschleuniger bis zu Systemen mit 16 Chips, wobei mehrere Beschleuniger als ein logisches Gerät zusammenarbeiten. Laut MemryX AI soll eine MX3+-Konfiguration mit 16 Chips mehr als eine Peta-Operation pro Sekunde beziehungsweise 1 POPS maximale KI-Rechenleistung liefern.

Diese Konfiguration soll außerdem 2,16 GB verteilten On-Chip-Speicher bereitstellen. MemryX AI zufolge ermöglicht die verteilte Datenflussarchitektur die Zusammenarbeit der Beschleuniger, ohne dass der Host-Prozessor einzelne Chips verwalten muss. Der Neural Compiler des Unternehmens ordnet neuronale Netze automatisch den verfügbaren Beschleunigern zu. Dadurch können Entwickler die Leistung skalieren, ohne ihre Modelle manuell partitionieren zu müssen.

Unterstützung für komplexere KI-Workloads

MemryX AI zufolge werden die zusätzliche Rechenleistung und der größere Speicher das Einsatzspektrum des MX3+ erweitern. Dazu gehören Bilderkennung mit höherer Auflösung, transformerbasierte Modelle, kleine Sprachmodelle, Vision-Language-Action-Modelle, hybride Architekturen und anspruchsvollere KI-Pipelines mit mehreren Modellen.

Der Beschleuniger ist außerdem für industrielle Automatisierung, Robotik, intelligente Verkehrssysteme, smarte Infrastruktur, Videomanagementsysteme, medizinische Geräte, den Einzelhandel und Unterhaltungselektronik vorgesehen. Seine Datenflussarchitektur mit rechennahem Speicher hält Modelldaten nahe an der Verarbeitung. Nach Angaben des Unternehmens minimiert sie dadurch Datenbewegungen und unterstützt größere Modelle sowie Eingaben mit höherer Auflösung.

MX3+ ist für effiziente, vorhersehbare Inferenz mit niedriger Latenz bei einer Batch-Größe von eins ausgelegt. MemryX AI zufolge wird auch die mit dem MX3 etablierte Entwicklungsumgebung übernommen. Entwickler können damit auf einen vertrauten Prozess zum Kompilieren und Bereitstellen von Anwendungen zurückgreifen, während die Modellkomplexität und die Systemgröße zunehmen.

Engineering Samples für Ende 2027 geplant

MemryX AI plant Engineering Samples des MX3+ für Ende 2027 und die Serienproduktion für Mitte 2028. Weitere Produktspezifikationen, Systemkonfigurationen und Informationen zur Verfügbarkeit sollen im weiteren Entwicklungsverlauf bekannt gegeben werden.

MemryX AI nimmt Anfragen für einen frühen Zugang von ausgewählten strategischen Partnern und Unternehmenskunden entgegen, die Hardware und Softwareplattformen vor der Serienproduktion gemeinsam validieren möchten. Das Unternehmen beschreibt MX3+ als Teil seiner längerfristigen Architektur-Roadmap. Dabei sollen Modularität, Skalierbarkeit und die Prinzipien des verteilten Datenflusses des MX3 erhalten bleiben. Gleichzeitig kommen Funktionen hinzu, die in MX4, die künftige Plattform für fortschrittliche multimodale Inferenz und die Inferenz großer Sprachmodelle, übernommen werden sollen.

Für Kunden deutet die Ankündigung auf einen geplanten Weg von eingebetteten Anwendungen zu größeren Inferenzsystemen auf Basis derselben Architektur hin. MemryX-AI-Präsident und CEO Ross Jatou sagte, MX3+ solle leistungsfähigere KI in praxisnahe Systeme bringen und zugleich die Gesamtbetriebskosten für Edge-Einsätze mit hoher Dichte senken.