ASUS bringt UGen Arc Pro B70 mit 32 GB ECC-Speicher für lokale KI auf den Markt

Für speicherhungrige lokale KI gebaut

ASUS positioniert die UGen B70 als Antwort auf die nach eigener Darstellung dringendste Nachfrage am Markt: viel VRAM zu einem erschwinglichen Preis. Das Unternehmen sagt, LLMs und Multi-Agenten-Workflows wanderten aus der Cloud auf Desktops und Workstations, und diese Workloads belasteten den Speicher stark.

Laut ASUS bläht Reasoning mit langem Kontext die Nutzung des KV-Cache stark auf, und Multi-Agenten-Deployments führen mehrere Modelle gleichzeitig aus, was den VRAM-Bedarf vervielfacht. Wird der VRAM knapp, werden Daten in den Hauptspeicher ausgelagert, wodurch die Inferenzleistung nach Angaben von ASUS um bis zu 90 % einbrechen kann. Die 32 GB ECC-geschützter GDDR6-Speicher sollen anspruchsvolle Modelle vollständig lokal halten.

Eine einzelne Karte unterstützt laut ASUS die meisten Modelle mit weniger als 27 Milliarden Parametern und ermöglicht mit Llama 3.1 8B ein Kontextfenster von bis zu 128K Token. Der Speicher skaliert auf 64 GB bei zwei Karten und auf 128 GB bei vier Karten, was das Unternehmen mit den Anforderungen von KMU und Großunternehmen verknüpft.

Software-Unterstützung und geprüfte Modelle

Den Software-Stack rund um die Karte beschreibt ASUS als breit und schnell reifend. Das Unternehmen nennt folgende Komponenten:

• Intel LLM Scaler und vLLM XPU
• llama.cpp (SYCL und Vulkan)
• Ollama
• Intel OpenVINO und oneAPI
• PyTorch XPU
• ComfyUI für die Bildgenerierung

Zu den verifizierten Modellen zählen Llama 3.1/3.2 (8B bis 70B), Qwen 3.x, DeepSeek-R1 Distill (7B bis 70B), Mistral und Mixtral, OpenAI gpt-oss (20B und 120B), Whisper-large-v3 und InternVL3.5. Nach Angaben von ASUS ist belegt, dass Konfigurationen mit zwei Karten Modelle der 80B-Klasse mit 43,4 Token pro Sekunde ausführen.

Das Unternehmen verweist zudem auf die integrierte Online-Quantisierung (INT4/FP8) von LLM Scaler, die die Abhängigkeit von externen, CUDA-basierten Quantisierungswerkzeugen beseitige. Laut ASUS beeinträchtigen die derzeit bekannten Einschränkungen des Ökosystems den kurzfristigen kommerziellen Einsatz nicht.

Drei Zielgruppen und die Idee des Agent Computers

ASUS nennt drei Nutzergruppen für die Karte. Für Prosumer und unabhängige KI-Entwickler soll eine einzelne 32-GB-Karte die Ressourcengrenze durchbrechen, die gängige 16-GB-Karten bei größeren Modellen setzen. Für kleine Unternehmen und Kreativstudios ermöglichen Setups mit zwei Karten und 64 GB größere Deployments, bei denen sensible Daten im Haus bleiben.

Für KI-Teams in Fachabteilungen großer Unternehmen senken Multi-Karten-Systeme mit 128 GB laut ASUS die langfristigen Kosten im Vergleich zu Cloud-APIs erheblich und erfüllen zugleich Anforderungen an die Datenkonformität in Bereichen wie Recht, Medizin, Verwaltung und Finanzwesen.

ASUS bezeichnet die UGen B70 als Baustein eines Agent Computers, eines Systems, das von Grund auf für den lokalen Betrieb von KI-Agenten konzipiert ist. Die Vision des Agent Computers soll nach Darstellung des Unternehmens KI-Entscheidungen in Cloud-, lokalen und hybriden Umgebungen unterstützen.

Was das für Käufer bedeutet

Die Ankündigung richtet sich an Nutzer, die Modelle aus Datenschutz- und Kostengründen auf eigener Hardware betreiben wollen. Sollten sich die Angaben von ASUS in der Praxis bestätigen, böten eine 32-GB-Karte im Einstieg und bis zu 128 GB über vier Karten kleinen Teams und Unternehmen eine lokale Alternative zu Cloud-APIs. Die Pressemitteilung nennt weder einen Preis noch einen Verfügbarkeitstermin, sodass sich der tatsächliche Kostenvorteil noch nicht beurteilen lässt.