Flatkey startet dedizierte NVIDIA-B300-Cluster für KI-Inferenz
Flatkey hat Flatkey Compute gestartet, eine NeoCloud, die dedizierte NVIDIA-B300-Cluster für KI-Inferenz aufbaut und betreibt. Jeder Cluster ist für einen einzigen Kunden reserviert, sodass keine anderen Mandanten dessen Hardware nutzen.
- Flatkey Compute bietet NVIDIA-B300-Cluster für einzelne Kunden.
- Die Cluster sind für KI-Inferenz ausgelegt, nicht für universelle Datenverarbeitung.
- Kunden können GPU-Anzahl, Region und Netzwerktopologie festlegen.
- Reservierte Laufzeiten von einem, drei und fünf Jahren sind verfügbar.
- Kleinere Teams können wenige GPUs auf Abruf stundenweise mieten.
Dedizierte Infrastruktur für Inferenz im Produktivbetrieb
Flatkey zufolge richtet sich der Dienst an KI-Teams, die Workloads aus der Experimentierphase in den Produktivbetrieb überführen. Das Unternehmen argumentiert, dass universell einsetzbare Cloud-Infrastrukturen, bei denen mehrere Mandanten dieselbe physische Hardware nutzen, die Vorhersagbarkeit der Inferenzleistung beeinträchtigen und Sicherheitsprüfungen für regulierte Kunden erschweren können.
Bei Flatkey Compute wird ein vollständiger Cluster einem einzigen Kunden zugewiesen. Laut Flatkey bedeutet das, dass der Workload eines anderen Mandanten die Leistung des Clusters nicht beeinflussen kann. Außerdem müssen Kunden bei der Prüfung des Zugriffs auf die Maschinen keine Mitnutzer berücksichtigen.
Die Cluster laufen auf NVIDIA-B300-Hardware und werden speziell für KI-Inferenz aufgebaut. Flatkey bietet keine universelle Datenverarbeitung an, sondern konzentriert Infrastruktur und Betrieb auf KI-Workloads.
Flatkey dimensioniert und betreibt jede Bereitstellung
Flatkey zufolge hat das Unternehmen bereits vor dem Start Rechenkapazität an Dutzende große Kunden geliefert. Statt aus standardisierten Instanztypen auszuwählen, geben Kunden die für ihre Workloads benötigte GPU-Anzahl, Region und Netzwerktopologie an.
Nach der Bereitstellung eines Clusters betreibt Flatkey ihn für den Kunden. Nach Angaben des Unternehmens entfällt dadurch die Notwendigkeit, ein eigenes Infrastrukturteam für den Betrieb der Infrastruktur zu unterhalten.
Flatkey beschreibt den Dienst außerdem als regelkonforme und vertrauenswürdige Inferenz-Cloud. Das Unternehmen erklärt, es sei DSGVO-konform, überwache seine Sicherheitskontrollen kontinuierlich über Vanta und speichere keine Inhalte von Anfragen.
Preise, Laufzeiten und Verfügbarkeit
Kunden können über die Website von Flatkey Kapazität anfragen und dabei die benötigte GPU-Anzahl, Region und Laufzeit angeben. Flatkey zufolge antwortet das Unternehmen innerhalb von 24 Stunden und erstellt anschließend ein formelles Angebot mit Preis, Konfiguration, Region und Bereitstellungstermin.
Nach Angaben des Unternehmens sind reservierte Laufzeiten von einem, drei und fünf Jahren verfügbar. Längere Vertragsbindungen werden dabei günstiger angeboten. Ein Referenzpreisindex für GPUs auf der Anfrageseite nennt Richtwerte, bevor Kunden Kontakt aufnehmen.
Flatkey Compute ist ab sofort auf Anfrage verfügbar. Kleinere Teams, die nur wenige GPUs benötigen, können diese über die Flatkey-Konsole auf Abruf stundenweise mieten. Das Unternehmen wurde im Juli 2026 gegründet und hat seinen Hauptsitz in San Jose, Kalifornien.
Was der Start für KI-Teams bedeutet
Flatkey positioniert dedizierte Cluster als Alternative für Organisationen, die mehr Kontrolle über ihre Inferenzinfrastruktur benötigen, als gemeinsam genutzte Cloud-Kapazitäten bieten. Das Modell kombiniert exklusive Hardware mit einem betriebenen Dienst. Kunden können so die Anforderungen an die Bereitstellung festlegen, ohne den Cluster selbst betreiben zu müssen.
„Inferenz entwickelt sich von etwas, mit dem Teams experimentieren, zu etwas, von dem ihr Produkt abhängt“, sagte Flatkey-Gründer Hunter Guo. „Ab diesem Punkt möchte man keine Maschine mehr mit Fremden teilen. Man möchte seinen eigenen Cluster haben, wissen, wo er steht, und jemanden haben, der ihn für einen betreibt. Genau das bauen wir.“
