Tencent Cloud Enterprise startet Private Cloud für souveräne agentische KI

Ein vollständiger Stack von der Infrastruktur bis zu den Agenten

Die Full-Stack Intelligent AI Suite ist die diesjährige Vorzeigeneuheit von Tencent Cloud Enterprise. Nach Angaben des Unternehmens markiert sie den Wandel von einer Full-Stack-Cloud zu einer vollständig intelligenten Cloud mit vier wählbaren Ebenen: einer zusammengeführten Grundlage für Computing, Speicher und Netzwerk; einer Modelldienstebene; einer Laufzeitebene für Agenten sowie einer Anwendungsebene für Agenten.

Die Modellebene basiert auf TokenHub, der privaten MaaS-Plattform von Tencent Cloud Enterprise für Dienste großer Sprachmodelle. TokenHub wandelt Rechenressourcen in Tokendienste um, die über eine einheitliche Inferenz-API aufgerufen, abgerechnet und betrieben werden können. Die Plattform unterstützt laut Unternehmen die Isolation mehrerer Mandanten sowie die Messung des Token-Verbrauchs für einzelne Nutzer und API-Schlüssel.

Die Agenten-Laufzeit umfasst eine Cloud-native-Sandbox, die Kontrolle ausgehender Verbindungen und Identitätsnachweise. Tencent Cloud Enterprise zufolge lässt sich das Verhalten der Agenten vollständig überprüfen, Laufzeitumgebungen können innerhalb weniger Minuten bereitgestellt werden, und eine einheitliche Planung von Training und Inferenz kann die Auslastung heterogener Rechenressourcen um bis zu 60% steigern.

Aussagen zu Leistung und Souveränität

Tencent Cloud Enterprise gibt für die integrierte Inferenzbeschleunigung einen gemessenen Durchsatz von mehr als 250,000 TPM pro Beschleuniger, Cache-Trefferraten von über 90% und Durchsatzsteigerungen von bis zu 220% auf alternativen Chips an. Dabei handelt es sich um vom Unternehmen gemeldete Werte.

Die Suite ist mit gängigen x86- und ARM-Prozessoren sowie Beschleunigern verschiedener Hersteller kompatibel. Nach Angaben von Tencent Cloud Enterprise wurde sie im Maßstab von 10,000 GPUs validiert und unterstützt Ausfallsicherheit auf Finanzniveau mit einer RTO von höchstens 2 Minuten und einer RPO von 0.

Das Unternehmen erklärt außerdem, dass Daten, Modellgewichte und Inferenzverkehr die Souveränitätsgrenze des Kunden niemals verlassen. Kaibo Sha, Vice President von Tencent Cloud, bezeichnete die zentrale Frage beim Zugriff von Agenten auf Kerngeschäftsdaten und kritische Systeme laut der Ankündigung als: „wo die Daten verarbeitet werden, wer das System betreibt und auf welcher Grundlage der Agent läuft“.

Lite Deployment startet mit acht Servern

Tencent Cloud Enterprise Lite Deployment richtet sich an Organisationen, die mit einer kleineren Private-Cloud-Umgebung beginnen und diese ohne Plattformwechsel ausbauen möchten. Eine vollständige Full-Stack-Cloud kann mit acht Servern betrieben werden: drei Master-Knoten, drei Block-Storage-Knoten und zwei Knoten für Netzwerkfunktionen. Eine reine KI-Umgebung kann laut Unternehmen mit drei Servern und integrierten privaten Modelldiensten starten.

Dieselbe Architektur kann von einer einzelnen Verfügbarkeitszone über einen aktiven Aktivbetrieb mit zwei Verfügbarkeitszonen in einer Metropolregion bis hin zur regionsübergreifenden Notfallwiederherstellung skaliert werden. Die Software läuft auf vorhandener Hardware, erfordert keine kostenintensive Erneuerung und ist laut Tencent Cloud Enterprise nicht an einen Mindestumsatz gebunden.

Das Unternehmen verweist auf einen großen Terminbroker, der diesen Ansatz für eine vollständige Private Cloud zur Unterstützung zentraler Handelssysteme über heterogene Chiparchitekturen hinweg eingesetzt hat. Der Broker startete seine KI-Umgebung mit drei Servern und baute sie mit zunehmendem Volumen aus.

Studien zeigen Bedarf an kontrollierter KI-Infrastruktur

Tencent Cloud Enterprise hat außerdem eine gemeinsame Forschung mit Gartner und Omdia angekündigt. Der gemeinsam mit Gartner erstellte Leitfaden A Practical Guide to Building Sovereign AI Cloud Platforms versteht Souveränität als Spektrum, das auf Daten, Betrieb und Technologie basiert. Er beschreibt Einführungswege für Finanzdienstleistungen, das Gesundheitswesen, öffentliche Cloud-Dienste und Telekommunikation.

Die im Leitfaden zitierte Gartner-Studie besagt, dass strenge Vorschriften zu Datensouveränität und Datenschutz bis 2028 mehr als 25% der Unternehmen in regulierten Branchen dazu zwingen werden, ihre primären GenAI-Workloads wieder vor Ort zu betreiben. Außerdem heißt es, dass die Abhängigkeit von proprietären Basismodellen bis 2029 dazu führen wird, dass mehr als 50% der GenAI-Anwender an das Ökosystem eines einzigen öffentlichen Cloud-Anbieters gebunden sind, während nur 17% der Organisationen angeben, über ausreichend Fachkräfte für die Einführung von KI zu verfügen.

Der Omdia-Bericht Telco Cloud and AI Transformation: Global Market Opportunities and Case Studies prognostiziert zwischen 2026 und 2031 Investitionen von 160 Milliarden US-Dollar in KI-Rechenzentren unter Führung von Telekommunikationsunternehmen. Als zentrale Transformationstrends nennt er Full-Stack-Industrie-Cloud-Plattformen, nationale Cloud-Infrastrukturen und die Monetarisierung von KI über GPU-as-a-Service hinaus. Zusammengenommen positionieren die Neuvorstellungen das Angebot von Tencent Cloud Enterprise für Kunden, die einen privaten Betrieb, flexible Hardware und einen Weg von kleinen Pilotprojekten zu größeren Produktionsumgebungen benötigen.