Personal AI startet MODEL-4: Betriebssystem für Telekomanbieter, die KI pro Anschluss verkaufen

Was MODEL-4 leistet

Laut Personal AI verbindet MODEL-4 proprietären Speicher, eine eindeutige Identität, Inferenz im Netz und multimodale Agenten zu einem Dienst, der auf jedem Anschluss läuft. Netzbetreiber seien dafür gut positioniert, argumentiert das Unternehmen, da sie bereits eine direkte Beziehung zu nahezu jeder Privatperson und jedem Unternehmen, eine vertrauenswürdige Identität für jeden Anschluss, eine Abrechnungsbeziehung und eine verteilte Netzinfrastruktur hätten.

Die Mitteilung nennt fünf Kernfunktionen:

• Persönliches Gedächtnis: ein dauerhaftes persönliches Modell für jeden Teilnehmer, das sich erinnert, lernt und sich im Laufe der Zeit weiterentwickelt und an den Teilnehmer und dessen Anschluss gebunden ist.
• Netzidentität: SIM-Karte und Telefonnummer dienen als Identität des Agenten, eine separate App oder ein Login ist nicht nötig.
• Kleine Sprachmodelle im Netz: Tier-1-SLMs verarbeiten etwa 95 % des Datenverkehrs innerhalb des Betreibernetzes und leiten nur komplexe Anfragen an größere Modelle weiter.
• Sprach- und Textagenten: Teilnehmer erreichen Agenten über native Anrufe und Textnachrichten.
• Token-Tarife: Betreiber können Intelligenz neben bestehenden Tarifen für Sprache, SMS und Daten bündeln und abrechnen.

Suman Kanuganti, Mitgründer und CEO von Personal AI, sagte: „Intelligenz ist die nächste Konnektivität, und Netzbetreiber sind am besten aufgestellt, sie bereitzustellen.“

Leistungsversprechen und Erlösmodell

Aufbauend auf Forschung zur Intelligence-Everywhere-Orchestrierung, die mit NVIDIA und Comcast durchgeführt wurde, erreicht MODEL-4 nach Angaben von Personal AI 16 ms bis zum ersten Token, 405 Millisekunden Ende-zu-Ende-Latenz bei Sprache und Kosten von 0,02 US-Dollar pro Million Token, bei Bruttomargen für Betreiber von >90 % im großen Maßstab. Diese Zahlen stammen aus der Mitteilung des Unternehmens.

Token-Tarife eröffnen Netzbetreibern drei Erlöswege:

• Nativ: Ein im Tarif enthaltenes Token-Kontingent versorgt netzeigene Agenten für Anrufbearbeitung, verpasste Anrufe, Nachrichten im Namen des Teilnehmers und proaktive Erinnerungen.
• Aggregation: Für tiefergehendes Schlussfolgern oder Websuche kann der Agent an führende LLM-Anbieter weiterleiten, und der Netzbetreiber stellt diesen KI-Plattformen den Zugang in Rechnung.
• Agent Store: Persönliche Agenten können mit Unternehmensagenten Transaktionen für Dienste wie Fahrten, Reservierungen und Bankgeschäfte abwickeln, ohne dass eine App geöffnet werden muss, und der Netzbetreiber erhält einen Anteil an jeder Transaktion.

Personal AI geht davon aus, dass ein persönlicher Agent auf jedem Anschluss den ARPU über den gesamten Kundenstamm eines Betreibers steigern kann. Da das Gedächtnis der Teilnehmer unter den bestehenden CPNI-Schutzbestimmungen oder länderspezifischen Gesetzen im Netz bleibe, könnten Netzbetreiber die Dienste zudem innerhalb des Datenschutzrahmens anbieten, den sie bereits betreiben.

Der Partner-Stack

MODEL-4 soll sich in die Infrastruktur einfügen, die Netzbetreiber bereits betreiben. NVIDIA beschleunigt die Inferenz, Microsoft Azure Local hält die Daten vor Ort, Cisco optimiert das Netz, Rafay orchestriert die Bereitstellung über Core und Edge, und Telegent vereint Sprache, Messaging und Mobilfunk der Netzbetreiber mit Geschäftskommunikation.

Auf der Hardwareseite nutzt MODEL-4 laut Personal AI die Multi-Instance-GPU-Partitionierung auf NVIDIA-RTX-PRO-6000-Blackwell-Servern mit 96 GB VRAM. Jede GPU-Partition kann bis zu 40 destillierte Instanzen kleiner Sprachmodelle neben ASR- und TTS-Spuren hosten, was nach Angaben des Unternehmens eine planbare Latenz im Subsekundenbereich und null Störungen zwischen Mandanten sicherstellt. Die Plattform integriert außerdem NeMo-Retriever-Nemotron-VL-Modelle für Embeddings und Reranking, mit vLLM bereitgestellte LLMs mit Upgrade-Pfaden zu LLM NIM sowie Parakeet-0.6B für Speech-to-Text.

Rafay zufolge verkürzt seine Orchestrierung die Bereitstellungszeit von Jahren auf Wochen. Telegent beschreibt sich als Entwickler der ersten nativen KI-Mobilfunknetzplattform und sagt, Netzbetreiber und MVNOs jeder Größe könnten MODEL-4 schnell zu ihren Kunden bringen. Rodrigo Diehl, Vorstandsmitglied der Deutschen Telekom und CEO der Telekom Deutschland, sagte, das Netz werde entscheiden, wo eine KI-Arbeitslast am besten ausgeführt wird: „auf dem Gerät, am Edge, in einem souveränen Rechenzentrum oder in der Cloud“.

Was das für Netzbetreiber und Teilnehmer bedeutet

Für Netzbetreiber liegt der Reiz darin, KI zu einem abrechenbaren Netzdienst zu machen, statt sie eigenständigen Apps zu überlassen. Für Teilnehmer lautet das Versprechen: eine KI, die sie bereits kennt und die sich per Anruf oder SMS erreichen lässt, ohne dass eine neue App heruntergeladen werden muss, wie es Telegent-CEO Spence Angerbauer formulierte. Die Mitteilung nennt weder Preise für Token-Tarife noch konkrete Netzbetreiber als Kunden oder einen Termin für die kommerzielle Verfügbarkeit. Wie schnell Netzbetreiber MODEL-4 einführen, bleibt daher abzuwarten.