Baseten zeigt Carbon: Blaxels microVM-Sandbox für KI-Agenten in der Vorabversion

Baseten beteiligt sich an NVIDIAs Initiative für Agentensicherheit

Laut Baseten ist die Sicherheit von Agenten in den vergangenen Wochen zu einem zentralen Thema geworden, wobei der Fokus darauf liegt, wo Fehlerquellen liegen und wie man ihnen begegnet. Das Unternehmen unterstützt nach eigenen Angaben NVIDIAs Agent Safety Platform, die drei Bereiche abdeckt: die Anwendungsebene, die Laufzeitumgebung und die Infrastruktur.

Baseten ist Launch-Partner für NVIDIA OpenShell und Mitglied der Open Secure AI Alliance. Das Unternehmen argumentiert, Offenheit sei ein Vorteil für die KI-Sicherheit, und kündigt an, weiter in Sicherheitskontrollen für die offene Spitzenklasse bei Inferenz, Training und Sandboxes zu investieren.

Baseten verweist auf die jüngsten Arbeiten an Sicherheitsinfrastruktur gemeinsam mit Base Labs, Hugging Face und Goodfire AI. Base Labs entwickelt und veröffentlicht Methoden zum Training und zur Überwachung offener Modelle, und Baseten baut diese Arbeit zur Laufzeit in seine Deployment-Infrastruktur ein. Monitoring helfe nur, wenn seine Signale mit Berechtigungen, Isolation und Prüfungen verknüpft seien, bevor ein Agent Code ausführt. Für Agenten, die auf Baseten laufen, sind laut dem Unternehmen die Sandboxes und die Netzwerkschicht von Blaxel der Ort, an dem diese Kontrollen greifen.

Was Carbon bietet

Baseten erklärt, Blaxel übernommen zu haben, um die Cloud für die nächste Billion Agenten zu bauen. Baseten entwickelt Infrastruktur zum Trainieren und Betreiben von Modellen, während Blaxel die Ausführungsschicht liefert, die Agenten zum Handeln brauchen: microVM-Sandboxes, persistenten Speicher und Netzwerke mit strengen Zugriffskontrollen.

Carbon ist die vierte Infrastrukturgeneration von Blaxel. Laut Baseten ist sie darauf ausgelegt, Billionen von Agenten im Produktivbetrieb zu tragen, und kommt bald auf die Baseten-Plattform, wo sie Sandboxes und eine breitere Ausführungsinfrastruktur für agentische Workflows stützen soll.

Carbon läuft weiterhin auf microVMs. Baseten hält das für notwendig, weil Agenten heute eigenen Code schreiben und ausführen und Isolation auf Hardwareebene dadurch zur Pflicht werde. Jede Carbon-Sandbox erhält eine eigene, dedizierte IPv6-Adresse. Baseten geht davon aus, dass in diesem Jahrzehnt zwischen Milliarden und Billionen Agenten parallel laufen werden und IPv6 das einzige Adressierungsschema mit ausreichend Spielraum sei.

Die wichtigsten Funktionen von Carbon sind laut Unternehmen:

• Kernel-Fähigkeiten für Agenten und Durchsetzung zur Laufzeit
• Manuelle Snapshots
• Forking
• Ein direkter Weg vom Snapshot in die Produktion innerhalb von Millisekunden

Baseten beschreibt Carbon als deutlich flexibler und besser konfigurierbar als jede frühere Generation.

OpenShell-Unterstützung und Rollback

OpenShell ist NVIDIAs Open-Source-Laufzeitumgebung, die Richtlinien auf Kernel-Ebene durchsetzt. Laut Baseten ist sie unabhängig von der Rechenumgebung, in der der Agent läuft, und Blaxel unterstützt sie.

Da Carbon der Sandbox Kernel-Fähigkeiten hinzufügt, kann sie umfangreichere Laufzeitsoftware direkt in ihrem Inneren ausführen. Baseten zufolge öffnet das die Tür für eine neue Generation von Werkzeugen für agentische KI an der Spitze, darunter OpenShell. Blaxel hat eine einsatzbereite Vorlage gebaut, die eine Carbon-Sandbox mit bereits installiertem OpenShell startet.

Die Snapshots sind wichtig für die Wiederherstellung. Markiert OpenShell einen Agenten mitten in einer Aufgabe und stellt ihn unter Quarantäne, können Nutzer laut Baseten sofort auf den letzten bekannten fehlerfreien Zustand zurückgehen, statt den Lauf zu verlieren.

Verfügbarkeit und Bedeutung

Carbon befindet sich in der privaten Preview und wird schrittweise nach Region und Workspace ausgerollt. Die vollständige API-Referenz für Snapshots und Forks findet sich in der Blaxel-Dokumentation. Kunden, die bereits auf Version 3.0 sind und Zugang möchten, sollen sich beim Unternehmen melden. Baseten kündigt weitere Beiträge an, in denen es um Sicherheit innerhalb und außerhalb von Carbon-Sandboxes, um Workflows für Forking und Snapshots sowie um das Anwendungsmodell gehen soll, das Carbon ermöglicht.

Für Teams, die Agenten mit selbst ausgeführtem Code betreiben, bündelt die Ankündigung Isolation, Richtliniendurchsetzung und Zustandswiederherstellung in einer Sandbox-Schicht. Preise und Termine für die allgemeine Verfügbarkeit nannte die Ankündigung nicht.