DigitalOcean startet Public Preview von MicroVMs für KI-Agenten-Workloads

Was eine MicroVM ist und wie sie funktioniert

Laut DigitalOcean benötigen Plattformen für Coding-Agenten, Sandbox-Produkte und Code-Ausführungsdienste isolierte Maschinen, die schnell starten, ihren Zustand zwischen Arbeitsphasen behalten und im Leerlauf keine Rechenleistung verbrauchen. Das selbst aufzubauen bedeutet, Kapazitäten anzumieten und aus rohen Servern Compute auf Abruf zu machen, einschließlich Flottenverwaltung, Snapshots, Pausieren und Fortsetzen, Isolation pro Mandant, Platzierung und Wiederherstellung.

Eine DigitalOcean MicroVM ist eine isolierte virtuelle Maschine auf Basis von Firecracker. Nutzer erstellen sie aus einem Container-Image, das den Agenten, seine Toolchain und seine Abhängigkeiten bündelt. Die MicroVM startet mit eigenem Kernel und einer hardwarevirtualisierten Grenze statt einer gemeinsam genutzten. Laut DigitalOcean soll das Design sicherstellen, dass etwaige Fehltritte eines Agenten auf diese eine MicroVM beschränkt bleiben, getrennt vom Host und von anderen Kunden. Der Zugriff auf Sitzungen erfolgt über einen authentifizierten HTTPS-Endpunkt, sodass nur Anfragen mit einem gültigen DigitalOcean-API-Token eine Verbindung herstellen können.

Pausieren, Fortsetzen und Checkpoints

Das Unternehmen weist darauf hin, dass ein Coding-Agent einen großen Teil einer Sitzung damit verbringt, auf die Antwort eines Modells, auf die Ausführung von Code oder auf die Prüfung seiner Arbeit durch einen Menschen zu warten. Eine MicroVM pausiert nach einer vom Nutzer festgelegten Leerlaufzeit, und im pausierten Zustand fallen keine Compute-Kosten an. Sobald die nächste Anfrage eintrifft, setzt die MicroVM laut DigitalOcean binnen Millisekunden fort, mit unverändertem Arbeitsspeicher, unveränderten Dateien und laufenden Prozessen.

Auch der Start dauert laut Unternehmen nur Millisekunden. Ein Schub neuer Sitzungen startet einfach weitere MicroVMs auf Abruf, bis zum MicroVM-Limit des Teams, sodass Kapazitäten nicht im Voraus bereitgestellt werden müssen.

Nutzer können außerdem eine Umgebung einmal einrichten, einen Checkpoint erstellen und neue Sitzungen von diesem Checkpoint aus starten. So beginnt jede Sitzung vorgewärmt, statt von Grund auf neu aufgebaut zu werden.

• Automatische Wiederherstellung: Stürzt eine Workload nach dem Start ab, startet die MicroVM sie neu. Gerät eine Workload in eine Fehlerschleife, hört sie auf, es erneut zu versuchen. Das verhindert, dass ein defektes Image endlos neu gestartet wird.
• Privates Networking: MicroVMs können innerhalb eines VPC des Kunden laufen, um auf Datenbanken und interne Dienste zuzugreifen, ohne diese öffentlich zugänglich zu machen. DigitalOcean kann ein VPC anlegen, falls der Kunde keines hat.

Verbindung zu Managed Agents und Preise

MicroVMs bilden zudem die Grundlage von DigitalOcean Managed Agents, das sich ebenfalls in der Public Preview befindet. MicroVMs stellen die virtuelle Maschine und ihren Lebenszyklus bereit: Erstellen aus einem Image, Pausieren und Fortsetzen, Checkpoints, Ausführen von Befehlen und Zugriff über einen Endpunkt. Managed Agents setzt darauf auf, und die DigitalOcean Harness Runtime ergänzt eine Agent-Control-Plane für das Lesen, Schreiben, Hoch- und Herunterladen von Dateien, das Ausführen und Aktualisieren des Agent-Harness, das Bewahren des Sitzungszustands über mehrere Läufe hinweg sowie den kontrollierten Zugriff auf Tools.

Compute wird sekundengenau und nur abgerechnet, solange eine MicroVM läuft: mit 0,022 $ pro vCPU-Stunde und 0,0085 $ pro GiB-Stunde. Speicher kostet 0,05 $ pro GiB und Monat und hält die Festplatte und den gesicherten Zustand verfügbar, sodass für eine pausierte MicroVM nur Speicherkosten anfallen. Ausgehender Datentransfer über öffentliche Netzwerke kostet 0,01 $ pro GiB.

DigitalOcean nennt ein Beispiel: Eine MicroVM mit 2 vCPU und 4 GiB Arbeitsspeicher, die eine volle Stunde läuft, kostet 0,078 $ an Compute. Eine Coding-Agent-Sitzung mit dieser Konfiguration, die 15 Minuten der Stunde läuft und im Rest der Zeit pausiert ist, würde 0,0195 $ an Compute plus Speicher kosten.

Einstieg und Bedeutung

Neben Coding-Agenten nennt DigitalOcean als mögliche Einsatzfelder Sandboxes für nicht vertrauenswürdigen Code, Umgebungen für Evaluierung und Reinforcement Learning, CI/CD-Runner sowie Vorschauumgebungen für Pull Requests. Eine MicroVM lässt sich über das Control Panel, das Kommandozeilenwerkzeug doctl oder die API erstellen. Der Standard-HTTP-Port ist 8080, und mit dem Flag --http-port lässt sich ein anderer Container-Port zuordnen. Nach der Erstellung können Nutzer die MicroVM pausieren, fortsetzen, einen Checkpoint anlegen und Befehle darin ausführen.

Für Teams, die Agentenprodukte entwickeln, ist das Angebot eine verwaltete Alternative zum Betrieb einer eigenen Isolations- und Flottenschicht, mit Preisen, die an die aktive Zeit statt an die Sitzungsdauer gekoppelt sind. Der Dienst befindet sich weiterhin in der Public Preview, und die Quelle macht über die Regionsoption im Erstellungsbefehl hinaus keine Angaben zur regionalen Verfügbarkeit.