Modal führt Burst-basierte Preise für Sandbox-Workloads ein

Modal ändert, wie seine Sandboxes Rechenressourcen nutzen und abgerechnet werden: Bei Lastspitzen skalieren sie über eine kleine Standardanforderung hinaus und geben die Ressourcen wieder frei, wenn die Nachfrage sinkt. Nach Angaben des Unternehmens eignet sich diese Abrechnung aktiver Ressourcen besser für Coding-Agenten, RL-Rollouts, Evaluierungen und Entwickler von Apps.
- Sandboxes skalieren CPU und Speicher über eine kleine Standardanforderung hinaus.
- Abgerechnet wird sekundengenau nach der Nutzung aktiver Ressourcen.
- Die Standardanforderung beträgt 0.125 Kerne und 128 MiB.
- Modals Beispiel weist gegenüber einer festen Reservierung eine Einsparung von 58 % aus.
- Speicherlimits können eine Verdrängung auslösen, wenn eine Sandbox ihre Anforderung überschreitet.
Die Abrechnung richtet sich nach der Nutzung statt nach der Spitzenkapazität
Modal zufolge verbringt eine typische Sandbox mehr als die Hälfte ihrer Laufzeit mit weniger als 6 % ihrer maximalen CPU-Auslastung. Bei einem Coding-Agent-Workload kann die Sandbox beispielsweise nahezu untätig bleiben, während das Modell Schlussfolgerungen zieht, und anschließend mehr Kapazität benötigen, um Abhängigkeiten zu installieren, Tests auszuführen oder ein Projekt zu bauen.
Im Modell von Modal zur Abrechnung aktiver Ressourcen startet jede Sandbox mit einer Standardanforderung von 0.125 Kernen und 128 MiB. Sie kann bei Bedarf wachsen, wobei Kunden pro Sekunde den höheren Wert aus der Anforderung und den tatsächlich genutzten Ressourcen bezahlen. Kunden können für eine garantierte Basiskapazität mehr Ressourcen anfordern, bezahlen diese aber auch dann, wenn die Sandbox im Leerlauf ist.
Modal empfiehlt, Kosten anhand der durchschnittlichen statt der maximalen Nutzung zu schätzen. Die Formeln lauten: CPU-Kosten entsprechen Laufzeit multipliziert mit dem CPU-Tarif und der durchschnittlich genutzten Kernanzahl, Speicherkosten entsprechen Laufzeit multipliziert mit dem Speichertarif und der durchschnittlich genutzten GiB-Menge.
Beispielaufgabe für Coding-Agenten zeigt geringere gemeldete Kosten
Modals beispielhafte 20-minütige Aufgabe für einen Coding-Agenten umfasst die Installation, das Lesen, Bearbeiten, Testen und die Typprüfung sowie einen abschließenden Build. Der Workload nutzt durchschnittlich 0.44 CPU und 0.94 GiB Speicher, während die Spitzenlast 6.00 CPU und 2.30 GiB erreicht.
Bei den von Modal angegebenen Tarifen von 14.19¢ pro CPU-Stunde und 2.40¢ pro GiB-Stunde kostet das Beispiel beim Burst-Betrieb 8.4¢ pro Sandbox-Stunde. Eine feste Reservierung für 1.5 CPU und 3 GiB kostet im Vergleich 20.0¢ pro Sandbox-Stunde. Modal beziffert die Einsparung gegenüber der Reservierung fester Größe mit 58 %.
Das Unternehmen betont, dass der Vergleich beispielhaft ist und nicht auf Produktionsdaten basiert. Zudem weist es darauf hin, dass 1 CPU ungefähr 2 vCPU entspricht und Modal CPU nach physischen Kernen abrechnet, während die meisten Sandbox-Anbieter nach vCPU abrechnen.
Standards, Limits und das Risiko einer Speicherverdrängung
Modal zufolge benötigen die meisten Workloads keine benutzerdefinierte Anforderung oder Begrenzung. Standardmäßig kann die CPU bis zu 16 Kerne über die Anforderung hinaus skalieren, während der Speicher kein Limit hat. Ein Limit kann dennoch helfen, Benchmark-Läufe konsistent zu halten oder die Kosten eines Prozesses ohne Begrenzung beziehungsweise eines außer Kontrolle geratenen Agenten zu deckeln. Das Unternehmen zeigt beispielsweise eine Sandbox mit einer Anforderung von 0.125 Kernen, einem Limit von 4.0 Kernen, einer Speicheranforderung von 128 MiB und einem Speicherlimit von 2048 MiB.
Die CPU ist auf der angeforderten Stufe garantiert, allerdings kann sich eine Sandbox im Burst-Betrieb verlangsamen, wenn einer Maschine die verfügbare CPU ausgeht. Beim Speicher gibt es einen schwerwiegenderen Fehlerfall: Eine Sandbox, die mehr als ihre Anforderung nutzt, kann mit einem Out-of-Memory-Fehler verdrängt werden, wenn der Maschine der Speicher ausgeht. Modal zufolge liegt die OOM-Rate bei Sandboxes unter 8 GiB bei weniger als 0.0001 % pro Minute, also bei ungefähr 1 Verdrängung pro 694 Sandbox-Tagen. Für größere Sandboxes gebe es bislang noch kein SLO.
Um die Auswirkungen zu verringern, verweist Modal auf Exit-Snapshots, Dateisystem-Snapshots, Volumes und Werkzeuge für den Beendigungsgrund, mit denen sich Verdrängungen erkennen und Wiederholungen auslösen lassen. Kunden, deren Workloads OOMs bei den genannten Raten nicht tolerieren können, können eine höhere Speicheranforderung festlegen und anschließend das Diagramm „Exit Reasons“ im Dashboard zur Anpassung verwenden.
Modal: Sandbox resourcing: burst, don't reserve


