Ollama Cloud läuft jetzt in Fly.io Sprites und macht KI-Agenten sicherer

Was ein Sprite ist und was der Connector hinzufügt

Laut Ollama ist ein Sprite eine Sandbox von Fly.io. Jeder Sprite ist eine vollständige virtuelle Linux-Maschine mit eigener Festplatte, die zwischen den Sitzungen erhalten bleibt. Claude Code, Codex und Gemini CLI werden von Haus aus unterstützt, sodass Agenten in der Sandbox laufen und Befehle sicher ausführen können.

Mit dem neuen Ollama Connector können Sprites die Cloud-Modelle von Ollama nutzen. In der Ankündigung werden kimi-k3, glm-5.3 und deepseek-v4.1-flash als Beispiele genannt.

So bleibt der Schlüssel geschützt

Der Nutzer hinterlegt einen Ollama-API-Schlüssel in seiner Fly.io-Organisation. Fly.io verschlüsselt ihn und gibt ihn über die API nie wieder heraus. Ruft Code in einem Sprite Ollama auf, läuft die Anfrage über ein Fly.io-Gateway. Das Gateway prüft, welcher Sprite den Aufruf stellt, und fügt der Anfrage den Schlüssel hinzu. Der Sprite selbst kennt nur eine Gateway-URL und eine Verbindungs-ID.

Ollama nennt mehrere Folgen dieses Aufbaus:

• Ein Agent in einem Sprite kann den Schlüssel nicht preisgeben.
• Neue Connectors sperren standardmäßig jeden Sprite.
• Nutzer legen fest, welche Sprites Zugriff erhalten: per Label, per Namenspräfix oder für alle.
• Aufrufe funktionieren nur aus einem Sprite heraus.

Der Einstieg

Nutzer brauchen einen Ollama-API-Schlüssel und mindestens einen Sprite. Im Fly.io-Dashboard öffnen sie Sprites, dann Connectors, und fügen einen Ollama-Connector mit dem Schlüssel hinzu. Unter Access Configuration wählen sie aus, welche Sprites ihn nutzen dürfen, und speichern. Mit der Schaltfläche Test reachability neben jedem Sprite lässt sich prüfen, ob dieser Ollama erreichen kann.

Aus dem Sprite heraus geht eine Anfrage an eine Gateway-URL der Form https://api.sprites.dev/v1/gateway/ollama/<connection_id>/v1/chat/completions. Einen Authorization-Header gibt es nicht, denn das Gateway fügt den Schlüssel hinzu. Auf der Connector-Seite wird der Befehl mit der eingetragenen Verbindungs-ID des Nutzers angezeigt.

Laut Ollama funktioniert jedes OpenAI-SDK. In Python setzt der Nutzer base_url auf das Gateway und verwendet für api_key einen beliebigen Wert. Auch die nativen /api/*-Routen von Ollama funktionieren über das Gateway.

Coding-Agenten und ein Fuzzing-Beispiel

Fly.io Sprites enthalten einen Skill, der Claude Code, Cursor, Codex und Gemini CLI über Ollama informiert. Hat der Sprite Zugriff, kann der Agent Ollama-Modelle ohne jede Einrichtung nutzen.

Außerdem gibt es von Fly.io eine Anleitung, die mehrere Modelle für Fuzzing kombiniert. Ein kleines Modell wie nemotron-3-nano:30b erzeugt fehlerhafte Eingaben, ein Sprite führt sie gegen das Programm des Nutzers aus, und ein größeres Modell wie kimi-k3 untersucht die Abstürze. Zum Wechsel des Modells genügt es, das Feld model zu ändern.

Was das für Nutzer bedeutet

Für Entwickler, die Coding-Agenten Befehle ausführen lassen, trennt dieser Aufbau den Agenten von den Zugangsdaten. Die Sandbox erreicht die Cloud-Modelle von Ollama, doch der Schlüssel bleibt beim Gateway von Fly.io, und der Zugriff ist abgeschaltet, bis der Nutzer ihn für bestimmte Sprites freigibt. Ollama dankte dem Fly.io-Team für die gemeinsam gebaute Integration und verweist für Details zur Einrichtung auf die Quickstart-Anleitung zum Ollama Connector bei Fly.io.