Kilo bietet drei Wege, Nebius Token Factory für Inferenz zu nutzen
Das KI-Coding-Tool Kilo lässt Entwicklerinnen und Entwickler Nebius Token Factory jetzt auf drei Wegen für Inferenz nutzen: mit einem persönlichen Key auf dem eigenen Rechner, mit einem geteilten Key in der Cloud oder über eine organisationsweite Allowlist im Kilo Gateway. Die Optionen beschreibt das Unternehmen in einem Tutorial auf seinem Blog.
- Kilo beschreibt drei Wege zur Nutzung von Nebius Token Factory: lokaler BYOK, Cloud-BYOK und eine Allowlist im Kilo Gateway.
- Die lokale Einrichtung in VS Code läuft über Settings > Providers, in der CLI über den Befehl /connect.
- Ein in Kilo Cloud hinterlegter Key kann von Cloud Agents genutzt und über ein Nutzungskontingent mit einem Team geteilt werden.
- Das Kilo Gateway unterstützt mehr als 500 Modelle von über 60 Anbietern, Administratoren können Nebius-Modelle und -Regionen einschränken.
- Der globale KI-Hackathon Nebius x NVIDIA läuft laut Kilo noch.
Hintergrund: Builders & Brews und der Nebius-Hackathon
Laut Kilo trat das Unternehmen am vergangenen Freitag bei zwei Builders-&-Brews-Veranstaltungen auf. Job Rietbergen sprach in Amsterdam, Brian Turcotte in New York City. Zum Programm auf der Bühne gehörten außerdem JetBrains, LangChain, Nebius und Tavily.
Builders & Brews ist eine fortlaufende Veranstaltungsreihe von Nebius und Tavily, die in Städten weltweit stattfindet. Kilo zufolge waren die Events Teil des globalen KI-Hackathons Nebius x NVIDIA, bei dem es Preise zu gewinnen gibt. Der Hackathon läuft noch, und Kilo lädt interessierte Entwickler ein, sich anzumelden, einen Nebius-Token-Factory-Key zu holen und in Kilo loszulegen.
Option eins und zwei: eigener Key
Der schnellste Weg: einen Key aus Nebius Token Factory nehmen und auf einem lokalen Rechner hinzufügen. Zunächst müssen Nutzer Kilo installieren, entweder in der CLI oder in ihrer bevorzugten IDE. In Kilo für VS Code führt der Weg über Settings > Providers > Show more providers > Nebius Token Factory > Add API key. Bei JetBrains und der CLI läuft es laut Kilo ähnlich, in der CLI lässt sich der Key mit dem Befehl /connect verbinden.
Ist der Key hinterlegt, öffnen Nutzer die Modellauswahl und wählen ein beliebiges Modell mit dem Tag Nebius Token Factory. Ab diesem Moment, so Kilo, „läuft alles auf Nebius“.
Die zweite Option nutzt denselben Key in der Cloud. Nutzer hinterlegen ihn unter Bring Your Own Key (BYOK) in Kilo Cloud. Auch Cloud Agents können den Key verwenden. Teammitglieder in Kilo können den Key der Organisation hinzufügen, sodass andere aus einem gemeinsamen Nutzungskontingent schöpfen können.
Option drei: organisationsweite Allowlist im Kilo Gateway
Der dritte Weg führt über das Kilo Gateway, das laut Kilo von Haus aus mehr als 500 Modelle von über 60 Anbietern unterstützt. Um Nebius-Inferenz einzubinden, geht ein Administrator zu Settings > Providers, aktiviert Nebius Token Factory und legt fest, welche Modelle und Regionen das Team nutzen darf.
Laut Kilo kann ein Team so Anfragen über freigegebene Modelle und Anbieterrouten leiten. Der beigefügte Screenshot zeigt die Anbieter-Allowlist mit aktivierter Nebius Token Factory sowie Filter für Region und Trainingsdaten.
Was das für Entwickler und Teams bedeutet
Die drei Varianten decken unterschiedliche Bedürfnisse ab. Einzelne Entwickler können in wenigen Minuten mit einem persönlichen Key starten. Ein Team kann die Nutzung in Kilo Cloud unter einem gemeinsamen Key bündeln. Eine Organisation, die zentrale Kontrolle wünscht, kann über die Gateway-Allowlist einschränken, welche Nebius-Modelle und -Regionen verfügbar sind.
Für Details verweist Kilo auf seine Dokumentation, für kommende Veranstaltungen in der Nähe auf den Zeitplan von Builders & Brews.
Kilo Code: Kilo x Nebius: powering the software factory
