Kilo Desktop bringt große lokale KI-Modelle auf Dells GB10-Desktop

Kilo Desktop und Anaconda sind ab sofort für Dell Pro Precision mit GB10 verfügbar. Sie verbinden lokale Modellbereitstellung, Python-Umgebungen und agentische Entwicklungswerkzeuge auf einem Desktop-System. Laut Kilo Code kann die Konfiguration Modelle mit offenen Gewichten lokal auf NVIDIAs GB10 Grace Blackwell Superchip mit 128 GB gemeinsam genutztem Speicher ausführen.
- Kilo Desktop und Anaconda sind ab sofort für Dell Pro Precision mit GB10 verfügbar.
- Das System verwendet NVIDIAs GB10 Grace Blackwell Superchip mit 128 GB gemeinsam genutztem Speicher.
- Kilo Desktop kann Modelle mit offenen Gewichten herunterladen und lokal bereitstellen.
- Lokale Modelle treiben agentische Programmier- und Notebook-Werkzeuge an.
- Conda-Umgebungsdateien ermöglichen reproduzierbare Konfigurationen auf Geräten und Cloud-Servern.
Ein lokaler KI-Stack für GB10
Der Dell Pro Precision mit GB10 kombiniert eine Arm-basierte Grace-CPU mit einer Blackwell-GPU, die sich einen gemeinsamen Speicherpool teilen. Laut Kilo Code ermöglicht dieses Design, dass ein einzelner Desktop Modelle aufnehmen kann, für die bislang ein Serverschrank erforderlich war, während die Hardware klein genug bleibt, um auf einem Schreibtisch Platz zu finden.
Die Hardware wird mit Software kombiniert, die für Arm64 Linux entwickelt wurde, die von GB10 verwendete Plattform. Anaconda stellt Python, conda und Pakete aus seinem vertrauenswürdigen Repository als native Arm64-Linux-Builds bereit. Das Unternehmen nennt ausdrücklich NumPy, pandas, PyTorch und scikit-learn als für die Plattform verfügbare Pakete.
Kilo Desktop wird als agentische Engineering-App von Anaconda für Entwickler und Data Scientists beschrieben. Die Anwendung bündelt Umgebungsverwaltung, Anaconda-Pakete, lokale Modellbereitstellung, Programmierung und Notebooks.
Umgebungen und Modelle bleiben auf dem Gerät
Mit Kilo Desktop können Nutzer conda-Umgebungen erstellen, Anaconda-Pakete hinzufügen und eine vorhandene environment.yml-Datei importieren, ohne ein Terminal zu öffnen. Die Datei kann außerdem dieselbe Umgebung auf dem Laptop eines Teammitglieds, einem anderen GB10-System oder einem Cloud-Server wiederherstellen. So entsteht eine portable Dokumentation der Projektabhängigkeiten.
Nutzer können ein Modell mit offenen Gewichten auswählen, herunterladen und über Kilo Desktop einen lokalen Modellserver starten. Der Server verwendet eine mit OpenAI kompatible API. Daher kann Code, der für ein gehostetes Modell entwickelt wurde, eine Verbindung zum lokalen Modell herstellen, indem die Basis-URL geändert wird.
Nachdem ein Modell heruntergeladen wurde, bleiben laut Kilo Code Eingaben, Antworten und die ihnen zugrunde liegenden Daten auf dem Gerät. Dies soll Arbeiten mit sensiblen oder regulierten Daten unterstützen, ohne Eingaben an einen gehosteten Assistenten zu senden. Das Unternehmen erklärt außerdem, dass die lokale Nutzung Gebühren pro Token vermeidet und einem Agenten erlaubt, so oft zu iterieren, wie es eine Aufgabe erfordert.
Agentische Notebooks für die Datenarbeit
Kilo Desktop umfasst Programmier- und Notebook-Werkzeuge, die auf lokal bereitgestellten Modellen laufen. Ein Nutzer kann den Agenten auffordern, einen Datensatz zu laden, Spalten zu bereinigen oder den Umsatz nach Region grafisch darzustellen. Der Agent schreibt und führt anschließend Zellen innerhalb der ausgewählten conda-Umgebung aus und verwendet dabei die für das Projekt ausgewählten Pakete.
Kilo Code beschreibt einen Arbeitsablauf, der mit der Installation von Kilo Desktop und der Verbindung mit Anacondas geprüftem Paket-Repository beginnt. Nutzer können eine Umgebungsdatei importieren oder eine Umgebung erstellen, ein Modell mit offenen Gewichten herunterladen und bereitstellen und anschließend diese Umgebung sowie das Modell mit einem Notebook verknüpfen. Die daraus resultierende Analyse kann in eine Streamlit-App umgewandelt werden, die mit demselben lokalen Modell Fragen zum Datensatz beantwortet.
Anaconda und Kilo Desktop sind laut Kilo Code ab sofort für Dell Pro Precision mit GB10 verfügbar. Das Unternehmen richtet die Konfiguration an Data Scientists und KI-Entwickler, die große Modelle, Workflows mit privaten Daten oder schnellere Iterationen ohne Cloud-Konto oder Cluster-Ticket benötigen. Für Teams und IT-Abteilungen hebt die Quelle reproduzierbare Umgebungen, eine geprüfte Paketquelle und lokale Inferenz hervor, bei der sensible Daten innerhalb der Organisation bleiben.
Kilo Code: Big Models, Small Footprint: Local AI with Kilo Desktop


