Anacondas Kilo Desktop soll lokale KI-Arbeit auf NVIDIA-RTX-Spark-PCs ermöglichen

Hardware für lokale Modelle

NVIDIA RTX Spark bringt laut Anaconda lokales KI-Computing auf Windows-Laptops, darunter den neuen Microsoft Surface Laptop. Die Plattform kombiniert NVIDIA-RTX-Grafik, den kompletten NVIDIA-KI-Stack und bis zu 128 GB Unified Memory. Sie richtet sich an Entwicklung, kreatives Arbeiten und Gaming auf einem einzigen Gerät.

Anaconda zufolge verbindet RTX Spark NVIDIA-Grace-CPU-Kerne mit einer Blackwell-RTX-GPU, einige Konfigurationen bieten bis zu 128 GB Unified Memory. Da sich CPU und GPU diesen Speicher teilen, bleibt mehr Platz für größere Modelle und für den Kontext, den sie während der Ausführung benötigen. Die Plattform unterstützt zudem die vollständige NVIDIA-CUDA-Plattform, also denselben Software-Stack, der auf der gesamten NVIDIA-Hardware zum Einsatz kommt und den Anaconda mit Python-Artefakten unterstützt.

Softwareseitig liefert Anacondas Unterstützung für Windows on Arm natives Python, mehr als 2.500 conda-Pakete und geprüfte Bibliotheken.

Was Kilo Desktop leistet

Kilo Desktop wird als eine App für das Entwickeln mit KI beschrieben, in der Nutzer Code planen, schreiben, testen und debuggen können. Der integrierte lokale Modellserver führt offene Modelle auf RTX-Hardware aus, sodass Prompts auf dem eigenen Rechner bleiben können. Ist lokale Inferenz ausgewählt, werden Prompts auf dem Gerät verarbeitet.

Die App richtet außerdem conda-Umgebungen direkt in der Anwendung ein. Laut Anaconda ist ein RTX-Spark-Gerät dadurch ab dem ersten Prompt bereit für Python-Arbeit. Nutzer können Umgebungen anlegen oder importieren, auch aus einer environment.yml-Datei, und Code, Notebooks und Daten gemeinsam mit dem Modell-Chat verwalten.

Anaconda empfiehlt, mit einer realen Aufgabe zu beginnen, etwa einen Datensatz zu untersuchen, ein fehlerhaftes Skript zu reparieren oder einen Assistenten zu bauen, der Projektdateien durchsucht.

Nemotron-Modelle und Einrichtung

Der Beitrag hebt die NVIDIA-Nemotron-Familie hervor, die er als offene Modelle für Reasoning und Tool-Nutzung beschreibt. Das ist wichtig, wenn ein Agent mehrere Schritte abarbeiten muss: Ein geeignetes Nemotron-Modell kann eine Anfrage interpretieren, entscheiden, welches Tool es aufruft, und das Ergebnis nutzen, um die nächste Aktion zu wählen.

Nutzer sollten eine Modellversion wählen, die zum Arbeitsspeicher ihres Geräts passt, und GGUF-Modelldateien direkt in den integrierten Server von Kilo Desktop importieren, der sie der Modellauswahl des Agenten hinzufügt. Für Agentenaufgaben rät Anaconda zu einem Modell mit Tool-Calling-Unterstützung und dazu, in den Einstellungen Coding-Tools und Anweisungen zu aktivieren.

Die genannten Schritte lauten:

• Kilo Desktop öffnen, anmelden und den Projektordner auswählen.
• Die conda-Umgebung des Projekts auswählen oder die zugehörige environment.yml-Datei importieren.
• Ein kompatibles Nemotron-Modell importieren, den Modellserver starten und das Modell im Chat auswählen.
• Coding-Tools für ein Modell aktivieren, das sie unterstützt, und ihm eine kleine Aufgabe geben, etwa eine Python-Datei zu erklären.

Anaconda zufolge ist das Ziel eine erste lokale Antwort in unter fünf Minuten, sobald Kilo Desktop, die Modelldatei und die Pakete des Projekts installiert sind. Erste Downloads und die Einrichtung dauern je nach Verbindung und gewähltem Modell länger.

Ein Beispiel-Workflow und was er bedeutet

Anaconda skizziert einen hypothetischen Fall: Ein Produktteam will wissen, warum die Retouren gestiegen sind, und beginnt mit einem Ordner voller CSV-Dateien. Ein Entwickler könnte den Agenten bitten, die Spalten zu prüfen, fehlende Werte zu markieren und ein Python-Notebook zu schreiben, das die Retourenquoten nach Produkt und Monat vergleicht. Der Entwickler prüft Code und Ergebnisse und lässt den Agenten anschließend die größten Veränderungen untersuchen. Python übernimmt die Berechnungen, während das lokale Modell die Arbeit steuert und erklärt, was die Zahlen zeigen.

Das Unternehmen sagt, derselbe Ansatz funktioniere auch für einen Dokumentenassistenten, einen Coding-Agenten, der die Tests eines Projekts ausführt, oder einen Workflow, der neue lokale Dateien in einen Bericht verwandelt. Für Teams empfiehlt Anaconda, die Python-Anforderungen in einer environment.yml-Datei zu speichern und Modellversion sowie Einstellungen neben dem Code zu dokumentieren, damit Kollegen mit kompatibler Hardware den Workflow nachbauen können.

Für Entwickler mit RTX-Spark-Rechnern lautet das Versprechen, den gesamten Entwicklungsprozess lokal unter Windows durchzuführen, wobei die Prompts auf dem Gerät bleiben. Preise oder Leistungs-Benchmarks nennt der Beitrag nicht.