GitHub Copilot verteilt Programmieraufgaben künftig auf lokale und Cloud-Modelle unter Windows

Automatische Orchestrierung und direkte Modellwahl

Microsoft zufolge wird GitHub Copilot bis Ende des Monats selbst bestimmen, wann eine Aufgabe besser von der Intelligenz auf dem Gerät erledigt wird und wann Modelle im Cloud-Maßstab zum Einsatz kommen sollen. Entwickler müssen Infrastrukturentscheidungen nicht selbst treffen, da Copilot lokale und Cloud-Inferenz im Hintergrund koordiniert.

GitHub führt in der GitHub Copilot CLI, der Copilot-App und in VS Code zwei Wege ein, lokale Modelle zu nutzen:

• Auto: Copilot wählt zwischen lokaler und Cloud-Inferenz. In einer Sitzung mit mehreren Gesprächsrunden kann es beim Routing den Aufgabenkontext und den Cache-Zustand berücksichtigen, damit nützliche zwischengespeicherte Arbeit erhalten bleibt.
• Explizite Auswahl: Entwickler wählen einen bestimmten Anbieter, ein Modell oder einen Endpunkt. Sie können MAI Code 1.1 Flash über den Windows-ML-Provider auswählen oder Copilot mit OpenAI-kompatiblen lokalen Endpunkten verbinden und aus den dort angebotenen Modellen wählen.

Microsoft betont, dass lokale Inferenz eine Sitzung nicht offline macht, da Modellauswahl, Inferenz und Tool-Ausführung unterschiedliche Grenzen haben. Das Unternehmen beschreibt den Ansatz als nächsten Schritt der HydraFusion-Vision, einer Orchestrierungsidee, die mehrere Modelle und nun auch mehrere Rechenumgebungen bis hin zum Edge umfasst.

MAI Code 1.1 Flash auf dem Surface Laptop Ultra

Microsoft AI hat eine lokale Version von MAI Code 1.1 Flash entwickelt, ein auf Programmierung optimiertes Mixture-of-Experts-Modell mit 137 Milliarden Parametern insgesamt und 6,8 Milliarden aktiven Parametern. Für den Betrieb auf dem Gerät kommen Quantisierung und Speculative Decoding zum Einsatz, die den Speicherbedarf verringern und die Reaktionsgeschwindigkeit verbessern sollen, ohne die Qualität bei der Aufgabenerledigung und der Tool-Nutzung zu mindern.

Die Hardware spielt dabei eine wichtige Rolle. Laut Microsoft basiert der Surface Laptop Ultra auf NVIDIA RTX Spark, mit bis zu 128 GB Unified Memory und bis zu 1 Petaflop KI-Rechenleistung. Die Autoren weisen darauf hin, dass der Unified Memory nicht vollständig für die Modellgewichte zur Verfügung steht, da auch das Betriebssystem, Anwendungen, die Inferenz-Runtime und der Key-Value-Cache Platz benötigen. Wenn ein Agent Dateien liest und Tool-Ergebnisse erhält, wächst sein Kontext und der Speicherverbrauch steigt.

Microsoft gibt an, dass das quantisierte Modell 53 GB groß ist, eine Verkleinerung um 80 Prozent gegenüber der Bfloat16-Cloud-Variante. Der Spitzenspeicherverbrauch liegt bei 256k Kontext bei 75,5 GB, der Durchsatz bei der Prompt-Verarbeitung beträgt 923,5 Token pro Sekunde bei 64k Kontext und 769,8 bei 128k.

Das Unternehmen veröffentlichte Benchmark-Ergebnisse, getestet am 5. Oktober 2026:

• SWE-Bench Verified (500 Aufgaben): MAI Code 1.1 Flash 72,6 %, GPT OSS 120B 32,0 %, quantisierte On-Device-Version 70,80 %.
• Terminal-Bench 2.1 (89 Aufgaben): MAI Code 1.1 Flash 62,9 %, GPT OSS 120B 23,6 %, quantisierte On-Device-Version 66,29 %.

Für den Vergleich mit GPT OSS wurde Unsloths GPT-OSS-120B GGUF verwendet. Der On-Device-Test nutzte gemischt-präzise Quantisierung mit etwa 3,3 Bit pro Gewicht, DFlash2 Sliding-Window Speculative Decoding und eine Windows-ARM64-llama.cpp-CUDA-Runtime. Microsoft weist darauf hin, dass die Ergebnisse je nach Gerät und Konfiguration abweichen können.

Sandboxing für die Tool-Ausführung von Agenten

Microsoft weist darauf hin, dass die Shell-Befehle eines Agenten normalerweise die Zugriffsrechte des Kontos erben, unter dem sie laufen, und dass die Verlagerung der Inferenz auf das Gerät daran nichts ändert. Sandboxing wendet eine Richtlinie auf die Prozesse und lokalen Dienste an, die der Agent startet, und steuert den Zugriff auf Dateien, Netzwerke, Anmeldedaten, Systemfunktionen und Ausführungspfade, unabhängig davon, welches Modell die Arbeit angefordert hat.

GitHub Copilot nutzt Microsoft Execution Containers (MXC), eine Open-Source-Bibliothek des Windows-Teams, die Richtlinien in native Betriebssystemkontrollen übersetzt. Unter Windows kommt die BaseContainer-Stufe des ProcessContainer-Backends zum Einsatz, unter macOS Seatbelt und unter Linux bubblewrap. Diese Backends benötigen keine separate virtuelle Maschine und kein Container-Image.

Bei aktiviertem Sandboxing laufen Shell-Befehle und standardmäßig auch lokale Model-Context-Protocol-Server und Language Server innerhalb der Prozessgrenze. Integrierte Dateitools laufen in Copilot selbst, und ihre Anfragen werden gegen die gültige Richtlinie geprüft. Laut Microsoft ist das jedoch keine vom Betriebssystem durchgesetzte Isolation von Kindprozessen. Remote-MCP-Server liegen außerhalb der lokalen Prozess-Sandbox. Nutzer können die Einstellungen jederzeit konfigurieren, indem sie den Slash-Befehl `/sandbox` in der Copilot CLI ausführen.

Was das für Entwickler bedeutet

Microsoft stellt das Update unter die Schlagworte Auswahl und Kontrolle: Entwickler können Copilot die Aufgaben automatisch verteilen lassen oder ein bestimmtes lokales Modell festlegen, während Sandbox-Richtlinien klare Grenzen setzen, worauf Agenten zugreifen dürfen. Als Beispiel nennt das Unternehmen einen täglichen Job, der lokale Repositories liest, Tests in Arbeitskopien ausführt und einen HTML-Bericht schreibt, wobei die Quell-Repositories schreibgeschützt bleiben und Testprozesse keinen Netzwerkzugriff haben. Derselbe Job kann entweder ein lokales oder ein Cloud-Modell nutzen.

Die lokale Funktion wird für Windows-PCs mit NVIDIA RTX Spark wie den Surface Laptop Ultra beschrieben. Preise oder weitere Hardware-Verfügbarkeit nennt die Quelle nicht.