Pentagon-Richtlinie verlangt Prüfungen und Nachverfolgbarkeit für KI-generierten Code
Das Department of War behandelt KI-generierten Code ab sofort als ungeprüft, bis er überprüft und getestet wurde, berichtet GitLab. Die DoW Instruction 8430.01 ist am 8. September 2026 in Kraft getreten und gilt für jede DoW-Organisation und jedes Beschaffungsprogramm mit Software, unabhängig von den Kosten.
- Die DoW Instruction 8430.01 ist am 8. September 2026 in Kraft getreten.
- KI-generierter Code gilt bis zur Überprüfung und zum Test als ungeprüft.
- Teams müssen die bei KI-gestütztem Code verwendeten Modelle, Versionen und Datensätze dokumentieren.
- Für Änderungen an sicherheits- und funktionskritischen Funktionen ist eine menschliche Genehmigung erforderlich.
- Genehmigte Systeme müssen Regierungsdaten und Prompts innerhalb kontrollierter Grenzen halten.
Was die DoW Instruction 8430.01 verlangt
Die von DoW-CIO Kirsten Davies erlassene Richtlinie legt Vorgaben und Verfahren für die Modernisierung und Verwaltung von Software fest, wobei der Schwerpunkt auf einer schnelleren Bereitstellung von Fähigkeiten liegt. Sie weist Teams an, Tests und Sicherheitsscans zu automatisieren, bestehende Software wiederzuverwenden und bereits während der Entwicklung Nachweise zu erstellen.
Die Richtlinie empfiehlt die KI-gestützte Entwicklung als Multiplikator für Geschwindigkeit und Qualität, knüpft dies aber an drei Bedingungen. Der Einsatz von KI muss nachvollziehbar sein, ihr Code muss überprüft werden, damit Entwickler verantwortlich bleiben, und Regierungsdaten müssen innerhalb genehmigter Grenzen bleiben.
Das bedeutet: Von KI generierter oder veränderter Code muss denselben Prüf- und Teststandards genügen wie von Menschen geschriebener Code. Entwickler und Entwicklungsteams bleiben für die Sicherheit, Funktionalität und Integrität von Code verantwortlich, der mithilfe von KI erstellt oder geändert wurde.
KI-Beteiligung dokumentieren und Änderungen prüfen
Die Vorgabe zur Nachverfolgbarkeit verlangt Aufzeichnungen darüber, welche Modelle, Versionen und Datensätze zum Schreiben oder Testen von Code verwendet wurden. GitLab zufolge kann Dependency Scanning eine Software-Stückliste erstellen, während während der Bereitstellung Prüfereignisse und Bereitstellungsprotokolle anfallen.
Agenten auf der GitLab Duo Agent Platform arbeiten über ein eigenes Dienstkonto, das dem Entwickler zugeordnet ist, der sie gestartet hat. Ein Commit kann daher den Agenten als im Auftrag einer namentlich genannten Person handelnd ausweisen, wobei die Aktivität im selben Prüfprotokoll wie andere Arbeiten erfasst wird. GitLab zufolge können Systeme für das Security Information and Event Management diesen Eintrag als KI-Aktivität filtern.
Tests, Scans und Genehmigungsregeln laufen in derselben Pipeline für Änderungen, die von einem Entwickler oder einem Agenten vorgenommen wurden. Genehmigungsrichtlinien für Merge Requests können einen namentlich genannten Prüfer verlangen, wenn Änderungen geschützte Pfade betreffen oder eine Sicherheitslücke einführen. Geschützte Branches können außerdem verhindern, dass ein Agent Änderungen ohne Genehmigung zusammenführt.
GitLabs Dependency Scanning Auto-Remediation, das sich derzeit in der Beta-Phase befindet, schlägt Aktualisierungen von Abhängigkeiten und Korrekturen am Build vor. Diese Vorschläge warten jedoch an den bestehenden Genehmigungsschranken. Das Unternehmen erklärt außerdem, dass seine Abläufe vor einem Merge oder einer Bereitstellung für eine menschliche Entscheidung pausieren können.
Regierungsdaten innerhalb genehmigter Grenzen halten
Die Richtlinie verlangt genehmigte KI-Dienste, um sicherzustellen, dass Regierungsdaten und Prompts nicht zum Training externer Modelle verwendet werden. Nicht öffentliche Informationen des DoW müssen auf genehmigten DoW-Systemen bleiben. Damit werden die Auswahl und das Hosting von Modellen zu Bestandteilen der Softwarekontrollen.
GitLab zufolge kann die GitLab Duo Agent Platform Self-Hosted auf einer vom Kunden kontrollierten Infrastruktur betrieben werden, auch in Netzwerken ohne Verbindung zu externen Netzen. Kunden können unterstützte Modelle vor Ort oder in einer privaten Cloud auswählen, während ein selbst betriebener AI Gateway Anfragen innerhalb ihrer Umgebung weiterleitet.
Für Kunden von GitLab Dedicated for Government beschreibt das Unternehmen diese AI-Gateway-Konfiguration als Standard. Die Ankündigung positioniert die Plattform als Möglichkeit für Verteidigungsteams, KI-gestützte Änderungen kontrolliert, prüfbar und unter menschlicher Kontrolle zu halten und dabei dieselben Schutzvorkehrungen auf KI-gestützte und nicht KI-gestützte Entwicklung anzuwenden.
