GitLab tritt der Open Secure AI Alliance bei: KI-Sicherheit soll offen entstehen

Warum GitLab der Allianz beitritt

Laut GitLab folgt der Schritt einem Argument, das CEO Bill Staples in einem aktuellen Essay formuliert hat: Wenn Code im Überfluss vorhanden ist, wird Vertrauen zur knappen Ressource. KI lasse die Kosten der Softwareproduktion einbrechen, so GitLab, und alles rund um die Produktion werde entsprechend wichtiger, darunter Kontext, Verifikation, Governance und Nachweise.

Sicherheit und Zusammenarbeit sind aus Sicht von GitLab beide entscheidend, um Vertrauen zu schaffen. KI erweitere den Kreis dessen, dem vertraut werden müsse. Er umfasse nun sowohl die Agenten, die Software schreiben, als auch die Software, die dabei entsteht.

Die Open Secure AI Alliance bringt Organisationen zusammen, die offene Technologien, Methoden und Werkzeuge entwickeln und teilen, um Software und Agenten im Zeitalter der KI abzusichern. GitLab erklärt, man wolle praktische Arbeiten aus den eigenen KI- und Sicherheitsteams einbringen und von der breiteren Community lernen.

Offene Arbeit bereits im Einsatz

GitLab beschreibt seine Beteiligung als Fortsetzung dessen, was das Unternehmen bereits offen tut. Das AI Gateway ist ein eigenständiger Dienst, der den Zugang zu KI-Funktionen über GitLab.com, GitLab Dedicated und selbst betriebene Instanzen bereitstellt. Laut Unternehmen ist der Quellcode öffentlich.

Das gilt auch für die Konfigurationen der Agenten-Workflows, die auf dem AI Gateway laufen. GitLab nennt Konfigurationen für:

• Codeerstellung
• Code-Review
• Erkennung von Fehlalarmen bei Secrets
• Security-Review

Das Unternehmen verweist auf Beispiele, darunter eine Konfiguration des Developer Flow, eine des Code Review Flow und einen Security Review Flow. Sie spiegelten ein Prinzip wider: Ein KI-System sei mehr als das Modell dahinter. Vertrauen hänge, so GitLab, vom umgebenden Gerüst, von Workflows, Kontrollen, Kontext und Evaluierung ab. Offene Werkzeuge machten es Verteidigern leichter, das Zusammenspiel dieser Teile zu verstehen, an realen Risiken zu testen und im Lauf der Zeit zu verbessern.

Modellauswahl und Transparenz bei Risiken

GitLab betont außerdem, Unternehmen bräuchten Wahlfreiheit. Organisationen sollten proprietäre und sichere Open-Weight-Modelle nutzen, das passende Modell für die jeweilige Aufgabe auswählen und selbst entscheiden können, wo und wie KI-Systeme betrieben werden. Die Unabhängigkeit von Modell und Cloud sichere diese Flexibilität, während ein offenes Ökosystem Kunden mehr Optionen beim Aufbau, bei der Steuerung und bei der Absicherung von KI biete.

Beim Thema Risiken müsse sich Transparenz laut GitLab auch auf die Bedrohungen selbst erstrecken. Die Dokumentation zu Sicherheitsbedrohungen in agentischen Systemen beschreibt die Angriffspfade, die für die eigenen Agenten gelten, und die Kontrollen, die in der jeweiligen Umgebung greifen.

Das Unternehmen erklärt, es behandle seine Agenten als privilegierte Akteure. Jeder laufe mit einer expliziten Identität, eingeschränkten Werkzeugen und Berechtigungen sowie nachprüfbaren Aktionen. GitLab verweist auf Dokumentation zu zusammengesetzter Identität (Composite Identity), isolierter Ausführung in Sandboxes, Werkzeugbeschränkungen pro Flow und Governance für Agentenwerkzeuge.

Was das bedeutet

Die Ankündigung ist eher eine Positionsbestimmung als ein Produktstart. GitLab sagt, es gehe nicht darum, Open-Weight- und geschlossene Modelle gegeneinander auszuspielen, sondern sicherzustellen, dass Verteidiger die Transparenz, Kontrolle und Flexibilität haben, die sie zum Aufbau vertrauenswürdiger KI-Systeme brauchen.

Für GitLab-Kunden liegt der praktische Nutzen darin, dass der Code des AI Gateway und mehrere Konfigurationen von Agenten-Workflows bereits öffentlich sind und eingesehen werden können. Für den Gesamtmarkt lautet die erklärte Haltung von GitLab schlicht: KI-Sicherheit sollte offen entstehen.