Microsoft startet Initiative für transparente KI-Modelle und -Agenten
Microsoft hat gemeinsam mit Kunden und Partnern die AI Transparency Initiative gestartet. Sie soll einen gemeinsamen, offenen Ansatz für Sicherheit und Governance bei KI-Modellen und Anbietern entwickeln. Nach Angaben des Unternehmens können Organisationen damit nachvollziehen, was zwischen einer KI-Anfrage und ihrem Ergebnis passiert ist.
- Microsoft hat die AI Transparency Initiative auf der Microsoft Ignite gestartet.
- Mehr als 40 Organisationen entwickeln offene Standards für KI-Transparenz mit.
- Die Initiative konzentriert sich darauf, KI-Aktivitäten sichtbar zu machen, unabhängig zu prüfen und zu steuern.
- Microsoft will die Ergebnisse in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren.
- Der Ansatz soll mit geschlossenen und Open-Weight-Modellen funktionieren.
Eine Antwort auf die Beweislücke bei KI
Microsoft Chairman und CEO Satya Nadella kündigte die Initiative am Dienstag, 17. Nov., auf der Microsoft Ignite an. Das Unternehmen erklärte, dass Unternehmen KI-Modelle mit Daten, Tools, Zugangsdaten und Infrastruktur verbinden. Dadurch können Agenten Aktionen ausführen, ohne dass an jedem einzelnen Schritt eine menschliche Freigabe erforderlich ist.
Bestehende Kontrollen können einen großen Teil der Aktivitäten rund um diese Systeme beobachten. Was innerhalb der Modelle geschieht, können sie jedoch nicht sehen. Ebenso können sie die eigenen Darstellungen der Modelle über ihr Verhalten nicht unabhängig überprüfen. Microsoft erklärte, diese Beweislücke schaffe Sicherheits-, Compliance-, Prüfungs- und Verantwortlichkeitsrisiken, insbesondere weil Agenten immer leistungsfähiger werden und mit Maschinengeschwindigkeit sowie in großem Maßstab arbeiten.
„Mehr Autonomie bei KI erfordert mehr Transparenz“, erklärte Microsoft. Hayete Gallot, Executive Vice President von Microsoft Security, sagte: „Damit Sicherheitskontrollen wirksam sein können, braucht jede Organisation mehr Transparenz über das Modell selbst.“
Drei Bestandteile der Initiative
Die Initiative wird Microsofts Beteiligung an der SI Agent Standards Initiative des National Institute of Standards and Technology ausbauen. Microsoft erklärte, dass die Forschung daraus in die Entwicklung offener, branchenweiter Standards für KI-Transparenz, Sicherheit und Governance einfließen soll.
Microsoft arbeitet zudem mit mehr als 40 Organisationen zusammen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars. Die Partner sollen offene Standards für KI-Systeme entwickeln, die unabhängig überprüfbar, verantwortungsvoll und von Grund auf sicher sind, unabhängig vom Modell oder Anbieter.
Microsoft will die Ergebnisse in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren. Kunden sollen die daraus entstehenden Nachweise laut Unternehmen mit Sicherheits- und Compliance-Tools von Microsoft oder anderen Anbietern nutzen können.
KI-Aktivitäten sehen, prüfen und steuern
Microsoft beschreibt die Initiative anhand von drei Fähigkeiten: sehen, prüfen und steuern. Organisationen sollen erkennen können, was ein KI-System tun sollte und wozu es berechtigt war, welches Modell und welche Laufzeitumgebung es verwendet hat, auf welche Daten und Tools es zugegriffen hat und welche Aktionen es ausgeführt hat. Außerdem sollen sie die Aktivitäten von Agenten und Risikosignale anhand von Richtlinien und Schwellenwerten überwachen können.
Für eine Überprüfung wären Nachweise aus mehr als nur dem Modell selbst erforderlich. Microsoft erklärte, Aufzeichnungen sollten ausweisen, ob Informationen vom Modell, von der umgebenden Laufzeitumgebung oder von unabhängigen Systemen wie Identitäts- und Richtlinientools stammen. So könnten Organisationen die vom Modell gemeldeten Signale mit unabhängig erfassten Aufzeichnungen vergleichen.
Steuerung bedeutet, die Hoheit darüber zu behalten, auf welche Daten Agenten zugreifen und welche Aktionen sie ausführen dürfen. Die Initiative soll mit geschlossenen und Open-Weight-Modellen funktionieren. Entwicklerteams können dadurch die Modelle, die Agenten antreiben, ändern oder aktualisieren, ohne dass Sicherheits- und Compliance-Teams ihre Möglichkeiten zur Steuerung und Prüfung verlieren.
Microsoft erklärte, dass die Verantwortung bei der Organisation bleibt, wenn folgenschwere Aktionen ausgeführt werden. Organisationen, die die Initiative verfolgen oder an ihrer Gestaltung mitwirken möchten, können sich über den von Microsoft bereitgestellten Link anmelden.


