Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Microsoft startet KI-Transparenzinitiative mit mehr als 40 Organisationen

19. November 2026, 20:58Von der KI Nachrichten RedaktionQuelle: PR Newswire
Microsoft startet KI-Transparenzinitiative mit mehr als 40 Organisationen
Bild: PR Newswire

Microsoft hat gemeinsam mit mehr als 40 Organisationen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, die AI Transparency Initiative gestartet. Die Initiative soll einen offenen, gemeinsamen Ansatz für Transparenz, Sicherheit und Governance bei KI-Modellen und -Anbietern schaffen.

Das Wichtigste in Kürze
  • Microsoft hat die AI Transparency Initiative mit mehr als 40 Organisationen gestartet.
  • Das Projekt zielt auf offene Standards für Transparenz, Sicherheit und Governance bei KI-Modellen und -Anbietern.
  • Microsoft will die Arbeit in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren.
  • Die Initiative konzentriert sich darauf, Aktivitäten von KI-Agenten zu sehen, unabhängig zu überprüfen und zu kontrollieren.
  • Der Ansatz soll mit geschlossenen und Open-Weight-Modellen funktionieren.

Die Beweislücke bei KI-Agenten schließen

Microsoft stellte die Initiative auf der Microsoft Ignite als nächste Phase seiner Bemühungen vor, KI sicherer zu machen. Satya Nadella, Chairman und Chief Executive Officer von Microsoft, präsentierte das Projekt am Dienstag, wie aus der auf den 19. November 2026 datierten Unternehmensankündigung hervorgeht.

Organisationen können einen Großteil der Aktivitäten rund um KI-Modelle beobachten, oft aber nicht rekonstruieren, was zwischen einer Anfrage und der daraus resultierenden Ausgabe passiert ist. Dadurch lässt sich nur schwer unabhängig überprüfen, wie sich ein Modell verhalten hat. Noch wichtiger wird das Problem, wenn Unternehmen Modelle mit Daten, Tools, Zugangsdaten und Infrastruktur verbinden. Dann können KI-Agenten Aktionen ausführen, ohne dass ein Mensch jeden einzelnen Schritt genehmigt.

Microsoft zufolge können bestehende Kontrollen einen Großteil der Aktivitäten rund um Modelle überwachen, sehen aber nicht, was in den Modellen passiert, und können deren eigene Darstellungen ihres Verhaltens nicht unabhängig überprüfen. Das schränkt die Fähigkeit einer Organisation ein, den Kontext der Aktionen eines Agenten zu verstehen, und birgt Risiken für Sicherheit, Compliance, Audits und Verantwortlichkeit.

Drei Bestandteile der Initiative

Die Initiative besteht aus drei zentralen Elementen. Erstens wird Microsoft sein Engagement in der SI Agent Standards Initiative des National Institute of Standards and Technology ausweiten und seine Forschung nutzen, um offene, branchenweite Standards für Transparenz, Sicherheit und Governance bei KI zu entwickeln.

Zweitens arbeitet Microsoft mit mehr als 40 Organisationen zusammen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars. Die Partner unterstützen offene Standards für KI-Systeme, die unabhängig überprüfbar, rechenschaftspflichtig und von Grund auf sicher sind, unabhängig vom dahinterstehenden Modell oder Anbieter.

Drittens will Microsoft diese Arbeit in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren. Kunden sollen die daraus entstehenden Nachweise mit ihren Sicherheits- und Compliance-Tools nutzen können, unabhängig davon, ob diese von Microsoft oder anderen Anbietern stammen.

Die Initiative soll anbieter- und modellübergreifend funktionieren, einschließlich geschlossener Modelle und Open-Weight-Modelle. Microsoft zufolge können Entwicklungsteams dadurch die Modelle hinter ihren Agenten ersetzen oder aktualisieren, ohne die von IT- und Sicherheitsteams betriebenen Kontrollen oder die Fähigkeit der Compliance-Teams zur Überprüfung von Agentenaktionen zu schwächen.

Aktivitäten von Agenten sehen, überprüfen und kontrollieren

Microsoft stellt die Initiative anhand von drei Fähigkeiten dar: zu sehen, worauf KI-Systeme zugreifen und was sie tun, ihre Aktivitäten unabhängig zu überprüfen und zu kontrollieren, was sie tun dürfen.

Für die Transparenz sollten Organisationen feststellen können, was ein KI-System tun sollte und durfte, welches Modell und welche Laufzeitumgebung es verwendet hat, auf welche Daten und Tools es zugegriffen hat und welche Aktionen es ausgeführt hat. Microsoft zufolge sollten Organisationen die Aktivitäten von Agenten und Risikosignale außerdem fortlaufend anhand von Richtlinien und Schwellenwerten überwachen.

Bei der Überprüfung sollte ein KI-Agent nicht die einzige vertrauenswürdige Informationsquelle über sein eigenes Verhalten sein. Nachweise zur Identität, zur zugewiesenen Aufgabe und zu den Aktionen eines Agenten sollten erkennen lassen, ob sie vom Modell, von seiner Laufzeitumgebung oder von unabhängigen Systemen wie Identitäts- und Richtliniensystemen stammen. Organisationen sollten diese Signale anschließend mit unabhängig aufgezeichneten Informationen vergleichen können.

Für die Kontrolle sollten Organisationen Nachweise über den Zweck, den Verantwortlichen, die Daten und die delegierten Berechtigungen jedes Workflows aufbewahren. Microsoft zufolge können diese Nachweise die Durchsetzung von Richtlinien, Untersuchungen von Vorfällen, Eindämmung, Wiederherstellung und Audits unterstützen, auch wenn Organisationen Modelle oder Anbieter wechseln.

Warum die Initiative für Unternehmen wichtig ist

Microsoft beschreibt KI-Agenten mit Zugriff auf Daten, Tools und Zugangsdaten als potenziell vergleichbar mit privilegierten Insidern, die jedoch mit Maschinengeschwindigkeit und in großem Maßstab arbeiten. Das Unternehmen erklärt, dass Organisationen verantwortlich bleiben, wenn ein Agent ein folgenreiches Ergebnis verursacht. Führungskräfte könnten sich dann gegenüber Kunden, Beschäftigten, Aufsichtsräten, Prüfern und Behörden erklären müssen.

Die Initiative soll Sicherheits- und Compliance-Teams mehr unabhängige Nachweise und Kontrolle geben, während KI-Agenten stärker in Geschäftsprozesse integriert werden. Organisationen, die zur Initiative beitragen oder ihr folgen möchten, finden weitere Informationen und können sich unter aka.ms/learnmoreAItransparency registrieren. Microsoft verweist außerdem auf seinen Microsoft Security Blog für weitere Informationen.

Ähnliche Meldungen

Resemble AI tritt Microsofts zertifiziertem Programm zur Deepfake-Erkennung in Teams bei
Produkte und Tools19. November 2026

Resemble AI tritt Microsofts zertifiziertem Programm zur Deepfake-Erkennung in Teams bei

Resemble AI wurde als zertifizierter Drittanbieter für die Deepfake-Erkennung in Microsoft Teams benannt. Damit können Unternehmen Resemble Meetings über das Teams Admin…

Microsoft startet KI-Transparenzinitiative mit mehr als 40 Organisationen
Sicherheit und Ethik18. November 2026, 12:12

Microsoft startet KI-Transparenzinitiative mit mehr als 40 Organisationen

Microsoft startet eine KI-Transparenzinitiative mit mehr als 40 Organisationen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars. Ziel ist ein gemeinsamer…

Sicherheit und Ethik
Sicherheit und Ethik17. November 2026, 19:20

Microsoft startet Initiative für transparente KI-Modelle und -Agenten

Microsoft hat gemeinsam mit Kunden und Partnern die AI Transparency Initiative gestartet. Sie soll einen gemeinsamen, offenen Ansatz für Sicherheit und Governance bei…