Microsoft startet KI-Transparenzinitiative mit mehr als 40 Organisationen

Microsoft startet eine KI-Transparenzinitiative mit mehr als 40 Organisationen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars. Ziel ist ein gemeinsamer, offener Ansatz für Transparenz, Sicherheit und Governance über verschiedene KI-Modelle und Anbieter hinweg.
- Microsoft arbeitet mit mehr als 40 Organisationen an mehr Transparenz bei KI.
- Die Initiative soll offene Standards für Transparenz, Sicherheit und Governance entwickeln.
- Microsoft will die Ergebnisse in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren.
- Der Ansatz soll mit geschlossenen und offenen Modellen sowie verschiedenen Anbietern funktionieren.
- Organisationen sollen KI-Aktivitäten beobachten, überprüfen und kontrollieren können.
Warum Microsoft mehr Transparenz fordert
Microsoft hat die Initiative auf seiner Ignite-Konferenz als nächste Phase seiner Arbeit an der KI-Sicherheit angekündigt. Nach Angaben des Unternehmens können Organisationen einen großen Teil der Aktivitäten rund um KI-Modelle verfolgen, häufig aber nicht rekonstruieren, was zwischen einer Anfrage und dem Ergebnis passiert ist.
Diese Lücke erschwert die unabhängige Überprüfung des Modellverhaltens. Das Problem wird größer, wenn Unternehmen Modelle und KI-Agenten mit Daten, Werkzeugen, Zugangsdaten und Infrastruktur verbinden. Agenten können dann Aktionen ausführen, ohne dass an jedem Schritt eine menschliche Genehmigung erforderlich ist.
Laut Microsoft können bestehende Kontrollmechanismen nicht sehen, was innerhalb von Modellen passiert, oder deren eigene Berichte über ihr Verhalten unabhängig überprüfen. Dadurch können Risiken für Sicherheit, Compliance, Audits und Verantwortlichkeit entstehen. Microsofts erklärtes Prinzip lautet: Je größer die Autonomie von KI, desto größer muss auch die Transparenz sein.
Drei Bestandteile der Initiative
Die Initiative besteht aus drei zentralen Komponenten. Erstens wird Microsoft seine Beteiligung an der Initiative des National Institute of Standards and Technology zu Standards für KI-Agenten ausweiten. Auf Grundlage dieser Forschung will das Unternehmen offene, branchenweite Standards für Transparenz, Sicherheit und Governance von KI entwickeln.
Zweitens arbeitet Microsoft mit mehr als 40 Organisationen an offenen Standards für KI-Systeme, die unabhängig überprüfbar, rechenschaftspflichtig und von Grund auf sicher sind, unabhängig vom verwendeten Modell oder Anbieter.
Drittens wird Microsoft die Ergebnisse in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren. Kunden sollen die daraus entstehenden Materialien in ihren Sicherheits- und Compliance-Werkzeugen nutzen können, unabhängig davon, ob diese von Microsoft oder anderen Anbietern stammen.
Die Initiative soll mit geschlossenen und offenen Modellen funktionieren. Entwicklungsteams können dadurch die von ihren Agenten verwendeten Modelle ändern oder aktualisieren, ohne dass IT-, Sicherheits- und Compliance-Teams die Möglichkeit verlieren, diese Systeme zu verwalten und zu überprüfen.
KI-Aktivitäten beobachten, überprüfen und kontrollieren
Nach Ansicht von Microsoft sollten Organisationen sehen können, auf welche Systeme KI zugreift und was sie tut, ihre Aktivitäten unabhängig überprüfen und kontrollieren können, was die KI tun darf.
- Beobachten: Organisationen sollten wissen, was die KI tun sollte, worauf sie zugreifen durfte, welches Modell und welche Laufzeitumgebung verwendet wurden, welche Daten und Werkzeuge verfügbar waren und welche Aktionen ausgeführt wurden. Außerdem sollten sie die Aktivitäten der Agenten sowie Risikosignale anhand von Richtlinien und Schwellenwerten überwachen können.
- Überprüfen: Agenten sollten nicht die einzige Quelle für verlässliche Informationen über ihr eigenes Verhalten sein. Belege zur Identität, zur delegierten Absicht und zu den Aktionen eines Agenten sollten ihre Quelle ausweisen. So können vom Modell gemeldete Signale mit unabhängig erfassten Aufzeichnungen verglichen werden.
- Kontrollieren: Organisationen sollten die Kontrolle darüber behalten, was KI tun kann, einschließlich der Daten, auf die Agenten zugreifen dürfen, und der Verwaltung dieses Zugriffs. Belege zum Zweck, Verantwortlichen, zu den Daten und den delegierten Berechtigungen eines Vorgangs können die Durchsetzung von Richtlinien, Untersuchungen, die Wiederherstellung und Audits unterstützen.
Die Verantwortung bleibt bei der Organisation, erklärte Microsoft. Unternehmen, die an der Gestaltung der Initiative mitwirken oder ihre Fortschritte verfolgen möchten, können sich unter aka.ms/learnmoreAItransparency registrieren.

