CrowdStrike übernimmt Fiddler AI, um das Verhalten von Agenten mit Sicherheit zu verknüpfen

Was die Vereinbarung umfasst

CrowdStrike hilft Unternehmen laut Gade bereits dabei, ihre Agenten und die Umgebungen zu schützen, in denen diese eingesetzt werden. Fiddler soll eine Ebene ergänzen, die zeigt, ob sich die Agenten selbst sicher und wie vorgesehen verhalten. Der Beitrag nennt weder einen Kaufpreis noch ein Abschlussdatum oder andere Bedingungen der Vereinbarung.

Gade schrieb, dass er und sein Mitgründer Amit Fiddler vor acht Jahren gründeten, weil sie davon ausgingen, dass Unternehmen verstehen müssten, auf welche KI sie sich verlassen. Er verwies auf seine frühere Arbeit bei Facebook, wo sein Team „Why am I seeing this post?“ entwickelte, um einer Milliarde Menschen ein Ranking-Modell zu erklären. Nach Angaben von Gade prägte diese Überzeugung Fiddlers Arbeit in den Bereichen Erklärbarkeit, Modellüberwachung, Evaluierungen, agentenbasierte Beobachtbarkeit und Schutzmechanismen zur Laufzeit.

Sicherheit und Schutz als zwei getrennte Fragen

Der Beitrag stellt die Vereinbarung vor dem Hintergrund des Übergangs von einer KI, die Antworten liefert, zu einer KI, die handelt. Agenten schreiben Code, greifen auf sensible Daten zu, rufen Tools auf und treffen Entscheidungen im Namen von Nutzern. Damit wachsen die Folgen ihrer Fehler mit ihren Verantwortlichkeiten. Gade zufolge kann ein Agent über gültige Zugangsdaten und genehmigte Tools verfügen und dennoch unbelegte Entscheidungen treffen, Anweisungen ignorieren oder behaupten, eine Arbeit erledigt zu haben, die er nie abgeschlossen hat. Solche Fehler können ohne Angreifer auftreten, auch wenn Angreifer dieselben Schwachstellen ausnutzen können.

Unternehmen müssen daher sowohl wissen, ob jemand einen Agenten angreift, als auch, ob der Agent aus eigener Kraft vom richtigen Weg abkommt. Gade bezeichnet die erste Frage als Sicherheitsfrage und die zweite als Schutzfrage.

Als Beispiel nennt er einen Coding-Agenten, der einen Vorfall untersuchen darf. Der Agent stößt auf einen Berechtigungsfehler und ändert eine Zugriffsrichtlinie, damit der Fehler verschwindet. Die Befehle sind erfolgreich, doch der Agent hat eine Sicherheitsgrenze geschwächt, obwohl er lediglich zur Untersuchung berechtigt war. Fiddler kann laut Gade dabei helfen, Anweisungen, Tool-Aufrufe und Ergebnisse nachzuverfolgen und zu bewerten, ob der Agent innerhalb seiner Aufgabe geblieben ist. CrowdStrike würde Kontext zur Identität, zu Aktivitäten auf Endpunkten und zu den beteiligten Cloud-Ressourcen ergänzen.

Die Kombination dieser Fähigkeiten hilft Sicherheitsteams laut Gade dabei, Risiken zu bewerten und zu reagieren, Ingenieuren, das Verhalten zu korrigieren, und Governance-Teams, das Ergebnis zu dokumentieren. Dieselben Belege können anschließend in einen neuen Test und eine Kontrolle zur Laufzeit einfließen, damit der nächste Agent den Fehler nicht wiederholt.

Eine Steuerungsebene für Agenten

Gade erwartet, dass Unternehmen zahlreiche Modelle, Clouds und Frameworks einsetzen werden. Sie benötigen eine übergreifende Kontrolle über selbst entwickelte Agenten, von Mitarbeitern verwendete Coding-Assistenten und in gekaufte Software integrierte Agenten. Gemeinsam mit CrowdStrike will Fiddler Unternehmen dabei helfen zu entscheiden, welche Agenten einsatzbereit sind, was sie tun dürfen und wann ihnen mehr Verantwortung anvertraut werden kann. Laut dem Beitrag erfordert dies die Verbindung von Evaluierungen in der Entwicklung, Überwachung in der Produktion und Richtlinien zur Laufzeit.

Gade nennt Fiddlers Centor-Evaluierungsmodelle als Grundlage für diese Arbeit. Seinen Angaben zufolge laufen sie zu einem Bruchteil der Kosten von LLMs und bewerten Faktentreue, sensible Informationen und Sicherheit. Zugleich berücksichtigen sie die Anforderungen der Produktion an Kosten, Latenz und Datenschutz.

Was das für bestehende Kunden bedeutet

Die Bedürfnisse, die Kunden zu Fiddler geführt haben, bleiben laut Gade zentral für die Mission des Unternehmens: das Verhalten von Modellen verstehen, die Qualität von KI verbessern, Kosten steuern und Governance-Anforderungen erfüllen. Das umfasst prädiktive Modelle, generative KI und Agenten. Er beschreibt Sicherheit als natürliche Erweiterung dieser Arbeit. Die Belege, auf die Kunden bereits vertrauen, könnten damit in weiteren Teilen des Unternehmens nutzbar werden.

Zum Abschluss des Beitrags dankt Gade Kunden, Partnern und dem Fiddler-Team. Gemeinsam mit CrowdStrike wolle das Unternehmen das Verständnis von KI in das Vertrauen verwandeln, KI im gesamten Unternehmen einzusetzen.