Fiddlers Centor erhält Dynamic Model Escalation, um Fehlalarme bei KI-Sicherheitsprüfungen zu senken
Fiddler AI hat Dynamic Model Escalation vorgestellt, eine Centor-Funktion, die den kleinen Anteil an Eingaben, auf die ein spezialisiertes Sicherheitsmodell nicht trainiert wurde, an ein größeres, von Fiddler gehostetes Allzweckmodell weiterreicht. Laut Fiddler sank die Gesamtrate falsch-positiver Jailbreak-Erkennungen um 93,5 Prozent, nachdem bei einem Referenzdatensatz 3,1 Prozent der Eingaben eskaliert worden waren.
- Fiddlers Centor bietet jetzt Dynamic Model Escalation für das Centor Model for Safety.
- Eingaben außerhalb der Trainingsdomäne des Spezialmodells gehen ohne externen API-Aufruf an ein von Fiddler gehostetes Allzweckmodell.
- Laut Fiddler senkte die Eskalation von 3,1 Prozent der Eingaben bei einem Referenzdatensatz die Rate falsch-positiver Jailbreak-Erkennungen um 93,5 Prozent.
- Beim als SaaS gehosteten Centor von Fiddler fallen keine zusätzlichen Kosten pro Evaluierung an, selbst hostende Kunden tragen zusätzliche Infrastrukturkosten.
- Die Funktion ist optional, und nur eskalierte Eingaben haben zusätzliche Latenz.
Der Zielkonflikt, den Fiddler auflösen will
Fiddler argumentiert, dass Teams, die KI-Agenten im großen Maßstab evaluieren, meist nur zwei von drei Dingen bekommen: Genauigkeit, Geschwindigkeit oder niedrige Kosten. In seiner Ankündigung beschreibt das Unternehmen die Optionen, vor denen Teams heute stehen. Sie können Daten für eine präzisere Bewertung an ein externes Modell von OpenAI oder Anthropic schicken und riskieren damit rasch steigende Kosten. Sie können nur einen Bruchteil der Eingaben stichprobenartig prüfen, um die Ausgaben zu begrenzen, und darauf hoffen, dass nichts durchrutscht, was zum Reputationsproblem wird. Oder sie setzen auf langsame Evaluierungen, die entweder die Antwort an den Endnutzer verzögern oder eine schlechte Ausgabe durchlassen, bevor sie markiert wird.
Fiddler sagt, jede Eingabe und jede Ausgabe verdiene ohne diese Kompromisse eine Trace-Abdeckung von 100 Prozent. Centor ist das Produkt, das das Unternehmen dafür entwickelt hat, und Dynamic Model Escalation ist die jüngste Funktion, die hinzugekommen ist.
So funktioniert Dynamic Model Escalation
Centor leitet jede Eingabe an das Modell weiter, das sie am besten bewerten kann, entweder ein Centor Model oder ein Allzweckmodell, ohne Daten außerhalb der Umgebung des Kunden weiterzugeben. Die Centor Models sind aufgabenspezifische Echtzeit-Spezialbewerter für das Scoring von Safety, Faithfulness und Sensitive Information. Laut Fiddler verarbeiten sie den Großteil des Datenverkehrs schnell und ohne Gebühr pro Aufruf an einen Drittanbieter.
Dynamic Model Escalation ist ab sofort für das Centor Model for Safety verfügbar. Liegt eine Eingabe außerhalb der Domäne, auf die das kleine Spezialmodell trainiert wurde, wird sie automatisch zur zweiten Bewertung an ein von Fiddler gehostetes Allzweckmodell übergeben. Das geschieht innerhalb von Centor, ohne externen API-Aufruf.
Solche Eingaben zu erkennen, erfordere laut Fiddler weder ein zusätzliches Modell noch zusätzliche Rechenleistung. Das Centor Model for Safety nutzt die Embeddings, die es beim Scoring ohnehin erzeugt, und misst, wie weit eine Eingabe von seinen Trainingsdaten entfernt liegt. Dieses Signal kann eine Eskalation auslösen.
- Die Funktion ist optional. Kunden können sie für mehr Genauigkeit aktivieren oder weiterhin nur mit dem Centor Model for Safety bewerten.
- Nur der eskalierte Anteil der Eingaben erhält zusätzliche Latenz. Der Rest läuft laut Fiddler genauso schnell wie bisher.
- Beim von Fiddler als SaaS gehosteten Centor fallen für die Eskalation keine zusätzlichen Kosten pro Evaluierung an. Bei selbst gehosteten Installationen erhöht der Betrieb des Allzweckmodells die eigenen Infrastrukturkosten.
Das berichtete Ergebnis
Fiddler verweist auf einen Test aus der Entwicklung und dem Produktivbetrieb der Funktion, bei dem ein Kunde Daten durch das Centor Model for Safety laufen ließ. Durch die Eskalation von nur 3,1 Prozent der Eingaben habe das Unternehmen die Gesamtrate falsch-positiver Jailbreak-Erkennungen um 93,5 Prozent gesenkt, was nach Fiddlers Darstellung die Triage-Warteschlange für Sicherheitsteams drastisch verkürzt. Die Ankündigung präsentiert das als Beispielergebnis für einen Referenzdatensatz und nicht als allgemeine Garantie. Die Zahlen stammen von Fiddler selbst.
Fiddler betont zudem, was das Allzweckmodell ist und was nicht. Es sei nicht besser als die Centor Models, sondern ein Generalist für Eingaben außerhalb des Trainingsbereichs eines Centor Models. Innerhalb dieses Bereichs blieben die Centor Models schneller und genauer.
Was das für KI-Teams bedeutet
Für Teams, die das Centor Model for Safety bereits einsetzen, bietet die Funktion die Möglichkeit, die Genauigkeit bei unbekannten Eingaben zu verbessern, ohne Daten an einen externen Anbieter zu geben und ohne bei Fiddlers SaaS-Angebot eine Gebühr pro Aufruf zu zahlen. Da die Funktion optional ist, können Teams die Ergebnisse mit und ohne sie vergleichen. Selbst hostende Kunden sollten die zusätzliche Infrastruktur für den Betrieb des Allzweckmodells einplanen. Interessierte Teams lädt Fiddler ein, eine Demo anzufragen, um zu sehen, wie ihre agentischen Anwendungen profitieren würden.
