Tenable bringt seinen KI-Bedrohungserkennern neun weitere Sprachen ohne Übersetzer bei

Warum die Erkennung nur auf Englisch nicht reicht

Die Detektoren in Tenable One AI Exposure decken KI-Bedrohungen, schädliche Inhalte und andere Richtlinienrisiken ab. Ursprünglich waren sie auf Englisch ausgerichtet. Um Bedrohungen in anderen Sprachen zu bewerten, nutzte das Produkt einen Ansatz nach dem Muster „erst übersetzen, dann erkennen“: Sprache identifizieren, die Eingabe mit einem großen Übersetzungsmodell ins Englische übertragen und anschließend den englischen Detektor laufen lassen.

Tenable zufolge funktionierte das, hatte aber vier Nachteile:

• Latenz: Ein großes Übersetzungsmodell braucht bei kurzen Eingaben Hunderte Millisekunden, bei langen Sekunden bis zu mehreren Dutzend Sekunden.
• Kosten: Jede nicht englische Anfrage muss einen vollständigen Übersetzungsdurchlauf bezahlen.
• Betriebsaufwand: Ein weiteres schwergewichtiges Modell muss bereitgestellt, skaliert und gewartet werden.
• Signalverlust: Bedeutung und Absicht verschwimmen bei naiver Übersetzung, was die Erkennung schwächt.

Das Unternehmen argumentiert, ein Prompt-Angriff auf Spanisch, Arabisch oder Hindi sei genauso gefährlich wie einer auf Englisch. Ein reiner Englisch-Detektor lasse Organisationen daher ungeschützt.

Eine agentische Pipeline für Daten mit erhaltenen Labels

Tenable stellte fest, dass es im Produktivbetrieb kein Übersetzer-LLM benötigt. Gebraucht wurden hochwertige mehrsprachige Daten für einen Trainingsdatensatz und einen verlässlichen Testdatensatz, die beide die ursprünglichen Labels bewahren. Das Unternehmen weist darauf hin, dass eine Übersetzung ein Label kippen kann, etwa wenn ein bösartiges Beispiel harmlos wird, oder dass sie sicherheitsrelevante Formulierungen abschwächt, sodass ein klar positiver Fall nur noch grenzwertig wirkt.

Mehrere Optionen verwarf Tenable. Übersetzungen durch menschliche Experten sind langsam und erfordern für jede Sprache einen fließend sprechenden Prüfer. Klassische maschinelle Übersetzung kann die bösartige Absicht tilgen oder unnatürlichen Text erzeugen. Standard-LLMs verweigern unter Umständen die Übersetzung von Material wie Anleitungen zur Waffensynthese oder Prompts zu Selbstverletzung. Dauerhaft laufende Online-Übersetzer erhöhen die Latenz pro Anfrage und verursachen Kosten, die mit dem Datenverkehr steigen.

Die Lösung ist eine agentische Pipeline mit drei Stufen:

• Übersetzen: Ein Frontier-LLM erstellt eine Transkreation, gesteuert durch Aufgabe, Label des Eintrags und Zielsprache, statt einer Wort-für-Wort-Wiedergabe.
• Bewerten: Ein Gremium unabhängiger Prüfer bewertet Sprachfluss, inhaltliche Integrität und die Frage, ob das Label weiterhin zutrifft.
• Filtern: Nur Übersetzungen, die jede Prüfung bestehen, werden behalten.

Zwei Korrekturschleifen fangen schwierige Fälle auf. Verweigert das Frontier-Modell einen sensiblen Eintrag, übernimmt ein kontrolliertes quelloffenes kleines Sprachmodell, dessen Ausgabe dasselbe Prüfverfahren durchläuft. Besteht eine Übersetzung die Prüfung nicht, wird sie zur Überarbeitung zurückgegeben statt verworfen. Da Aufgabe und Labels Parameter sind, kann die Pipeline laut Tenable auch künftige Erkennungsaufgaben mit mehrsprachigem Bedarf bedienen.

Statt von Grund auf zu trainieren, hat Tenable ein kompaktes Modell feinjustiert, das bereits auf vielen Sprachen vortrainiert war. Bei einigen Aufgaben übertrug sich das Modell allein mit englischen Trainingsdaten auf andere Sprachen. Bei schwierigeren Aufgaben übersetzte das Unternehmen nur in jene Sprachen, in denen das Modell schwächer abschnitt.

Die von Tenable genannten Ergebnisse

Die Erkennung läuft nun nativ in Zehntelsekunden-Bruchteilen, genauer in einigen Dutzend Millisekunden, gegenüber Sekunden zuvor. Tenable beziffert das auf rund 20- bis 800-mal schneller pro Eintrag. Der Speicherbedarf ist etwa 12- bis 14-mal kleiner: unter 1 GB statt 12 bis 14 GB.

Die mehrsprachigen Trainings- und Benchmark-Daten kosteten weniger als 10.000 US-Dollar und wurden einmalig erzeugt. Laut Tenable wachsen diese Kosten im Gegensatz zu einem dauerhaft laufenden Übersetzer nicht mit dem Kundenverkehr. Das Budget sei zudem steuerbar, da die Pipeline die LLM-Stufe und den Umfang der Überarbeitung pro Eintrag anpasst.

Ein neutraler LLM-as-a-Judge aus einer Modellfamilie eines Drittanbieters bevorzugte die Transkreationen von Tenable in der großen Mehrheit der direkten Vergleiche gegenüber denen eines kommerziellen maschinellen Übersetzungsmodells und eines starken offenen Übersetzungsmodells. Alle Detektoren in Tenable One AI Exposure unterstützen nun neun weitere Sprachen: Spanisch, Deutsch, Französisch, Italienisch, Portugiesisch, Mandarin-Chinesisch, Japanisch, Arabisch und Hindi. Die Leistung im Englischen blieb gleich oder verbesserte sich.

Was das für Kunden bedeutet

Für Organisationen, die Tenable One AI Exposure einsetzen, heißt die Änderung, dass nicht englische Bedrohungen direkt geprüft werden, ohne separaten Übersetzungsschritt im Ablauf. Tenable zufolge wurde das zugrunde liegende Modell auf einem sehr breiten Spektrum an Sprachen vortrainiert und kann deshalb Angriffe in Tausenden Sprachen lesen und markieren, auf die es nicht trainiert wurde. Das Unternehmen betont, dass nur die 10 unterstützten Sprachen formal validiert sind und die größere Reichweite weitere Tests erfordert, bevor man sich darauf verlassen kann.