Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

Databricks: Fachwissen im Prompt hilft LLMs, Binär-Malware in npm zu erkennen

16. Oktober 2026, 17:37Von der KI Nachrichten RedaktionQuelle: Databricks
Databricks: Fachwissen im Prompt hilft LLMs, Binär-Malware in npm zu erkennen
Bild: Databricks

Forscher von Databricks berichten, dass vorab berechnete statische Belege im Prompt die Triage von npm-Paketen deutlich verbessern, die Malware in kompilierten Binärdateien verstecken. In ihren Tests sank die Fehlerquote von sieben Budget-Modellen an der Eskalationsschwelle von 50 auf 4 Prozent, so das Unternehmen.

Das Wichtigste in Kürze
  • Von 11.413 bestätigten npm-Paketversionen enthalten 3,8 Prozent (432) eine Binärdatei. Bei diesen wird laut Databricks in 14,4 Prozent der Fälle kein eindeutiges Malicious-Urteil erreicht, bei reinen Quellcode-Paketen sind es 6,2 Prozent.
  • Capability-Profile fügen dem Prompt eine Zusammenfassung der statischen Belege von rund 1.800 Tokens hinzu, bevor das LLM argumentiert.
  • Die Fehlerquote der Budget-Klasse an der Eskalationsschwelle sank mit Profilen von 50 auf 4 Prozent (3 von 70).
  • 32 von 35 Erkennungsfehlern wurden behoben, und kein Modell gab bei irgendeiner Payload ein harmloses Urteil ab.
  • GPT-5.4-nano verbesserte sich von 0/10 auf 7/10 und war das einzige Modell, das mit Profilen keine volle Erkennung erreichte.

Warum gebündelte Binärdateien eine Schwachstelle sind

Databricks sammelt seit November 2025 npm-Malware-Samples. Von 11.413 geprüften Paketversionen, die über OSV-npm-Malware-Advisories bestätigt wurden, verstecken 96,2 Prozent ihre Nutzlast im Quellcode des Pakets oder laden sie von einem externen Server nach. Die übrigen 3,8 Prozent, also 432 Paketversionen, enthalten eine Binärdatei.

Der Anteil ist klein, doch das Risiko bei der Triage sei überproportional hoch, argumentiert das Unternehmen. Eine gestrippte, undurchsichtige Binärdatei enthält keinen Quellcode, den Tools lesen könnten, und kann hinter einer Fassade aus unauffälligem Quellcode und Metadaten stecken, die ein LLM zu einem harmlosen Urteil verleiten kann. Bei OSV-bestätigter npm-Malware erreichen Pakete mit Binärdateien laut Databricks mehr als doppelt so häufig kein eindeutiges Malicious-Urteil wie Pakete nur mit Quellcode (14,4 gegenüber 6,2 Prozent).

Der Scanner und die Capability-Profile

Um die Forschungsgemeinschaft zu unterstützen, hat Databricks einen Scanner entwickelt, der die npm-Registry in Echtzeit überwacht. Zuerst läuft eine statische Stufe: YARA auf dem Tarball, Semgrep und die npm-Registry-API auf JavaScript und Metadaten sowie ein Binäranalyse-Modul für das kompilierte Artefakt. Das Ergebnis wird zu einem strukturierten Prompt zusammengesetzt, das LLM liefert ein Urteil samt Begründung und kann in bis zu drei Runden weitere Dateien anfordern.

Die vom Team vorgeschlagene Lösung ist ein Capability-Profil. Jedes Profil ist ein deklaratives Playbook, das eine bösartige Technik wie das Abgreifen von Zugangsdaten oder Persistenz als Satz gewichteter Bedingungen über die statischen Belege des Scanners abbildet. Jedes Profil bewertet diese Belege anhand von Schwellen für verdächtig, bösartig und kritisch, eine Skala, die vom eigenen Urteil des Modells getrennt ist. Wird eine Schwelle erreicht, fügt die Engine dem Prompt eine strukturierte Zusammenfassung von rund 1.800 Tokens hinzu, bevor das Modell zu argumentieren beginnt. Das Modell bildet sich weiterhin sein eigenes Urteil und konnte im Experiment ein ausgelöstes Profil auch vollständig überstimmen.

Databricks grenzt das von früheren Arbeiten ab, bei denen Open-Source-Modelle mit Expertendaten per Instruction-Tuning trainiert werden. Dieser Weg erreiche geschlossene, gehostete Modelle nicht und erfordere bei sich wandelnden Bedrohungen ein erneutes Training. Wird das Fachwissen erst zur Inferenzzeit geliefert, entfallen beide Probleme.

Wie der Test aufgebaut war

Das Team erstellte fünf Payload-Typen als native Node.js-Addons: einen Credential-Stealer (sysmon-native), einen Dropper bzw. eine Backdoor (buildchain-native), eine Reverse Shell (netpulse-native), einen Cryptominer-Stub (hashworker-native) und ein Persistenz-Tool (taskd-native). Jedes ist in eine professionell wirkende package.json, eine README, JavaScript-Bindings und eine binding.gyp verpackt. Den sysmon-Stealer baute das Team über eine Obfuskationsleiter, von einer lesbaren Basisversion bis zu einem gehärteten Build mit entfernten Symbolen und XOR-kodierten Strings. So entstanden insgesamt zehn Payloads. Databricks wählte bewusst Single-Byte-XOR, weil es im Gegensatz zu einer stärkeren Chiffre wie RC4 keine strukturellen Marker im Disassembly hinterlässt.

Getestet wurden neun Modelle von sieben Anbietern: sieben Budget-Modelle, davon vier mit offenen Gewichten, und zwei leistungsstärkere Referenzmodelle, Claude Sonnet 4.6 und Kimi K3. Claude Opus 4.6 lief nur als Kostenreferenz mit. Jede Payload wurde pro Modell zweimal gescannt, mit und ohne Profile, bei Temperatur 0, identischen Prompts und einer Ausgabegrenze von 8192 Tokens. Ein Urteil von HIGHLY_SUSPICIOUS oder MALICIOUS zählte als Erkennung.

Ergebnisse: Budget-Modelle schließen die Lücke

Ohne Profile scheiterte die Budget-Klasse bei 35 von 70 Tests (50 Prozent), 20 davon mit einem glatt harmlosen Urteil, und verfehlte bei 51 (73 Prozent) die Malicious-Schwelle. Die beiden Referenzmodelle scheiterten an der Eskalationsschwelle nie und verfehlten die Malicious-Schwelle einmal. Laut Databricks folgten die Fehler der Budget-Modelle wiederholbaren, modellspezifischen Mustern statt dem Zufall. Allein Gemini hielt bei der Erkennung mit den Referenzmodellen mit, doch laut Unternehmen durch erfundene Begründungen statt durch echte Analyse.

Mit aktivierten Profilen wurden 32 der 35 Erkennungsfehler (91 Prozent) behoben, und kein Modell gab bei irgendeiner Payload ein harmloses Urteil ab. Die Fehlerquote an der Eskalationsschwelle sank von 50 auf 4 Prozent (3 von 70), an der Malicious-Schwelle von 73 auf 34 Prozent. Die Erkennungsraten pro Modell ohne und mit Profilen:

  • GPT-5.4-nano: 0/10 auf 7/10
  • Qwen3-Next 80B: 1/10 auf 10/10
  • Llama 3.1 8B: 4/10 auf 10/10
  • Gemma 3 12B: 5/10 auf 10/10
  • Claude Haiku 4.5: 6/10 auf 10/10
  • GLM 5.3 Flash: 9/10 auf 10/10

GPT-5.4-nano war unter den Modellen, die ohne Profile scheiterten, die Ausnahme: Seine drei verbleibenden Fehler blieben bei drei Payloads auf der Stufe „verdächtig“. Der klarste Einzelfall war dem Bericht zufolge Qwen3-Next beim obfuskierten sysmon-native-Stealer. Ohne Profile gab das Modell mit 0,98 „harmlos“ zurück und empfahl die Freigabe per Allowlist, mit Profilen dagegen „bösartig“ mit 0,98 und die Empfehlung zu blockieren, bei byte-identischer Eingabe und nachdem vier Profile ausgelöst hatten.

Was das für Security-Teams bedeutet

Die Ergebnisse legen nahe, dass sich günstigere Modelle, die ein Team realistisch über eine ganze Codebasis oder einen Registry-Feed laufen lassen könnte, ohne erneutes Training bei Binär-Payloads deutlich näher an eine Triage auf Frontier-Niveau bringen lassen. Databricks berichtet außerdem, dass die Belege auch die Urteile von Sonnet und Kimi stärken, die bereits korrekt waren. Die Profile verstärken also ein Modell, das ohnehin gut argumentiert, statt es zu verzerren.

Die Ergebnisse stammen aus einem kontrollierten Satz präparierter Payloads, nicht aus echtem Live-Traffic, und ein Drittel der Tests der Budget-Klasse verfehlte selbst mit Profilen noch die Malicious-Schwelle. Der Ansatz ist zudem an die statischen Belege des Scanners gebunden, der laut Unternehmen Techniken in Quellcode und Binärdateien über npm und PyPI hinweg abdeckt.

Ähnliche Meldungen

Google veröffentlicht Ergebnisse des Benchmarks für Agent Anomaly Detection
Sicherheit und Ethik12. November 2026

Google veröffentlicht Ergebnisse des Benchmarks für Agent Anomaly Detection

Google zufolge erkannte die Funktion Agent Anomaly Detection 87 % der schädlichen Anweisungen, die KI-Agenten in Tests mit fünf öffentlichen, nicht von Google erstellten…

Microsoft entdeckt Lazarus-Hintertür, die KI-Agenten kapern kann
Sicherheit und Ethik10. November 2026, 21:52

Microsoft entdeckt Lazarus-Hintertür, die KI-Agenten kapern kann

Microsoft-Forscher haben Lazarus identifiziert, eine Hintertürtechnik, die inaktive Neuronen eines KI-Modells umprogrammieren und einen ansonsten normalen Agenten dazu…

FAR.AI: Einfache Textangriffe umgehen Schutzmechanismen von Kimi K3.1 Pro
Sicherheit und Ethik10. November 2026

FAR.AI: Einfache Textangriffe umgehen Schutzmechanismen von Kimi K3.1 Pro

Wenige Textzeilen können die Schutzmechanismen von Kimi K3.1 Pro bei bis zu 99,4 % der getesteten schädlichen Anfragen umgehen, wie ein Sicherheitstest von FAR.AI zeigt.…