KI-News 11.03: Agentensicherheit und autonome KI-Systeme
Am 3. November standen die Sicherheit und Autonomie von KI-Agenten im Mittelpunkt. CrowdStrike baut seine Schutzmaßnahmen mit mehreren Ankündigungen aus, während neue Benchmarks, Datenplattformen und Anwendungen in der physischen Entwicklung die nächste Richtung der Branche erkennen lassen.
- CrowdStrike erweitert sein KI-Sicherheitsportfolio mit der Übernahme von Fiddler AI und Dreadnode.
- Die KI-Notabschaltung von Falcon Guardian kann den Modellzugriff für gefährlich werdende Agenten sperren.
- StateBench und Googles Engineering-Benchmark messen neue Fähigkeiten.
- Snowflake bietet autonome Datenagenten und serverloses Fine-Tuning von Modellen.
- Eine Schwachstelle im Reachy Mini könnte eine Fernsteuerung ohne Authentifizierung ermöglichen.
CrowdStrike: Übernahmen und sofortiger Schutz für Agenten
CrowdStrike plant die Übernahme von Fiddler AI, um die Sicherheit, Überwachung und Verhaltensbewertung von KI-Agenten zusammenzuführen. Das Unternehmen plant außerdem die Übernahme von Dreadnode. Die automatisierte Testtechnologie soll KI-Modelle, Anwendungen und Agenten auf der Falcon-Plattform bewerten, bevor sie in der Produktion eingesetzt werden.
Kunden von Falcon Guardian erhalten eine KI-Notabschaltung, die den Modellzugriff für Agenten, die gefährlich werden, schnell sperren kann. Das Unternehmen stellte außerdem einen speziellen KI-Kill-Switch-Controller vor und integriert seinen Schutz in die virtuelle Maschine Claude Cowork von Anthropic.
Neue Benchmarks und autonome Datenaufgaben
Der StateBench-Benchmark von Ai2 misst, wie Sprachmodelle Informationen verfolgen, die sich in langen Dokumenten verändern. Der Test ergab, dass rekurrente und hybride Architekturen bei direktem Training besser generalisieren. Google nutzt unterdessen den Benchmark Physical-Engineering's Last Exam, um Fähigkeiten in den Bereichen Maschinenbau, Elektrotechnik, Bauingenieurwesen und Tragwerksplanung zu bewerten.
Das CoCo-System von Snowflake kann komplexe Datenaufgaben an autonome Cloud Agents verteilen, selbst wenn der Nutzer die Sitzung bereits verlassen hat. Dabei bleiben bestehende Berechtigungen und Richtlinien erhalten. Der Dienst Cortex Training des Unternehmens bietet serverloses Fine-Tuning für Open-Weight-Modelle.
Modelle für Entwicklungsarbeit und das Gesundheitswesen
OpenAI testet seine Modelle bei Aufgaben in den Bereichen Maschinenbau und Elektrotechnik sowie bei Simulationen und Fertigungsprozessen. Nach der Analyse von Tausenden Verbindungen schlug das Antigravity-System von Google DeepMind innerhalb von etwa einer Stunde neue Makrozyklen und Synthesewege vor.
Apples neue Health-App wird um zehn Sprachversionen, personalisierte Apple-Intelligence-Einblicke und Mobilitätsbewertungen für zu Hause erweitert. Das Kolibri-Modell von Aleph Alpha wählt aus vier Stufen des Denkaufwands, während Resemble AI eine Echtzeit-Erkennung von Deepfakes für Microsoft Teams gestartet hat.
Infrastruktur, Chips und Risiken
Der Erfolg des KI-Programms von Saudi-Arabien könnte vom Ausbau der Stromversorgung, Schaltanlagen und Kühlung von Rechenzentren abhängen. Die neuen nRF71-System-on-Chips von Nordic Semiconductor vereinen Wi-Fi, Bluetooth LE, Thread und Edge-KI auf einem einzigen Chip. Supermicro liefert Cloud-Service-Providern Inferenzsysteme, die NVIDIA-GPUs und SambaNova-SN50-Chips kombinieren.
Aufgrund von fünf Schwachstellen im Roboter Reachy Mini könnte ein Angreifer im selben Netzwerk ohne Authentifizierung die Kontrolle übernehmen. In weiteren Entwicklungen bieten SAP und Cohere eine souveräne KI-Plattform für regulierte Branchen an, während NVIDIA ein Open-Source-Tool entwickelt, um die tatsächlichen Ursachen von Fehlern in verteilten KI-Aufgaben zu ermitteln.