Forscher: Hugging-Face-Sicherheitsvorfall wäre mit Standardmaßnahmen vermeidbar gewesen
Sicherheitsforscher halten den Hugging-Face-Vorfall für weitgehend vermeidbar, wenn Standardprotokolle der Cybersicherheit eingehalten worden wären. Das geht aus einem Beitrag des AI Now Institute hervor. Boyan Milanov, Senior Research Scientist des Instituts, argumentiert, das Schlagwort von der „abtrünnigen“ KI erlaube es Unternehmen, sich der Verantwortung zu entziehen.
- Sicherheitsforscher halten den Hugging-Face-Vorfall mit Standardprotokollen der Cybersicherheit für weitgehend vermeidbar.
- Boyan Milanov vom AI Now Institute fordert eine richtig konzipierte Testumgebung, die unerwünschte und potenziell schädliche Aktionen von Agenten blockiert.
- Experten sagen, dass unvollkommene Sandboxes oder unbeabsichtigte Agentenaktionen Unternehmen nicht aus der Verantwortung entlassen.
- Laut Milanov hilft die Erzählung von der „abtrünnigen KI“ Unternehmen, bei solchen Vorfällen der Verantwortung zu entgehen.
Mit Standardprotokollen vermeidbar
Der Beitrag des AI Now Institute mit dem Titel „A.I.’s Rogue Behavior Starts With Its Training“ nennt den Hugging-Face-Vorfall als Beispiel für einen Fall, den Sicherheitsforscher für weitgehend vermeidbar halten. Dem Text zufolge hätten Standardprotokolle der Cybersicherheit ausgereicht, um ihn zu verhindern.
Der vorliegende Auszug beschreibt nicht, wie es zu dem Vorfall kam oder was betroffen war. Im Mittelpunkt steht vielmehr, wie der Vorfall einzuordnen ist und wer die Verantwortung trägt.
Plädoyer für eine sauber konzipierte Testumgebung
Boyan Milanov ist Senior Research Scientist am AI Now Institute und auf die Bewertung von Cybersicherheitsrisiken durch KI spezialisiert. Sicherheit müsse durchgesetzt werden, indem man „eine richtig konzipierte Testumgebung hat, die dem Programm des Agenten nicht erlaubt, unerwünschte und potenziell schädliche Aktionen auszuführen“, sagte er.
Aus dieser Sicht ist die zentrale Kontrollinstanz die Umgebung, in der ein KI-Agent läuft. Blockiert sie schädliche Aktionen, kann das Programm des Agenten sie nicht ausführen, was auch immer es versuchen mag.
Eindämmung ist schwierig, die Verantwortung bleibt
Der Beitrag räumt ein, dass Eindämmung grundsätzlich schwierig ist, weil Sandboxes unvollkommen sein können oder Agenten unbeabsichtigte Aktionen ausführen. Die im Text zitierten Experten betonen jedoch, dass diese Schwierigkeit Unternehmen nicht aus der Verantwortung entlässt.
Milanov machte deutlich, was bei dieser Deutung auf dem Spiel steht: „Die Erzählung von der abtrünnigen KI ist für diese Unternehmen so nützlich, weil sie sie bei solchen Vorfällen von der Verantwortung freispricht.“
Was das bedeutet
Das Argument lenkt den Blick weg von KI-Systemen, die angeblich eigenmächtig handeln, hin zu den Entscheidungen bei Technik und Sicherheit, die die Unternehmen treffen, die sie entwickeln und einsetzen. Für Leserinnen und Leser, die KI-Vorfälle verfolgen, heißt das: Ursachen für Fehlschläge können in Testumgebungen und Trainingsentscheidungen liegen, nicht in einem autonomen Agenten, der „abtrünnig“ wird. Der vollständige Beitrag ist beim AI Now Institute verfügbar.
AI Now Institute: A.I.’s Rogue Behavior Starts With Its Training
