Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

CSET erklärt, wie KI-Notausschalter schädliche Vorfälle stoppen könnten

12. November 2026, 18:11Von der KI Nachrichten RedaktionQuelle: CSET Georgetown
CSET erklärt, wie KI-Notausschalter schädliche Vorfälle stoppen könnten
Bild: CSET Georgetown

Eine neue Analyse des Center for Security and Emerging Technology der Georgetown University untersucht, wie vorgeschlagene KI-Notausschalter schädliche Vorfälle schnell unterbrechen könnten. Der Beitrag zeigt mögliche Eingriffe entlang des technischen KI-Stacks auf und benennt Fragen, die politische Entscheidungsträger beantworten müssten, bevor sie einen solchen Schalter anordnen.

Das Wichtigste in Kürze
  • CSET untersucht vorgeschlagene KI-Notausschalter und Notabschaltungssysteme.
  • Mögliche Eingriffe reichen von Hardware und Infrastruktur bis zu Software und Netzwerken.
  • Maßnahmen können einen einzelnen Chip, eine einzelne IP-Adresse oder umfassendere Systeme betreffen.
  • Unterschiedliche Vorfälle können verschiedene Mechanismen und ein unterschiedliches Maß an Koordination erfordern.
  • Politische Entscheidungsträger müssen den wirksamen Eingriff mit den geringsten Störungen bestimmen.

Was ein KI-Notausschalter bewirken würde

CSET definiert Notausschalter, auch als Notabschaltungssysteme bezeichnet, als Werkzeuge, mit denen Organisationen Prozesse, die vermutlich zu einem laufenden schädlichen oder unerwünschten Ereignis beitragen, schnell herunterfahren können. Solche Systeme sind in der industriellen Sicherheit bereits weit verbreitet und standardisiert. Sicherheitstechnische Systeme können Prozesse in Raffinerien, Chemieanlagen und anderen Einrichtungen stoppen, sobald gefährliche Bedingungen erkannt werden.

Aktuelle politische Vorschläge wollen ein ähnliches Konzept auf KI anwenden. Ein KI-Notausschalter könnte den Betrieb eines KI-Systems schnell unterbrechen oder Aktivitäten einschränken, die zu einem Vorfall beitragen. Einige Vorschläge würden Regierungsvertreter laut CSET zudem ermächtigen, den Einsatz solcher Mechanismen anzuordnen.

Eingriffe könnten von gezielt bis umfassend reichen

Die Analyse beschreibt mögliche Eingriffsebenen, die von der Hardware und physischen Infrastruktur für den Betrieb eines KI-Systems bis hin zur Software- und Kommunikationsinfrastruktur reichen, die es KI-Systemen ermöglicht, im digitalen Raum zu handeln. Auf jeder Ebene gibt es einen oder mehrere für den Eingriff zuständige Akteure mit technischer Kontrolle über den jeweiligen Mechanismus und der Möglichkeit, Abschaltanweisungen umzusetzen. Dabei muss dieser Akteur nicht der Entwickler oder Eigentümer der Technologie sein.

Laut CSET können Eingriffe entweder chirurgisch präzise oder grob ausfallen. Auf Netzwerkebene könnte eine Maßnahme beispielsweise vorübergehend eine einzelne IP-Adresse blockieren oder Verbindungen zwischen zahlreichen Netzwerkadressen trennen. Auf Infrastrukturebene könnte sie einen einzelnen Chip oder ein komplettes Rechenzentrum vom Netz nehmen. Breiter angelegte Maßnahmen können laut Analyse mehr Kollateralschäden oder Störungen verursachen. Deshalb sind technische und politische Umsetzbarkeit wichtige Gesichtspunkte für politische Entscheidungsträger.

Die richtige Reaktion hängt vom Vorfall ab

CSET argumentiert, dass unterschiedliche Vorfälle und Bedrohungsmodelle unterschiedliche Notausschalter erfordern. Ein böswilliger Akteur, der ein kommerziell eingesetztes KI-Modell nutzt, könnte durch das Filtern von IP-Adressen, Einschränkungen des API-Zugangs, blockierte Harnesses oder die Trennung von Chips gestoppt werden. Ein KI-Agent, der ohne Wissen des Betreibers aus einer abgeschotteten Umgebung entkommen ist, könnte dagegen eine Kombination umfassenderer Mechanismen und eine stärkere Koordination erfordern.

Bevor sie eine Notabschaltung anordnen, müssten politische Entscheidungsträger Informationen über den Vorfall einem geeigneten Eingriff zuordnen. CSET nennt vier zentrale Fragen: Wo geht der Vorfall aus, welcher Mechanismus oder welche Kombination würde ihn mit den geringsten Störungen stoppen, wem gehört dieser Mechanismus und wie ist der Eigentümer zu erreichen, und wie würde der Eingriff bewertet und überprüft?

Die von Jessica Ji, Jacob Feldgoise, Kyle Miller, Andrew Lohn, Pablo Chavez und Julie George verfasste Analyse warnt, dass ihre Ebenen lediglich eine grobe Möglichkeit darstellen, potenzielle Mechanismen zu ordnen. Sie sollen nicht sauber und direkt auf den bestehenden KI-Stack abgebildet werden. Für Nutzer und Organisationen lautet die Botschaft des Berichts: Das Stoppen eines KI-bezogenen Vorfalls könnte die Koordination über mehrere Ebenen hinweg erfordern und nicht über einen einzigen universellen Schalter erfolgen.

Ähnliche Meldungen

CSET: USA und China verfolgen unterschiedliche Wege zur AGI
Forschung9. November 2026, 16:00

CSET: USA und China verfolgen unterschiedliche Wege zur AGI

Die Vereinigten Staaten liegen bei Frontier-KI-Modellen und Rechenleistung vor China. Zugleich verfolgen beide Länder unterschiedliche Wege zur künstlichen allgemeinen…

GAO: Aufsichtsstelle für KI im Pentagon kann mit den Ambitionen des Ministeriums nicht Schritt halten
Wirtschaft29. Oktober 2026, 20:37

GAO: Aufsichtsstelle für KI im Pentagon kann mit den Ambitionen des Ministeriums nicht Schritt halten

Die Stelle, die im Pentagon die Aufsicht über künstliche Intelligenz führt, kommt den Ambitionen des Ministeriums kaum hinterher. Das geht aus einem Bericht des…

CSET: Ping-basierte Chip-Ortung ist die beste Option, lohnt sich aber womöglich nicht
Wirtschaft6. Oktober 2026, 15:57

CSET: Ping-basierte Chip-Ortung ist die beste Option, lohnt sich aber womöglich nicht

Die ping-basierte Standortverifizierung ist laut einem Bericht des CSET der gangbarste und kosteneffizienteste Weg, exportierte KI-Chips zu verfolgen. Die Autoren sind…