UNIDIR: Unternehmen, nicht Staaten, treffen die entscheidenden Designentscheidungen bei Militär-KI

Wo die Entscheidungen fallen

Laut UNIDIR entscheidet lange bevor ein KI-gestütztes System auf dem Gefechtsfeld ankommt jemand darüber, aus welchen Daten es lernt, wie es getestet wird und wie viel es selbstständig entscheiden darf. Dieser Jemand sei "in der Regel kein Staat, sondern ein Ingenieur in einem Unternehmen", heißt es in dem Kommentar. Diese Designentscheidungen beeinflussen, ob ein System zuverlässig, berechenbar und rechtmäßig ist, und sie werden Jahre getroffen, bevor ein Kommandeur es einsetzt.

Die Rolle der Industrie umfasst nach Angaben des Instituts den gesamten Lebenszyklus eines Systems, von Entwurf und Test bis zu Wartung nach dem Einsatz und Außerbetriebnahme. Entwickler, Integratoren und Anbieter entscheiden, wie Daten beschafft und verarbeitet werden, wie Einsatzbedingungen simuliert werden und wo über Entscheidungsschwellen der Grad der Autonomie festgelegt wird.

UNIDIR verweist zudem auf das Entwicklungstempo. Unternehmen bewegen sich tendenziell schneller, als Staaten sie regulieren können. Neue Firmen drängen auf den Markt, während etablierte Rüstungskonzerne Partnerschaften eingehen, KI-Start-ups übernehmen und den KI-Einsatz in ihren Produkten ausweiten. Neue Marktteilnehmer und etablierte Firmen können sich in ihrer institutionellen Erfahrung und in den internen Strukturen für Compliance und Rechenschaftspflicht unterscheiden. Die Beteiligung der Industrie reicht von direkter Beschaffung und Subunternehmerketten bis zu Tests durch Dritte.

Der Kommentar erschien im Rahmen der Abrüstungswoche. Er weist darauf hin, dass sich die Gruppe von Regierungssachverständigen zu tödlichen autonomen Waffensystemen im September 2026 in Genf auf eine Reihe von Elementen für ein künftiges Instrument zu diesen Waffen verständigt hat.

Militärische KI rechtskonform von Grund auf

UNIDIR beschreibt das Ziel, Systeme "lawful by design" zu gestalten, also rechtskonform von Grund auf. Das bedeutet, rechtliche Anforderungen von den frühesten Entwicklungsphasen an als zentrale Designparameter zu verankern und die Einhaltung über den gesamten Lebenszyklus sicherzustellen. Das Institut betont, dass dieser Ansatz die Verantwortung der Staaten nicht ersetzen kann.

Für Unternehmen verweist der Kommentar auf eine Verantwortung zur Achtung der Menschenrechte, die über die reine Rechtskonformität hinausgeht und in den UN-Leitprinzipien für Wirtschaft und Menschenrechte verankert ist. Firmen können rechtliche Prüfungen in ihre Risikomanagement-Rahmenwerke integrieren und das humanitäre Völkerrecht bei Design und Tests berücksichtigen.

Staaten bleiben an das humanitäre Völkerrecht und die internationalen Menschenrechte gebunden. Als Kunden müssen sie sicher sein, dass die erworbenen Fähigkeiten es ihnen erlauben, diesen Verpflichtungen nachzukommen. Laut UNIDIR können sie Grundsätze für verantwortungsvolle KI in Beschaffung und Exportkontrolle verankern, klare Erwartungen an Lieferanten formulieren und in die Fähigkeit investieren, diese umzusetzen. Dazu gehören rechtliche Prüfungen neuer Waffen nach Artikel 36 des Zusatzprotokolls I, die angesichts der sich wandelnden Natur von KI-Systemen möglicherweise wiederholt werden müssen.

Von UNIDIR einberufene Konsultationen mit mehreren Interessengruppen deuten auf eine gemeinsame Sicht von Staaten und Industrie hin: Rechtliche und ethische Anforderungen müssen in technische übersetzt werden, und eine klare Verteilung von Rollen und Verantwortlichkeiten ist für wirksame öffentlich-private Partnerschaften unerlässlich.

Eine gemeinsame Grundlage und warum Staaten ein Interesse daran haben

UNIDIR schlägt einen Rahmen vor, der die Sichtweisen verschiedener Akteure zu Verantwortung und Ethik bündelt und in klare Leitlinien zu Rechenschaftspflicht und Compliance überführt. Die Industrie müsse aus vier Gründen einbezogen werden: wegen ihrer praktischen Erfahrung mit dem technisch Machbaren, wegen realistischer und umsetzbarer Ergebnisse, wegen technischer Expertise, die Staaten fehlen kann, und wegen größerer Akzeptanz der vorgeschlagenen Lösungen. Auch Fachleute, Wissenschaft, Zivilgesellschaft und humanitärer Sektor sollten konsultiert werden, damit das Vorhaben glaubwürdig bleibt. Der Kommentar merkt an, dass UN-Generalsekretär António Guterres regelmäßig betont, wie wichtig die Einbindung unterschiedlicher Akteure einschließlich der Industrie sei.

Das Institut argumentiert außerdem, dass Staaten ein eigenes Interesse haben. Der Schweizer Bundesrat Albert Rösti hat gefordert, dass Unternehmen neben freiwilligen Selbstverpflichtungen eigene Leitlinien und Standards für vertrauenswürdige KI festlegen, noch bevor internationale Abkommen oder eine globale Regulierung zustande kommen.

Die rechtliche Verantwortung liegt allerdings bei dem Staat, der ein System einsetzt, nicht bei dessen Entwickler. UNIDIR nennt als Beispiel den "Black-Box"-Charakter vieler KI-Systeme: Undurchsichtige Systemprotokolle könnten die Pflicht der Staaten erschweren, mutmaßliche Verstöße gegen das humanitäre Völkerrecht wirksam zu untersuchen. Regierungen müssten daher klar benennen, welche Fragen sie von Industriepartnern beantwortet haben wollen, und Rollen sowie Compliance-Verantwortung innerhalb und außerhalb von Verträgen festlegen. Das verschafft Staaten laut UNIDIR Zugang zu den benötigten Informationen und Unterlagen und mehr Vertrauen in die technische Zuverlässigkeit.

Was das bedeutet

Der Kommentar versteht die Regulierung militärischer KI als gemeinsame Aufgabe von Staaten und Unternehmen. Für Lieferanten signalisiert er steigende Erwartungen an Dokumentation, Compliance-Strukturen und menschenrechtliche Sorgfaltspflichten. Für Regierungen verweist er auf Beschaffung und Vertragsgestaltung als praktische Instrumente, um rechtliche Verpflichtungen zu erfüllen. UNIDIR sieht sich als Vermittler, der Industrie, Staaten und anderen Akteuren helfen kann, diese Erwartungen in Leitlinien zu übersetzen.