METR legt Regeln für die Zusammenarbeit mit KI-Unternehmen bei Risikonachweisen fest

Ziel: Belege für die Öffentlichkeit, keine Entscheidungen für Unternehmen

Nach Angaben von METR besteht ihr Ziel darin, der Öffentlichkeit genaue, zeitnahe und unabhängige Belege zum Risiko eines Kontrollverlusts über KI zu liefern. So sollen Öffentlichkeit, Politik und Entwickler ihre eigenen, fundierten Entscheidungen treffen können. Die wichtigste Methode ist, hochwertige, konkrete Belege zu sammeln und die Ergebnisse zu veröffentlichen.

METR sagt, die Organisation könne auch mit Unternehmen oder Regulierungsbehörden zusammenarbeiten, um unveröffentlichte sensible Informationen zu kommentieren, Risikoberichte zu prüfen oder ein unabhängiges Urteil über Risikoaussagen abzugeben. Sie warnt jedoch, dass viele relevante Aussagen offene wissenschaftliche Fragen berühren und sich nicht ohne Weiteres überprüfen lassen. Die Organisation betont, sie wolle nicht darüber entscheiden, wie Unternehmen ihre Agenten entwickeln oder einsetzen. Entscheidungen über KI an der Spitze der Entwicklung seien aus ihrer Sicht folgenreiche Abwägungen, die nicht hinter verschlossenen Türen fallen sollten. Die aktuelle Lage erfordere eine offene Diskussion darüber, wie hoch die Risiken sind und welche Niveaus akzeptabel wären.

Die Maßnahmen, die METR anwendet

Für Arbeiten, die unmittelbar das öffentliche Verständnis von KI-Risiken betreffen, etwa Tests vor der Veröffentlichung, Prüfungen von Risikoberichten und Übungen zur Risikobewertung, nennt METR mehrere Selbstverpflichtungen.

• Transparenz beim Vorgehen: METR will die Grenzen seiner Arbeit öffentlich beschreiben, darunter den vereinbarten Umfang und die Dauer, Beschränkungen bei Zugang, Daten und Ressourcen, Schwärzungen durch das Unternehmen sowie formelle oder informelle Einflussnahmen, die die Schlussfolgerungen wesentlich beeinflusst haben könnten.
• Transparenz bei der Unabhängigkeit: Relevante Interessenkonflikte von Mitarbeitenden werden gemäß der COI-Richtlinie offengelegt.
• Finanzielle und operative Unabhängigkeit: METR will sicherstellen, dass es nicht finanziell von den Unternehmen abhängt, mit denen es zusammenarbeitet, und bei der Zusammenstellung eines Projektteams Beschäftigte mit erheblichem Interessenkonflikt ausschließen.
• Vertraulichkeit und Sicherheit: Nichtöffentliche Informationen und Zugänge, die Unternehmen bereitstellen, werden nach den eigenen Verfahren und Vereinbarungen geschützt.

Zudem nennt METR Grundsätze, die den Vertrauensvorschuss der Öffentlichkeit verringern sollen. Die Organisation will ihre Belege und Methoden so detailliert beschreiben, dass externe Fachleute ihre Ergebnisse beurteilen können, und Belege so veröffentlichen, dass andere eigene Analysen durchführen können. Sie will häufig und schrittweise Berichte vorlegen, auch wenn sich Fragen nicht abschließend beantworten lassen. Außerdem soll ihr Ansatz es der Öffentlichkeit erlauben, Berichte verschiedener Unternehmen zu vergleichen, und die Zusammenarbeit für jedes Unternehmen anreizkompatibel machen.

Wie es in der Praxis lief

METR sagt, man sei nach mehreren Jahren Zusammenarbeit mit KI-Unternehmen zu diesem Ansatz gelangt. Als Beispiel verweist die Organisation auf ihren im Mai veröffentlichten Pilotbericht, den Frontier Risk Report, der aus der Arbeit mit Anthropic, Google, Meta und OpenAI hervorging. Der Beitrag verlinkt außerdem Beispiele aus früheren Arbeiten, darunter einen Untersuchungsbericht zu einem Vorfall bei OpenAI / Hugging Face, einen Bericht zu OpenAI GPT-5.1-Codex-Max, eine Zusammenfassung der System Card von Anthropic Claude Opus 5.5 und einen vorläufigen Bericht zu OpenAI o1-preview.

Eine Regelung, die laut METR gut funktioniert, ist das Recht, einseitig und gut sichtbar eine „Schwärzungszusammenfassung“ (redaction summary) an seine Berichte anzuhängen. Sie zeigt an, ob ein Unternehmen Informationen geschwärzt hat, die für METRs Gesamtfazit wichtig sind, ohne dass METR angemessen beschreiben durfte, was entfernt wurde. Laut METR können sich Gespräche über Schwärzungen dadurch darauf konzentrieren, ob eine Schwärzung das Fazit eines Berichts verändern würde, während bei der Formulierung ein gewisser Spielraum bleibt.

Zur Finanzierung sagt METR, man habe bislang bewusst keine Zahlungen oder Spenden von KI-Unternehmen an der Spitze der Entwicklung angenommen und Angebote abgelehnt, bei denen ein KI-Unternehmen Einfluss auf die Organisation gehabt hätte, etwa Gelder von einer Führungskraft oder einer Stiftung eines Unternehmens. Man akzeptiere in großem Umfang kostenlosen Modellzugang, stelle aber sicher, dass man die kostenlosen Tokens bezahlen könnte, ohne dass der Betrieb wesentlich beeinträchtigt würde.

Grenzen des freiwilligen Systems

METR benennt die Schwächen offen. Es habe sich als schwierig erwiesen, im derzeitigen freiwilligen System ausreichende Unabhängigkeit zu gewährleisten. Die Organisation sei weiterhin darauf angewiesen, dass Unternehmen freiwillig mitmachen, Zugang gewähren und Veröffentlichungen erlauben. In vielen Fällen stütze sie sich auf Informationen, die sie nicht überprüfen kann oder nicht überprüft und die womöglich gezielt gefiltert wurden. Auch bei Transparenz über die Einschränkungen könne ein Unternehmen laut METR seine Rechte nutzen, Zugang zu verweigern oder Inhalte zu schwärzen, um zu steuern, welche Belege die Öffentlichkeit erhält.

Für Leserinnen und Leser von KI-Risikoberichten lautet die praktische Botschaft, solche Ergebnisse stets gemeinsam mit dem offengelegten Umfang, Zugang, den Schwärzungen und Beschränkungen zu lesen. METR erwartet, den Beitrag im Lauf der Zeit zu aktualisieren.