METR: Anthropic könnte eine Warnschwelle für KI-F&E überschritten haben

METR stellt Anthropics Bewertung der Warnschwelle infrage

In einer am 5. November veröffentlichten Prüfung analysierte METR den Abschnitt „Risiken durch automatisierte F&E“ aus Anthropics öffentlichem Risikobericht vom August 2026. Die Prüfung war Teil einer Untersuchung mit weitreichendem Zugang zur Beschleunigung von KI-Forschung und -Entwicklung. Dafür stellte Anthropic eine private Version seines Berichts sowie weitere nicht öffentliche Daten bereit.

METR stimmt der Einschätzung von Anthropic im Großen und Ganzen zu, dass intern eingesetzte Modelle bis zum 15. Juli ein geringes Risiko darstellten, Forschung und Entwicklung in wichtigen Bereichen direkt zu automatisieren oder durch beschleunigte Fortschritte bei den Fähigkeiten akute katastrophale Risiken zu verursachen. Die Organisation argumentiert jedoch, Anthropics Aussage, die frühen Warnschwellen seien nicht überschritten worden, beruhe auf Ermessensentscheidungen, die der öffentliche Bericht nicht klar vermittle.

Laut METR gehen sowohl die Forschenden bei METR als auch bei Anthropic eher davon aus, dass die Schwelle nicht überschritten wurde. Dennoch hält METR es für plausibel, dass dies geschehen ist, und erklärt, der öffentliche Bericht unterschätze das Ausmaß der laufenden Beschleunigung.

Anthropics zwei Schwellen für automatisierte F&E

Anthropics Richtlinie zum Risikomanagement, die Risk Management Policy beziehungsweise RSP v3.4, legt laut METR zwei Fähigkeitsbedingungen für „automatisierte F&E in wichtigen Bereichen“ fest. Die erste ist eine Schwelle zur vollständigen Ersetzung. Sie wäre erreicht, wenn Anthropic ein Modell entwickelt hätte, das „unsere gesamte Gruppe von Forschungswissenschaftlern und Forschungsingenieuren zu wettbewerbsfähigen Kosten (das heißt innerhalb eines Faktors von 5) vollständig ersetzen“ kann.

Anthropics Bericht argumentiert, diese Schwelle sei nicht überschritten worden, weil die Modelle nicht alle Mitarbeitenden in der Forschung ersetzten. Das Unternehmen erklärt, dass Forschende bei Anthropic weiterhin Arbeiten erledigen, obwohl es starke Anreize habe, möglichst viel Forschungsarbeit durch Modelle zu ersetzen. In dem Bericht heißt es: „Wir glauben, dass für uns klar erkennbar wäre, wenn Modelle in der Lage wären, selbst zu hohen Kosten die technische Arbeit unserer gesamten Forschungsmitarbeitenden zu übernehmen.“

Die zweite Bedingung ist eine Beschleunigungsschwelle von 2x. Sie ist als „dramatische Beschleunigung“ des KI-Fortschritts definiert, die wahrscheinlich mit der Automatisierung von KI-F&E zusammenhängt. Anthropic berichtete von einer deutlichen Beschleunigung ab Anfang bis Mitte 2025, erklärte jedoch, sie habe weniger als den Faktor 2 betragen. Außerdem zeigte sich das Unternehmen ziemlich zuversichtlich, dass 2025 andere Faktoren als KI die Beschleunigung vorangetrieben hätten, während KI-Modelle dazu beitrugen, dass sich schnellere Trends bis zum Stichtag des Berichts fortsetzten.

Warum METR Unsicherheit bei der KI-getriebenen Beschleunigung sieht

METR hält Anthropics Argument gegen eine Überschreitung der Schwelle zur vollständigen Ersetzung im Großen und Ganzen für überzeugend. Die Organisation beschreibt diese Schwelle als hoch angesetzt und stimmt zu, dass Anthropic wahrscheinlich größere Fortschritte bei der Automatisierung seiner Forschung bemerkt hätte, wenn die Modelle am 15. Juli in der Lage gewesen wären, sie zu erreichen.

Gleichzeitig ist METR weniger zuversichtlich als früher, weil es an aussagekräftigen, nicht gesättigten Benchmarks mit wichtigen Fähigkeitsgrenzen mangelt. Laut METR gibt dieser Mangel Anlass zur Sorge, dass Probleme bei Alignment, Werkzeugen, Aufsicht oder der Hervorhebung von Fähigkeiten die Automatisierung bremsen könnten, selbst wenn die Modelle die erforderlichen Fähigkeiten bereits erworben hatten oder kurz davor standen.

METR hält Anthropics Argument, die Beschleunigungsschwelle von 2x sei nicht überschritten worden, für übertrieben. Anthropic beschreibt diese Schwelle als mögliche Frühwarnung und nicht als Beleg dafür, dass sich katastrophale Risiken bereits verwirklicht haben. Der Bericht stufte das Gesamtrisiko als „gering“ ein, räumte jedoch ein, dass aufgabenbasierte Bewertungen „gesättigt“ seien und es erste Anzeichen für eine mögliche Beschleunigung gebe.

Für Nutzer und den gesamten KI-Markt signalisiert die Prüfung eine Uneinigkeit darüber, wie Fortschritte bei der Automatisierung von KI-Forschung zu interpretieren sind. METR sagt nicht, dass die Modelle bereits die katastrophalen Bedingungen aus Anthropics Bedrohungsmodell geschaffen hätten. Stattdessen argumentiert die Organisation, die Belege könnten ausgereicht haben, um eine Überschreitung einer frühen Warnschwelle für plausibel zu halten, während das direkte Risiko weiterhin gering war.