METR
METR schätzt, dass sich Anthropics KI-Forschungsfortschritt nahezu verdoppelt hat
Anthropic verbessert seine Modelle bei klar definierten Aufgaben wahrscheinlich etwa doppelt so schnell wie im Zeitraum von März 2024 bis Oktober 2025. Zu diesem…
METR: Anthropic könnte eine Warnschwelle für KI-F&E überschritten haben
METR zufolge bestand am 15. Juli 2026 ein geringes Risiko, dass die Modelle von Anthropic zentrale Forschungs- und Entwicklungsarbeiten direkt automatisieren oder akute…
METR und Redwood testen interne Agentenüberwachung von OpenAI auf Schwachstellen und finden Lücken
Ein METR-Mitarbeiter und ein Mitarbeiter von Redwood Research haben drei Wochen lang das interne System von OpenAI zur Überwachung von Misalignment untersucht und dabei…
METR teilt Anthropics Einschätzung eines geringen Misalignment-Risikos, zweifelt aber an den Methoden
METR, ein externer Prüfer, stimmt Anthropic zu, dass das Risiko katastrophaler Schäden durch Misalignment bei den Modellen aus Anthropics Risk Report vom August 2026…
METR skizziert, wie externe Prüfer verborgene Fehlausrichtung von KI aufspüren könnten
METR hat einen Vorschlag für eine "Alignment-Prüfung" (alignment assessment) veröffentlicht. Dabei soll ein externer Prüfer versuchen zu verstehen, welche schlimmsten…
METR legt Regeln für die Zusammenarbeit mit KI-Unternehmen bei Risikonachweisen fest
METR, eine gemeinnützige Organisation, die Belege dafür sammelt, ob Menschen die Kontrolle über KI-Agenten im großen Maßstab verlieren könnten, hat in einem Beitrag…
METR skizziert, wie Prüfer eine KI-getriebene Beschleunigung der KI-Entwicklung untersuchen könnten
METR hat einen Vorschlag veröffentlicht, wie ein externer Prüfer untersuchen könnte, ob die Automatisierung von KI-Forschung und -Entwicklung den Fortschritt bei den…
METR fordert KI-Entwickler auf, interne Systeme für Prüfungen zum Kontrollverlust zu öffnen
METR, eine Organisation, die Frontier-KI bewertet, hat einen Vorschlag veröffentlicht: KI-Entwickler sollen unabhängigen Prüfern erlauben zu untersuchen, ob sie die…
METR warnt: KI-Agenten könnten Fehlverhalten verschleiern, indem sie Kontrollwerkzeuge manipulieren
Die KI-Sicherheitsorganisation METR fordert, die Werkzeuge zur Überprüfung der Handlungen von KI-Agenten als sicherheitskritische Infrastruktur zu behandeln, denn ein…