Drei Forschende der Carnegie Mellon University zu AI2050 Early Career Fellows 2026 ernannt

Das Stipendium und die Kohorte

Akari Asai und Daniel Fried, beide Assistant Professors am Language Technologies Institute, sowie Andrea Bajcsy, Assistant Professor am Robotics Institute, gehören zu den 22 Nachwuchsforschenden, die für die diesjährige Kohorte ausgewählt wurden.

Laut Carnegie Mellon hat Schmidt Sciences insgesamt 28 Forschende ausgewählt, darunter sechs Senior Fellows. Die Organisation stellt der Kohorte für ihre Forschung über drei Jahre bis zu 16 Millionen US-Dollar zur Verfügung.

AI2050 wurde 2022 ins Leben gerufen. Das Programm unterstützt Forschende, die sich mit Chancen und Herausforderungen befassen, die in den kommenden Jahrzehnten prägen könnten, wie KI der Gesellschaft nützt. Im Mittelpunkt steht eine Arbeitsliste schwieriger Probleme der KI, darunter die Frage, wie KI-Systeme sicher und zuverlässig gestaltet werden können und wie sich die Technologie für große wissenschaftliche und gesellschaftliche Herausforderungen einsetzen lässt.

Woran die drei Forschenden arbeiten werden

Akari Asai entwickelt zuverlässige und anpassungsfähige Sprachsysteme, insbesondere retrieval-augmentierte und agentische Sprachmodelle. In ihrer durch das Fellowship geförderten Forschung wird sie untersuchen, wie KI-Agenten wissenschaftliche Entdeckungen besser unterstützen können. Dazu gehört, wissenschaftliche Literatur, Daten und Werkzeuge zu nutzen, mit Laborumgebungen zu interagieren und wissenschaftliche Behauptungen anhand von Belegen zu bewerten.

Andrea Bajcsy arbeitet an der Schnittstelle von Robotik, maschinellem Lernen und KI-Sicherheit. Ihre Forschung widmet sich einem wachsenden Problem: Die universell einsetzbaren „Gehirne“ von Robotern werden mit riesigen, nicht einsehbaren Datensätzen trainiert und können sich im Einsatz unvorhersehbar verhalten. Sie wird Methoden zur Sicherheitssteuerung (Safety Steering) entwickeln, die das Verhalten von Robotern lenken. Damit sollen Roboter Anweisungen besser deuten, die Folgen ihrer Handlungen vorhersagen und um Hilfe bitten können.

Daniel Fried leitet die Forschungsgruppe Language Agents, Reasoning and Communication, die sich mit der Verarbeitung natürlicher Sprache und der Interaktion zwischen Menschen und KI-Systemen befasst, mit besonderem Schwerpunkt auf Agenten auf Basis großer Sprachmodelle. In seiner durch das Fellowship geförderten Forschung wird er vertrauenswürdige Kommunikation in Teams von KI-Agenten untersuchen. Geplant sind unter anderem Methoden, mit denen Agenten Zusagen überprüfen, auf Grundlage expliziter Pläne kommunizieren und diese Überprüfungsprozesse für Menschen nachvollziehbar machen können.

Unterstützung über die Finanzierung hinaus

Die Fellows 2026 erhalten außerdem die Möglichkeit, mit anderen AI2050-Forschenden zusammenzuarbeiten. Sie können an einem jährlichen Treffen teilnehmen, um ihre Arbeit vorzustellen und fächerübergreifende Kontakte zu knüpfen. Laut der Fakultät können Fellows zusätzliche Mittel für Kooperationen und Rechenressourcen erhalten.

Die drei Projekte decken unterschiedliche Bereiche ab: KI-Agenten für die Wissenschaft, sicherere universell einsetzbare Roboter und vertrauenswürdige Kommunikation zwischen KI-Agenten. Jedes ist mit den Themen Zuverlässigkeit und Sicherheit verknüpft, die AI2050 als Prioritäten benennt. Weitere Informationen zum Programm sind auf der Website von Schmidt Sciences verfügbar.