Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

CMU-Forscherin erhält Fördermittel für bessere Entscheidungsfindung von Mensch und KI

13. November 2026, 15:00Von der KI Nachrichten RedaktionQuelle: CMU School of Computer Science
CMU-Forscherin erhält Fördermittel für bessere Entscheidungsfindung von Mensch und KI
Bild: CMU School of Computer Science

Sherry Tongshuang Wu, Assistenzprofessorin an der School of Computer Science des Kenneth C. Griffin College der Carnegie Mellon University, hat ein Okawa Research Grant erhalten. Sie untersucht, wie KI-Agenten Menschen und Teams bei komplexen Entscheidungen unterstützen können. Ihr Projekt befasst sich damit, wie Agenten sich verändernde Präferenzen erkennen, Zielkonflikte erklären und auf Feedback reagieren.

Das Wichtigste in Kürze
  • Sherry Tongshuang Wu hat ein Okawa Research Grant erhalten.
  • Das Projekt untersucht KI-Agenten, die komplexe Entscheidungen von Einzelpersonen und Teams unterstützen.
  • Ein Open-Source-Evaluierungsrahmen soll simulierte Nutzer einsetzen.
  • Die Forschung testet das Erkennen von Präferenzen, den Umgang mit Alternativen und Reaktionen auf Feedback.

Forschung befasst sich mit Entscheidungen bei wechselnden Präferenzen

KI-Agenten können bereits bei Aufgaben wie der Reiseplanung, dem Produktvergleich und anderen Situationen mit mehreren Auswahlmöglichkeiten helfen. Die Herausforderung besteht laut der School of Computer Science der Carnegie Mellon University darin, dass Nutzer zu Beginn einer Entscheidung möglicherweise noch nicht alle ihre Präferenzen kennen. Diese Präferenzen können sich außerdem verändern, wenn Menschen verschiedene Optionen abwägen.

Wu untersucht, wie Agenten erkennen können, was Nutzern wichtig ist, und ihnen helfen, die Zielkonflikte zwischen Alternativen zu verstehen. Im Mittelpunkt steht damit die Interaktion zwischen Menschen und KI, nicht die Ausgabe einer einzelnen Empfehlung, ohne zu erklären, wie sie zustande gekommen ist.

Open-Source-Rahmen soll KI-Agenten testen

Im Rahmen des Projekts entsteht ein Open-Source-Evaluierungsrahmen, mit dem sich beurteilen lässt, wie effektiv KI-Agenten die Entscheidungsfindung unterstützen. Dabei kommen simulierte Nutzer zum Einsatz, um zu testen, ob die Agenten Präferenzen ermitteln, Alternativen präsentieren und auf Feedback reagieren können.

Der Rahmen soll Werkzeuge bereitstellen, um mehrere Teile des Entscheidungsprozesses zu untersuchen. Bewertet wird, wie Agenten lernen, was Nutzern wichtig ist, wie sie verfügbare Auswahlmöglichkeiten vermitteln und wie sie sich anpassen, wenn Nutzer zusätzliche Informationen liefern.

Die Forschung befasst sich außerdem mit Entscheidungen in Teams. In solchen Situationen können Mitglieder unterschiedliche Prioritäten haben. Das stellt Agenten vor eine zusätzliche Herausforderung, wenn sie Gruppen bei der Auswahl unterstützen sollen, statt nur eine einzelne Person zu begleiten.

Fokus auf menschliche Kontrolle und unvollkommene KI

Wus umfassendere Forschung am Human-Computer Interaction Institute der CMU konzentriert sich auf die Zusammenarbeit von Menschen und KI. Ein besonderer Schwerpunkt liegt darauf, wie Menschen effektiv mit unvollkommenen KI-Systemen arbeiten können. Wu will Werkzeuge und Evaluierungsmethoden entwickeln, die Menschen dabei helfen, fundierte Entscheidungen zu treffen und zugleich die Kontrolle über den Prozess zu behalten.

Für Nutzer könnte die Arbeit KI-Systeme ermöglichen, die mehr leisten als nur Optionen aufzulisten. Die Quelle beschreibt eine Entwicklung, bei der Agenten Menschen helfen, ihre Wünsche zu präzisieren, die Folgen verschiedener Entscheidungen zu verstehen und Entscheidungen anzupassen, wenn sich ihre Präferenzen weiterentwickeln. Für Teams geht es in der Forschung darum, wie KI Diskussionen unterstützen kann, wenn Prioritäten nicht übereinstimmen.

Die Förderung stammt von der Okawa Foundation for Information and Telecommunications, die Forschung im Bereich der Informations- und Kommunikationstechnologie unterstützt. Mit den Mitteln soll untersucht werden, wie KI-Agenten mit Präferenzen, Alternativen, Feedback und unterschiedlichen Prioritäten umgehen.

Carnegie Mellon UniversitySherry Tongshuang WuOkawa Foundation for Information and TelecommunicationsKI-AgentenForschungsergebnisse

Ähnliche Meldungen

USC ISI stellt auf der SC26 KI-, Workflow- und Cybersicherheitsforschung vor
Forschung13. November 2026, 22:43

USC ISI stellt auf der SC26 KI-, Workflow- und Cybersicherheitsforschung vor

Forschende des Information Sciences Institute der University of Southern California präsentieren Arbeiten zur Automatisierung wissenschaftlicher Workflows, zu…

Google erläutert Antigravitys Multiagenten-Ergebnisse in Mathematik und TechnikTop-Meldung
Produkte und Tools13. November 2026, 21:47

Google erläutert Antigravitys Multiagenten-Ergebnisse in Mathematik und Technik

Google zufolge haben die Multiagentensysteme von Antigravity mit /teamwork menschliche Forscher dabei unterstützt, offene Probleme in Mathematik, Chemie, Systemsoftware…

CMU und Pitt entwickeln KI-Tools zur präziseren Ansprache von Gehirnzellen
Forschung11. November 2026, 15:00

CMU und Pitt entwickeln KI-Tools zur präziseren Ansprache von Gehirnzellen

Forscher der Carnegie Mellon University und der University of Pittsburgh entwickeln KI-gestützte molekulare Werkzeuge, die bestimmte Gehirnzellen erreichen und eine…