CMU-Forscherin erhält Fördermittel für bessere Entscheidungsfindung von Mensch und KI

Sherry Tongshuang Wu, Assistenzprofessorin an der School of Computer Science des Kenneth C. Griffin College der Carnegie Mellon University, hat ein Okawa Research Grant erhalten. Sie untersucht, wie KI-Agenten Menschen und Teams bei komplexen Entscheidungen unterstützen können. Ihr Projekt befasst sich damit, wie Agenten sich verändernde Präferenzen erkennen, Zielkonflikte erklären und auf Feedback reagieren.
- Sherry Tongshuang Wu hat ein Okawa Research Grant erhalten.
- Das Projekt untersucht KI-Agenten, die komplexe Entscheidungen von Einzelpersonen und Teams unterstützen.
- Ein Open-Source-Evaluierungsrahmen soll simulierte Nutzer einsetzen.
- Die Forschung testet das Erkennen von Präferenzen, den Umgang mit Alternativen und Reaktionen auf Feedback.
Forschung befasst sich mit Entscheidungen bei wechselnden Präferenzen
KI-Agenten können bereits bei Aufgaben wie der Reiseplanung, dem Produktvergleich und anderen Situationen mit mehreren Auswahlmöglichkeiten helfen. Die Herausforderung besteht laut der School of Computer Science der Carnegie Mellon University darin, dass Nutzer zu Beginn einer Entscheidung möglicherweise noch nicht alle ihre Präferenzen kennen. Diese Präferenzen können sich außerdem verändern, wenn Menschen verschiedene Optionen abwägen.
Wu untersucht, wie Agenten erkennen können, was Nutzern wichtig ist, und ihnen helfen, die Zielkonflikte zwischen Alternativen zu verstehen. Im Mittelpunkt steht damit die Interaktion zwischen Menschen und KI, nicht die Ausgabe einer einzelnen Empfehlung, ohne zu erklären, wie sie zustande gekommen ist.
Open-Source-Rahmen soll KI-Agenten testen
Im Rahmen des Projekts entsteht ein Open-Source-Evaluierungsrahmen, mit dem sich beurteilen lässt, wie effektiv KI-Agenten die Entscheidungsfindung unterstützen. Dabei kommen simulierte Nutzer zum Einsatz, um zu testen, ob die Agenten Präferenzen ermitteln, Alternativen präsentieren und auf Feedback reagieren können.
Der Rahmen soll Werkzeuge bereitstellen, um mehrere Teile des Entscheidungsprozesses zu untersuchen. Bewertet wird, wie Agenten lernen, was Nutzern wichtig ist, wie sie verfügbare Auswahlmöglichkeiten vermitteln und wie sie sich anpassen, wenn Nutzer zusätzliche Informationen liefern.
Die Forschung befasst sich außerdem mit Entscheidungen in Teams. In solchen Situationen können Mitglieder unterschiedliche Prioritäten haben. Das stellt Agenten vor eine zusätzliche Herausforderung, wenn sie Gruppen bei der Auswahl unterstützen sollen, statt nur eine einzelne Person zu begleiten.
Fokus auf menschliche Kontrolle und unvollkommene KI
Wus umfassendere Forschung am Human-Computer Interaction Institute der CMU konzentriert sich auf die Zusammenarbeit von Menschen und KI. Ein besonderer Schwerpunkt liegt darauf, wie Menschen effektiv mit unvollkommenen KI-Systemen arbeiten können. Wu will Werkzeuge und Evaluierungsmethoden entwickeln, die Menschen dabei helfen, fundierte Entscheidungen zu treffen und zugleich die Kontrolle über den Prozess zu behalten.
Für Nutzer könnte die Arbeit KI-Systeme ermöglichen, die mehr leisten als nur Optionen aufzulisten. Die Quelle beschreibt eine Entwicklung, bei der Agenten Menschen helfen, ihre Wünsche zu präzisieren, die Folgen verschiedener Entscheidungen zu verstehen und Entscheidungen anzupassen, wenn sich ihre Präferenzen weiterentwickeln. Für Teams geht es in der Forschung darum, wie KI Diskussionen unterstützen kann, wenn Prioritäten nicht übereinstimmen.
Die Förderung stammt von der Okawa Foundation for Information and Telecommunications, die Forschung im Bereich der Informations- und Kommunikationstechnologie unterstützt. Mit den Mitteln soll untersucht werden, wie KI-Agenten mit Präferenzen, Alternativen, Feedback und unterschiedlichen Prioritäten umgehen.
CMU School of Computer Science: Wu Receives Okawa Research Grant To Improve Human-AI Collaboration


