Partnership on AI nimmt acht Organisationen für psychische Gesundheit auf und startet Arbeitsgruppe zum Wohlbefinden

Wer neu dabei ist

Die neuen Partner sind die American Foundation for Suicide Prevention, das Child Mind Institute, Crisis Text Line, die International Association for Suicide Prevention, Mental Health America, die National Alliance for Eating Disorders, The Trevor Project und Vibrant Emotional Health.

Nach Angaben von PAI sind dies Organisationen, an die sich Menschen wenden, wenn sie am dringendsten Hilfe brauchen, und in genau diesen Momenten wenden sich immer mehr Menschen auch an KI-Systeme. Die Erfahrung dieser Gruppen aus der praktischen und klinischen Arbeit müsse prägen, wie solche Systeme entwickelt werden, so PAI. Sie schließen sich einem globalen Netzwerk von mehr als 150 Organisationen in 19 Ländern an.

Rebecca Finlay, CEO von Partnership on AI, sagte: „Menschen suchen Hilfe, Kontakt und Fürsorge bei KI-Chatbots, aber was ist dabei sicher?“ Sie fügte hinzu, dass jene, die seit Jahrzehnten sichere und einfühlsame Unterstützung im Bereich der psychischen Gesundheit aufbauen, unverzichtbare Stimmen bei der Gestaltung und Steuerung dieser Systeme seien.

Neue Arbeitsgruppe zu Chatbot-Antworten

Die neue Arbeit konzentriert sich auf KI und psychisches Wohlbefinden. Sie ist Teil des Bereichs „AI, Human Connection, and Well-being“, einem der Kernthemen im Strategieplan von PAI für 2027 bis 2031 mit dem Titel „Shared Stakes, Lasting Impact“. Ziel des Plans sind laut PAI verantwortungsvolle KI-Geschäftspraktiken im Interesse der Allgemeinheit, also KI, die gemeinsam mit den Betroffenen entwickelt, rechenschaftspflichtig gesteuert und fair, transparent, zuverlässig und sicher betrieben wird.

Im Zentrum steht die neue AI and Psychological Well-being Working Group. Sie bringt Fachleute führender KI-Unternehmen mit Organisationen für psychische Gesundheit und Suizidprävention, Klinikern, Forschenden und Menschen mit eigener Betroffenheit zusammen.

Ihre erste Aufgabe ist eine praxisnahe Orientierungshilfe dafür, wie universell einsetzbare KI-Chatbots reagieren sollten, wenn bei jemandem möglicherweise ein Risiko für Suizid oder Selbstverletzung besteht. Ein Entwurf soll laut PAI im Lauf des Jahres zur öffentlichen Stellungnahme freigegeben werden.

Was die neuen Partner sagen

Mehrere der neuen Partner erläuterten ihre Beweggründe in von PAI veröffentlichten Statements.

• American Foundation for Suicide Prevention: Chief Medical Officer Christine Moutier sagte, die Organisation räume einem tieferen Verständnis und der Unterstützung von KI in Aufklärung, Forschung und Engagement zu psychischer Gesundheit und Suizidprävention Priorität ein.
• Child Mind Institute: Präsident und Medical Director Harold S. Koplewicz sagte, das Institut freue sich auf die Zusammenarbeit mit einem breiten Kreis von Beteiligten, damit diese Technologien sicher, ethisch und zum Nutzen von Kindern und Familien entwickelt und eingesetzt werden.
• Crisis Text Line: Elizabeth Olson, VP, AI/NLP Clinical Research Science, sagte, Organisationen an der Schnittstelle von Technologie und psychischer Gesundheit brauchten einen Platz am Tisch. Die Organisation bietet kostenlose, vertrauliche Unterstützung per Textnachricht rund um die Uhr auf Englisch und Spanisch.
• Mental Health America: Chief Research Officer Theresa Nguyen sagte, verantwortungsvoll gestaltete KI-Tools könnten Lücken beim Zugang zur Versorgung schließen und Fachkräfte im Bereich psychische Gesundheit unterstützen. Die Bedürfnisse von KI-Nutzern mit psychischen Erkrankungen und Substanzgebrauchsstörungen müssten im Mittelpunkt stehen.
• National Alliance for Eating Disorders: Gründerin und CEO Johanna S. Kandel sagte, es sei entscheidend, sowohl das Potenzial von KI zur Verbesserung von Leben als auch die Wege zu betrachten, auf denen sie neue Risiken und Schäden verursachen kann.

Zu den neuen Partnern zählt auch die International Association for Suicide Prevention, die jedes Jahr am 10. September den Welttag der Suizidprävention verantwortet.

Was das bedeutet

Die Ankündigung zeigt, dass Leitlinien für das Verhalten von Chatbots in Krisensituationen künftig unter Beteiligung von Organisationen entstehen, die direkt mit gefährdeten Menschen arbeiten, gemeinsam mit Fachleuten aus KI-Unternehmen. Das erste Ergebnis, eine Orientierungshilfe zu Antworten bei möglichem Suizid- oder Selbstverletzungsrisiko, soll laut PAI im Lauf des Jahres als Entwurf zur öffentlichen Kommentierung vorliegen.