Kulturell sensible KI für Bangladesch: Forschungsteam der U of T entwickelt Assistenten für psychosoziale Fachkräfte
Ein Forschungsteam der University of Toronto hat vom Wellcome Trust 1,8 Millionen Dollar erhalten, um einen kulturell angepassten generativen KI-Assistenten für Fachkräfte der gemeindenahen psychischen Gesundheitsversorgung in Bangladesch zu entwickeln und zu erproben. Das Projekt unter Leitung von Syed Ishtiaque Ahmed soll die Lücke schließen zwischen der Art, wie große KI-Modelle seelische Belastung deuten, und der Art, wie Menschen sie tatsächlich erleben.
- Der Wellcome Trust hat einem Team der U of T unter Leitung von Syed Ishtiaque Ahmed 1,8 Millionen Dollar bewilligt.
- Der generative KI-Assistent unterstützt Para-Berater in Bangladesch und spricht nie direkt mit Patienten.
- In Bangladesch kommt laut Quelle auf rund 85.000 Menschen ein Therapeut.
- Das zweijährige Projekt umfasst einen sechsmonatigen Feldversuch in fünf Regionen Bangladeschs.
- Die zugrunde liegenden Modelle und Methoden werden offen veröffentlicht, damit andere Gemeinschaften sie anpassen können.
Warum gängige Sprachmodelle an ihre Grenzen stoßen
Am Anfang des Projekts steht ein Sprachproblem. In Bangladesch sitzt eine Fachkraft der gemeindenahen psychischen Gesundheitsversorgung womöglich einem Klienten gegenüber, der nicht schlafen oder aufhören kann zu grübeln, und der dieses Gefühl mit dem Bangla-Wort manoshik chap beschreibt, übersetzt „Anspannung“. Laut dem Schwartz Reisman Institute hat das Wort wirtschaftliche, soziale und spirituelle Bedeutungen, von denen kaum eine zu den Kategorien passt, die die leistungsstärksten heutigen KI-Systeme zu erkennen gelernt haben.
Ein großes Sprachmodell, das diese Bedeutungen auf „Angst“ oder „Depression“ verengt, verliert Nuancen und kann eine Situation völlig falsch deuten, heißt es in dem Artikel. „In der psychischen Gesundheit steht mehr auf dem Spiel, weil hier der eigene Bericht eines Menschen über sein Leiden übersetzt wird“, sagt Ahmed, Associate Professor am Department of Computer Science und Faculty Affiliate des Schwartz Reisman Institute.
Der Bedarf ist groß. Laut der Quelle kommt in Bangladesch auf rund 85.000 Menschen ein Therapeut. Ahmed sagt, psychische Gesundheit werde im Globalen Süden häufig vernachlässigt, und bestehende Werkzeuge funktionierten „nicht immer außerhalb der westlichen Blase, in der sie entstanden sind“.
Ein Werkzeug für Para-Berater, nicht für Patienten
Die Förderung des Wellcome Trust in Höhe von 1,8 Millionen Dollar finanziert einen Assistenten für Para-Berater. Das sind Gesundheitshelfer an der Basis der Gemeinden, die in ressourcenarmen Regionen Bangladeschs oft die einzige Anlaufstelle für psychische Unterstützung sind. Wellcome ist eine globale gemeinnützige Stiftung; ihr Programm Mental Health fördert Forschung zu Angststörungen, Depressionen und Psychosen.
Die Berater sollen den Assistenten nutzen, um Sitzungen vorzubereiten, das Gehörte einzuordnen und nächste Schritte zu überlegen. Das System spricht nie direkt mit Patienten. Der Berater prüft, bearbeitet oder verwirft jeden Vorschlag, mit dem Ziel, sein Urteilsvermögen zu stärken statt zu ersetzen.
Ahmed grenzt das von Apps ab, bei denen eine Person in Not direkt mit einem unbeaufsichtigten Modell spricht. „Von einem menschlichen Berater würden wir das nie akzeptieren. Von einer Maschine sollten wir es auch nicht akzeptieren“, sagt er. In seinen Worten: „Der Berater behält die Beziehung, die Verantwortung und das letzte Wort.“
Partner, Konzept und Zeitplan
Während des zweijährigen Projekts arbeitet Ahmeds Forschungsgruppe Third Space an der U of T mit zwei bangladeschischen Partnern zusammen: der gemeinnützigen SAJIDA Foundation und dem gewinnorientierten Sozialunternehmen mPower Social Enterprises Limited. Beteiligt ist außerdem ein Netzwerk von Menschen mit eigener Erfahrung mit Angststörungen, Depressionen und Psychosen.
Das Projekt behandelt Ethik und Datensouveränität als zentrale Gestaltungsfragen. Menschen mit eigener Krankheitserfahrung wirken als Mitgestalter, Gutachter und Sicherheitsbeobachter mit und werden für ihre Expertise angemessen vergütet. Die zugrunde liegenden Modelle und Methoden sollen offen veröffentlicht werden, damit andere Gemeinschaften sie anpassen können.
Das Team plant Folgendes:
- einen ethisch einwandfrei erhobenen Datenbestand aufbauen
- die KI entwickeln und testen
- das Werkzeug gemeinsam mit den Beratern entwerfen, die es nutzen werden
- einen sechsmonatigen Feldversuch in fünf Regionen Bangladeschs durchführen
Arid Hasan, ein von Ahmed betreuter Doktorand, leitet das Forschungsteam seit sieben Monaten und arbeitet seit 2018 an der Verarbeitung natürlicher Sprache für Bangla. Studierende und Doktoranden im Projekt erhalten praktische Ausbildung im Aufbau kulturell verankerter Systeme für maschinelles Lernen und Sprachverarbeitung.
Was das über Bangladesch hinaus bedeuten könnte
Die Quelle beschreibt das System als eine der ersten KI-Interventionen für psychische Gesundheit, die gezielt für Gemeinschaften im Globalen Süden entwickelt wurden. Verläuft der Pilot erfolgreich, könnten die Ergebnisse auf andere Sprachen und Regionen wie Westbengalen, Nepal und Ostafrika übertragen werden.
Ahmed sieht viel auf dem Spiel. „Wenn wir das richtig machen, ist der Beitrag nicht nur ein Werkzeug“, sagt er. „Es ist der Beweis, dass der Globale Süden ein Ort sein kann, an dem verantwortungsvolle KI entsteht, und nicht nur einer, an dem sie nachträglich eingesetzt wird.“
Schwartz Reisman Institute: Syed Ishtiaque Ahmed leads project pioneering culturally grounded AI for mental health care in Bangladesh
