Ask Mishomis rückt indigene Datenhoheit ins Zentrum der KI-Sicherheit

Eine auf Gemeinschaften ausgerichtete Forschungsplattform

Jacob Taylor, geschäftsführender Direktor des National Indigenous Economic Prosperity Institute an der First Nations University of Canada, leitet Ask Mishomis gemeinsam mit Victoria Lemieux, emeritierter Professorin am Institute of Information, Computing and Cognitive Systems der University of British Columbia.

Die Plattform ist nach dem Ojibwe-Wort für „Großvater“ benannt. Sie soll Beauftragten für die wirtschaftliche Entwicklung von Gemeinschaften und lokalen Führungspersönlichkeiten ermöglichen, in einfacher Sprache Fragen zu komplexer Forschung zu stellen und direkte Antworten zu erhalten.

Ask Mishomis nutzt Retrieval-Augmented Generation, kurz RAG. Mit dieser Technik können große Sprachmodelle Informationen aus verifizierter Forschung abrufen, statt sich auf umfangreiche Webdaten zu stützen. Taylor sagte, die Idee sei von seiner Erfahrung geprägt worden, als er während seines Grundstudiums an der Western University auf die 11 Bände der Royal Commission on Aboriginal Peoples stieß. Die Forschung sei schwer nutzbar gewesen, weil „man Akademiker sein musste, um sie wirklich zu verstehen“.

Die Datenhoheit bleibt bei den Gemeinschaften

Das Projekt wird durch einen AI Safety Catalyst Grant des CAISI Research Program bei CIFAR unterstützt. Die Initiative verbindet indigene Weltanschauungen mit Informatik und greift damit das auf, was der Mi’kmaq-Älteste Albert Marshall „Two-Eyed Seeing“ nannte.

Die Kontrolle über Daten steht im Zentrum des Projekts, weil bei indigenen Gemeinschaften in der Vergangenheit Daten ohne Einwilligung erhoben und verwendet wurden, um Schaden anzurichten. Laut CIFAR könnten moderne KI-Systeme dieses Muster wiederholen, indem sie kulturelles Wissen aus dem Internet extrahieren, in Unternehmenssysteme übertragen, falsche Versionen von Traditionen verbreiten oder voreingenommene Entscheidungen hervorbringen.

Statt konventionelle kommerzielle Infrastruktur zu nutzen, läuft Ask Mishomis auf Clio-X, einem dezentralen, Blockchain-basierten System, das Lemieux ursprünglich für Archive und Kultureinrichtungen entwickelt hat. Das Design soll es Gemeinschaften ermöglichen, selbst zu bestimmen, wer auf ihre Informationen zugreifen darf und unter welchen Bedingungen. Lemieux sagte: „Unsere Daten sind wir. Sie repräsentieren uns nicht nur. Sie verkörpern tatsächlich, wer wir sind.“

Governance im Tempo des Vertrauens

Das Team entwickelt sein Governance-Modell mithilfe von Befragungen auf dem Campus, Workshops und Gesprächen auf Grundlage indigener Methoden. Es orientiert sich an den First Nations Principles of OCAP, also Ownership, Control, Access and Possession, und nimmt sich Zeit, einen Konsens herzustellen.

Der Ansatz beruht auf wâhkôtowin, einem Cree-Konzept, das die Beziehungen zwischen Menschen, Land, Tieren, Pflanzen, Vorfahren, der geistigen Welt und künftigen Generationen beschreibt. Kristin Wilson, Doktorandin an der University of British Columbia und Mitglied des Forschungsteams, sagte, das Projekt müsse sich „im Tempo des Vertrauens bewegen“.

Laut CIFAR könnten Gemeinschaften künftig Eigentümerinnen der Clio-X-Hardwareknoten werden und einen wirtschaftlichen Wert erhalten, wenn ihre Daten zu umfassenderen Aktivitäten beitragen. Für Jonathan Sawa, einen Cree-Doktoranden aus der Cowessess First Nation, ist entscheidend, ob das System bei der Gemeinschaft bleibt: „Es geht nicht so sehr darum, dass es eine KI gibt, sondern darum, dass sie bei ihnen bleibt.“

Das Projekt zeigt, wie sich KI-Sicherheit durch lokale Kontrolle, Einwilligung und Beziehungen angehen lässt und nicht allein durch Technologie. Taylor sagte, die Unterstützung von CIFAR verschaffe dem Team die Ressourcen, um Menschen zusammenzubringen, Vertrauen aufzubauen und Nachwuchsforschende aus indigenen Gemeinschaften einzubeziehen.