Workshop von AI for Good verbindet Open-Source-KI mit stärkeren Schutzvorkehrungen

Open Source und Governance gehören zusammen

Der Workshop mit dem Titel Advancing responsible AI: Open source for inclusive development and collaborative governance wurde von AI for Good in Partnerschaft mit der World Internet Conference (WIC) organisiert. Liang Hao, Executive Deputy Secretary-General der WIC, moderierte die Sitzung. Dabei ging es darum, wie Open-Source-Ökosysteme die Teilhabe an der KI-Entwicklung erweitern können und wie Länder und Institutionen die Governance koordinieren können, wenn Systeme Grenzen überschreiten.

In seiner Eröffnungsrede verglich Francis Gurry, stellvertretender Vorsitzender der WIC und ehemaliger Generaldirektor der World Intellectual Property Organization, rund 212 Milliarden USD an Auslandshilfe großer Geber im Jahr 2024 mit geschätzten 252 Milliarden USD an weltweiten Unternehmensinvestitionen in KI. Er stellte Open-Source-Ökosysteme als eine Möglichkeit dar, die Vorteile von KI breiter zu teilen. Zugleich argumentierte er, Governance könne einen Rahmen für eine wirksame Nutzung schaffen, statt lediglich als Einschränkung zu fungieren.

Seizo Onoe, Direktor des ITU Telecommunication Standardization Bureau, sagte, Standards und Open Source beruhten beide auf beitragsgetriebener und konsensbasierter Entwicklung. Open-Source-Toolkits, Plattformen und Simulationsumgebungen unterstützten die schnelle Entwicklung von Prototypen und führten Erfahrungen aus dem praktischen Einsatz in die Standardisierung zurück, ergänzte er.

Offenheit bringt technische und rechtliche Verantwortung

John Higgins, Co-Leiter des Standards Promotion Program des WIC Specialized Committee on AI, erklärte, die Branche dürfe ihre Entscheidungen nicht auf die Frage Open Source oder proprietäre KI reduzieren. Offenheit beseitige weder Kosten noch Verantwortung, sagte Higgins. Organisationen benötigten möglicherweise mehr technisches Fachwissen, eine stärkere Validierung sowie ein klares Verständnis der Herkunft und Lizenzierung von Komponenten. Gemeinsame Standards könnten zudem helfen, regulatorische Reibungen zwischen Märkten zu verringern.

Wei Kai, stellvertretender Vorsitzender des WIC AI Specialized Committee und Direktor des AI Institute an der China Academy of Information and Communications Technology, beschrieb das Wachstum des chinesischen Open-Source-KI-Ökosystems. Die Veröffentlichung von Modellgewichten zusammen mit technischen Berichten ermögliche den Austausch von Ideen zwischen Entwicklern und unterstütze schnellere Iterationen, sagte er. Seine Präsentation behandelte außerdem freiwillige Selbstverpflichtungen der Branche, die Offenlegung und Überprüfung von Unternehmenspraktiken, Sicherheits-Benchmarks und gemeinsame Standards.

Die Referenten betonten, dass Offenheit nur dann einen inklusiven Nutzen schafft, wenn Nutzer den geteilten Systemen vertrauen können. Ein breiterer Zugang setzt daher voraus, dass nachvollziehbar ist, wie Modelle und Komponenten entwickelt, lizenziert und getestet wurden.

Tests und Aufsicht bleiben ungelöst

Dame Wendy Hall, Ko-Vorsitzende des WIC AI Specialized Committee und Regius Professor of Computer Science an der University of Southampton, sagte, KI dürfe nach ihrer Einführung nicht als rein technisches Thema behandelt werden. Sie beschrieb die Messung, Bewertung und Absicherung von KI als ein entstehendes Feld, das Audits, unabhängige Prüfungen und international abgestimmte Standards erfordere. Hall wies außerdem darauf hin, dass Frauen die Hälfte der Weltbevölkerung ausmachen, aber in der KI-Entscheidungsfindung weiterhin unterrepräsentiert sind.

Yi Zeng, Wu Yuzhang Chair Professor an der Renmin University und Forscher am Beijing Institute of AI Safety, verwies auf den Aufruf des UN-Generalsekretärs zu kinderspezifischen Sicherheitstests und unabhängiger Aufsicht, bevor für Kinder zugängliche KI-Systeme eingesetzt werden. Nach den Bewertungen seines Teams erfüllen die derzeitigen Modelle diese Schwelle noch nicht, sagte er. Bei Tests von Modellen für verkörperte und agentische Systeme waren einfache adversariale Angriffe in einigen Szenarien gegen bestimmte Modelle in etwa 40% der Fälle erfolgreich. Mit zunehmender Komplexität der Angriffe nahm die Leistung weiter ab.

Maxime Stauffer vom Simon Institute for Long Term Governance unterschied zwischen der Steuerung der KI-Entwicklung und der Steuerung ihres Einsatzes. Während die Entwicklung vor allem eine innenpolitische und bilaterale Frage unter Beteiligung der Vereinigten Staaten und Chinas sei, betreffe der Einsatz alle Länder. Denn jedes Land müsse Systeme bewerten und Schutzvorkehrungen für ihre Nutzung festlegen können.

Warum das für den Einsatz wichtig ist

Zum Abschluss des Workshops herrschte die gemeinsame Sorge, dass sich die KI-Entwicklung schneller voranbewegt als die Governance. Moises Maldonado von UNHCR übertrug das Schweizer-Käse-Modell aus der Sicherheitstechnik auf humanitäre KI. Er schlug mehrere Schutzebenen vor, darunter Designprinzipien, kollaborative Governance, soziotechnische Bewertungen, Rückmeldungen aus der Gemeinschaft und menschliche Prüfung.

Die Botschaft für Nutzer und Institutionen lautet, dass ein breiterer Zugang zu Open-Source-Modellen und -Werkzeugen die Notwendigkeit von Verantwortung nicht beseitigt. Sicherheitstests, gemeinsame Standards, Bewertungen im praktischen Einsatz, menschliche Aufsicht und grenzüberschreitende Zusammenarbeit werden nötig sein, um das Verhalten von Systemen in unterschiedlichen Kontexten zu beurteilen und zu reagieren, wenn Schutzvorkehrungen versagen. Modelle mit offenen Gewichten können den Zugang zu fortgeschrittenen Fähigkeiten erweitern. Die Referenten warnten jedoch auch, dass sich Schutzvorkehrungen leichter entfernen lassen.