HKU und Global Cybersecurity Alliance gründen gemeinsames Forschungszentrum für KI und Cybersicherheit
Die University of Hong Kong (HKU) und die Global Cybersecurity Alliance (GCSA) haben gemeinsam das Centre for AI and Cybersecurity Research gegründet. Laut der Ankündigung soll es die Forschungskompetenz und die fachlichen Ressourcen beider Organisationen bündeln, um sich den Sicherheitsfragen zu widmen, die künstliche Intelligenz aufwirft.
- HKU und die Global Cybersecurity Alliance haben gemeinsam das Centre for AI and Cybersecurity Research gegründet.
- Professor Ho Chen von der HKU School of Computing and Data Science übernimmt die kommissarische Leitung.
- Vier Forschungsschwerpunkte: vertrauenswürdige KI, KI-gestützte Bedrohungsabwehr, Sicherheit von Zukunftstechnologien sowie globale Standards und Governance für KI-Sicherheit.
- Das Zentrum plant, Forschungsergebnisse, Sicherheits-Benchmarks und Open-Source-Werkzeuge nach und nach zu veröffentlichen.
Gemeinsames Zentrum auf Basis akademischer und industrieller Ressourcen
Das Zentrum soll erstklassige Forschungskompetenz und fachliche Ressourcen von HKU und GCSA zusammenführen. Als erklärte Ziele nennt es, die Spitzenforschung voranzubringen, Forschungsergebnisse enger mit realen Sicherheitsszenarien zu verknüpfen und neue Technologien, Methoden und Governance-Rahmenwerke in den Bereichen KI und Cybersicherheit zu erkunden.
Professor Ho Chen, Inhaber des Lehrstuhls für Cybersicherheit an der HKU School of Computing and Data Science, übernimmt die kommissarische Leitung. Das Zentrum will Forschende der HKU, der GCSA und internationaler Partnerinstitutionen zusammenbringen. Außerdem sollen Fachleute für künstliche Intelligenz, Cybersicherheit und Technologie-Governance in Forschungs- und Beratungsfunktionen eingebunden werden, um die disziplin- und institutionsübergreifende Zusammenarbeit zu fördern.
Die Initiatoren betonen ihren Anspruch, akademische Forschung und Praxis der Industrie zu verbinden. Sie planen, Forschungsergebnisse, Sicherheits-Benchmarks und Open-Source-Werkzeuge aus den Bereichen KI und Cybersicherheit nach und nach zu veröffentlichen.
Vier zentrale Forschungsschwerpunkte
Die Ankündigung nennt vier Hauptarbeitsfelder:
- Model Inherent Security and Trustworthy AI: Verbesserung von Sicherheit, Interpretierbarkeit und Robustheit großer Sprachmodelle und generativer KI.
- AI-Driven Automated Threat Defence: Einsatz von KI, um Wahrnehmung und automatisierte Abwehr gegen komplexe Cyberangriffe zu stärken.
- Security Assessment of Frontier Technologies: Bewertung möglicher Sicherheitsrisiken von Technologien der nächsten Generation wie Embodied AI, Robotik und dem Internet der Dinge (IoT).
- Global AI Security Standards and Governance: Erforschung von Standards zur Bewertung der KI-Sicherheit und von Governance-Mechanismen, um den internationalen Dialog und die Zusammenarbeit zu unterstützen.
Die Liste deckt beide Seiten des Verhältnisses von KI und Sicherheit ab: den Schutz von KI-Systemen selbst und den Einsatz von KI zur Abwehr von Angriffen. Hinzu kommen physische und vernetzte Technologien sowie die politische Seite von Standards und Governance.
Was das Zentrum liefern will
Professor Ho Chen sagte in der Ankündigung: „Die rasante Entwicklung der KI bringt beispiellose Sicherheitsrisiken und Governance-Herausforderungen mit sich.“ Das Zentrum „werde als Brücke zwischen akademischer Forschung, Sicherheitstests und industrieller Anwendung dienen, um die Umsetzung und den Einsatz von KI-Sicherheitsforschung durch disziplinübergreifende und internationale Zusammenarbeit zu beschleunigen“.
Angaben zu Finanzierung, Personalstärke, Zeitplänen oder konkreten ersten Projekten macht die Quelle nicht. Skizziert wird dagegen die Art der erwarteten Ergebnisse: Forschungsergebnisse, Sicherheits-Benchmarks und Open-Source-Werkzeuge, die nach und nach veröffentlicht werden sollen. Für Organisationen, die große Sprachmodelle, generative KI oder vernetzte Geräte einsetzen, könnten solche Benchmarks und Werkzeuge zu Referenzpunkten werden, sofern sie wie geplant erscheinen. Der Fokus auf Bewertungsstandards und Governance-Mechanismen deutet zudem auf eine Rolle in der internationalen Debatte darüber hin, wie sich KI-Sicherheit bewerten lässt.
