OpenAI investiert 2 Millionen US-Dollar in Forschung zur KI-Sicherheit für Kinder
OpenAI hat die Charter of Engagement for Safer AI for Children unterzeichnet und 2 Millionen US-Dollar für ein wissenschaftliches Forschungsnetzwerk zugesagt, das sich auf die Rechte und den Schutz von Kindern im Zeitalter der KI konzentriert. Nach Angaben des Unternehmens soll die Finanzierung Werkzeuge unterstützen, mit denen sich die Risiken und Chancen von KI für Kinder messen lassen.
- OpenAI hat die Charter of Engagement for Safer AI for Children unterzeichnet.
- Das Unternehmen hat 2 Millionen US-Dollar für ein wissenschaftliches Forschungsnetzwerk zugesagt.
- Die Finanzierung soll Werkzeuge zur Messung der Risiken und Chancen von KI für Kinder unterstützen.
- Forschungsteams behalten die Kontrolle über ihre Schlussfolgerungen und veröffentlichen auch negative oder nicht eindeutige Ergebnisse.
- OpenAI unterstützt altersgerechte Schutzmaßnahmen, Werkzeuge für Eltern und durchsetzbare Gesetze zur KI-Sicherheit junger Menschen.
Finanzierung einer gemeinsamen Forschungsinitiative
OpenAI ging die Verpflichtung Anfang dieser Woche beim Paris Peace Forum ein. Dort unterzeichnete das Unternehmen die Charta und unterstützte das wissenschaftliche Forschungsnetzwerk der Coalition for Children’s Rights and Protection in the Age of AI.
Nach Angaben von OpenAI soll der Beitrag gemeinsame Messverfahren unterstützen. Dazu gehört die Entwicklung von Werkzeugen, mit denen Forscher besser verstehen und messen können, wie sich KI auf Kinder auswirkt, einschließlich möglicher Risiken und Chancen.
Das Unternehmen erklärt, die daraus gewonnenen Erkenntnisse könnten zu sichereren Produkten und einer besseren Politik beitragen. Die Arbeit soll die Vorteile von KI für junge Menschen fördern und zugleich Risiken für ihre Sicherheit und Entwicklung angehen.
Charta legt Forschungs- und Sicherheitsprinzipien fest
Die Charter of Engagement for Safer AI for Children formuliert gemeinsame Prinzipien für sichere, altersgerechte KI. Sie umfasst außerdem ein Forschungsprogramm und Schutzmaßnahmen, die die Unabhängigkeit der Arbeit gewährleisten sollen.
Die Forschungsteams behalten laut OpenAI die Kontrolle über ihre Schlussfolgerungen. Die Ergebnisse werden veröffentlicht, auch negative oder nicht eindeutige Resultate. Dieser Ansatz soll eine breitere Evidenzbasis schaffen, statt sich nur auf positive Ergebnisse zu konzentrieren.
Das Forschungsnetzwerk bündelt Arbeiten zu den Rechten und dem Schutz von Kindern im Zeitalter der KI. Nach Angaben von OpenAI knüpft die Initiative an den Aufruf des Unternehmens zu globalen Standards für die KI-Sicherheit junger Menschen und zu einer dauerhaften Zusammenarbeit zwischen Regierungen, Forschern, Zivilgesellschaft und Industrie an.
OpenAI unterstützt Gesetze und Schutzmaßnahmen
OpenAI erklärt außerdem, das Unternehmen unterstütze umfassende Gesetze zur KI-Sicherheit junger Menschen. Diese sollten starke, durchsetzbare Schutzmaßnahmen festlegen und zugleich den Zugang zu Werkzeugen für Lernen, Kreativität und Chancen bewahren.
Solche Rahmenwerke sollten nach Angaben des Unternehmens standardmäßig altersgerechte Schutzmaßnahmen, Werkzeuge für Eltern, regelmäßige Risikobewertungen und deren Eindämmung sowie eine echte Rechenschaftspflicht umfassen.
OpenAI erklärt, man freue sich auf den Austausch mit europäischen politischen Entscheidungsträgern bei der Entwicklung des EU Kids Act sowie mit Partnern weltweit. Für Nutzer und politische Entscheidungsträger verknüpft die Ankündigung den künftigen Schutz junger Menschen mit gemeinsamer Forschung, veröffentlichten Ergebnissen und Maßnahmen, die auf KI-Produkte und politische Vorgaben angewendet werden können.
OpenAI: Supporting research on AI and children’s safety

