Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

OpenAI investiert 2 Millionen US-Dollar in Forschung zur KI-Sicherheit für Kinder

12. November 2026Von der KI Nachrichten RedaktionQuelle: OpenAI

OpenAI hat die Charter of Engagement for Safer AI for Children unterzeichnet und 2 Millionen US-Dollar für ein wissenschaftliches Forschungsnetzwerk zugesagt, das sich auf die Rechte und den Schutz von Kindern im Zeitalter der KI konzentriert. Nach Angaben des Unternehmens soll die Finanzierung Werkzeuge unterstützen, mit denen sich die Risiken und Chancen von KI für Kinder messen lassen.

Das Wichtigste in Kürze
  • OpenAI hat die Charter of Engagement for Safer AI for Children unterzeichnet.
  • Das Unternehmen hat 2 Millionen US-Dollar für ein wissenschaftliches Forschungsnetzwerk zugesagt.
  • Die Finanzierung soll Werkzeuge zur Messung der Risiken und Chancen von KI für Kinder unterstützen.
  • Forschungsteams behalten die Kontrolle über ihre Schlussfolgerungen und veröffentlichen auch negative oder nicht eindeutige Ergebnisse.
  • OpenAI unterstützt altersgerechte Schutzmaßnahmen, Werkzeuge für Eltern und durchsetzbare Gesetze zur KI-Sicherheit junger Menschen.

Finanzierung einer gemeinsamen Forschungsinitiative

OpenAI ging die Verpflichtung Anfang dieser Woche beim Paris Peace Forum ein. Dort unterzeichnete das Unternehmen die Charta und unterstützte das wissenschaftliche Forschungsnetzwerk der Coalition for Children’s Rights and Protection in the Age of AI.

Nach Angaben von OpenAI soll der Beitrag gemeinsame Messverfahren unterstützen. Dazu gehört die Entwicklung von Werkzeugen, mit denen Forscher besser verstehen und messen können, wie sich KI auf Kinder auswirkt, einschließlich möglicher Risiken und Chancen.

Das Unternehmen erklärt, die daraus gewonnenen Erkenntnisse könnten zu sichereren Produkten und einer besseren Politik beitragen. Die Arbeit soll die Vorteile von KI für junge Menschen fördern und zugleich Risiken für ihre Sicherheit und Entwicklung angehen.

Charta legt Forschungs- und Sicherheitsprinzipien fest

Die Charter of Engagement for Safer AI for Children formuliert gemeinsame Prinzipien für sichere, altersgerechte KI. Sie umfasst außerdem ein Forschungsprogramm und Schutzmaßnahmen, die die Unabhängigkeit der Arbeit gewährleisten sollen.

Die Forschungsteams behalten laut OpenAI die Kontrolle über ihre Schlussfolgerungen. Die Ergebnisse werden veröffentlicht, auch negative oder nicht eindeutige Resultate. Dieser Ansatz soll eine breitere Evidenzbasis schaffen, statt sich nur auf positive Ergebnisse zu konzentrieren.

Das Forschungsnetzwerk bündelt Arbeiten zu den Rechten und dem Schutz von Kindern im Zeitalter der KI. Nach Angaben von OpenAI knüpft die Initiative an den Aufruf des Unternehmens zu globalen Standards für die KI-Sicherheit junger Menschen und zu einer dauerhaften Zusammenarbeit zwischen Regierungen, Forschern, Zivilgesellschaft und Industrie an.

OpenAI unterstützt Gesetze und Schutzmaßnahmen

OpenAI erklärt außerdem, das Unternehmen unterstütze umfassende Gesetze zur KI-Sicherheit junger Menschen. Diese sollten starke, durchsetzbare Schutzmaßnahmen festlegen und zugleich den Zugang zu Werkzeugen für Lernen, Kreativität und Chancen bewahren.

Solche Rahmenwerke sollten nach Angaben des Unternehmens standardmäßig altersgerechte Schutzmaßnahmen, Werkzeuge für Eltern, regelmäßige Risikobewertungen und deren Eindämmung sowie eine echte Rechenschaftspflicht umfassen.

OpenAI erklärt, man freue sich auf den Austausch mit europäischen politischen Entscheidungsträgern bei der Entwicklung des EU Kids Act sowie mit Partnern weltweit. Für Nutzer und politische Entscheidungsträger verknüpft die Ankündigung den künftigen Schutz junger Menschen mit gemeinsamer Forschung, veröffentlichten Ergebnissen und Maßnahmen, die auf KI-Produkte und politische Vorgaben angewendet werden können.

OpenAIParis Peace ForumCoalition for Children’s Rights and Protection in the Age of AIEU Kids ActKI-SicherheitBildungRegierung und KIEU AI Act

Ähnliche Meldungen

Australien zielt mit sechs verbindlichen Schutzvorkehrungen auf Frontier-KI
Wirtschaft11. November 2026, 04:24

Australien zielt mit sechs verbindlichen Schutzvorkehrungen auf Frontier-KI

Australien führt sechs verbindliche Sicherheitsvorkehrungen für Unternehmen im Bereich der Frontier-Künstlichen-Intelligenz ein und schafft eine Aufsichtsbehörde mit…

UNESCO veröffentlicht Leitfaden zu Medien- und Informationskompetenz im Zeitalter der KI
Wirtschaft10. November 2026, 12:18

UNESCO veröffentlicht Leitfaden zu Medien- und Informationskompetenz im Zeitalter der KI

UNESCO hat ein neues Curriculum für Medien- und Informationskompetenz veröffentlicht. Es soll Lehrende und Lernende dabei unterstützen, sich kritisch mit künstlicher…

Wirtschaft
Wirtschaft10. November 2026, 10:00

OpenAI fordert bessere KI-Leitlinien und Unterstützung für Lehrkräfte im Bildungswesen

OpenAI fordert bessere Leitlinien für den Einsatz künstlicher Intelligenz im Bildungswesen. Lehrkräfte, Schulen und Regierungen müssten über die nötigen Kenntnisse und…