Künstliche Intelligenz, aktuell.
Direkt aus den Originalmeldungen.

OpenAI baut seine Model Spec um fünf Grundwerte herum neu auf

29. Oktober 2026, 18:00Von der KI Nachrichten RedaktionQuelle: OpenAI

OpenAI hat seine Model Spec überarbeitet, die öffentliche Beschreibung des gewünschten Verhaltens seiner Modelle, und gliedert das Dokument nun um fünf zugrunde liegende Werte. Laut dem Unternehmen enthält die Neufassung zudem Leitlinien zu Kontext, Aufsicht und Handlungsfähigkeit, passt einige Verhaltensstandards an und streicht einen Großteil der detaillierten Stilvorgaben.

Das Wichtigste in Kürze
  • OpenAI hat seine Model Spec aktualisiert und um fünf Werte neu geordnet: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit und Sorgfalt.
  • Neue Leitlinien betreffen Kontext, eine aktualisierte Befehlskette, die Unterstützung menschlicher Handlungsfähigkeit und die Beachtung sozialer Normen.
  • Der Großteil der detaillierten Stilvorgaben entfällt, der Stil soll sich stattdessen an den Präferenzen der Nutzer orientieren.
  • Die Spec bezeichnet das Modell nun als „GPT“ statt als „den Assistenten“.
  • OpenAI sagt, seine Modelle spiegelten die Spec noch nicht vollständig wider, und bittet um öffentliches Feedback.

Fünf Werte im Zentrum der Spec

OpenAI erklärt, dass seine Modelle mit zunehmender Leistungsfähigkeit und folgenreicheren Handlungen in der Welt mehr leisten müssen, als nur die konkreten Anweisungen zu interpretieren, die sie erhalten. Nach Angaben des Unternehmens müssen Modelle auch menschliche Absichten und Werte verstehen, um in Situationen, die ihre Anweisungen nicht ausdrücklich abdecken, gutes Urteilsvermögen zu zeigen und dabei der menschlichen Absicht und Aufsicht treu zu bleiben.

Die aktualisierte Spec baut auf diesen fünf Werten auf:

  • Treue zur menschlichen Absicht, die als Fundament des Ansatzes beschrieben wird.
  • Schadensminimierung, also das Einhalten fester Sicherheitsgrenzen und das Berücksichtigen der absehbaren Folgen der Handlungen des Modells.
  • Ehrlichkeit und Transparenz, das heißt wahrheitsgemäße Angaben darüber, was das Modell weiß, tut und wo es unsicher ist.
  • Förderung menschlicher Handlungsfähigkeit, also die Stärkung der Fähigkeit von Menschen, selbst zu verstehen, zu entscheiden und zu handeln.
  • Sorgfalt, das heißt, die Umstände der Betroffenen zu beachten, relevante soziale und fachliche Normen einzuhalten und Arbeit zu leisten, auf die sich Menschen verlassen können.

OpenAI betont, diese Werte spiegelten Verpflichtungen wider, die in der Spec bereits enthalten seien, und ihre Zusammenführung helfe zu erklären, warum das Dokument von den Modellen das jeweilige Verhalten verlange. Zugleich seien die Werte nicht als vollständige Abbildung aller menschlichen Werte gedacht, die seine Modelle respektieren sollten.

Was Treue zur Absicht bedeutet

Laut OpenAI geht Treue über das wörtliche Befolgen von Anweisungen hinaus. Sie bedeute, zu verstehen, was OpenAI, Entwickler und Nutzer beabsichtigen und wertschätzen, und klug zu handeln, wenn dieses Verständnis unvollständig ist. Das Unternehmen beschreibt eine gestufte Struktur: OpenAI verfasst die Spec, setzt Grenzen und trainiert die Modelle darauf, sie einzuhalten; Entwickler steuern Anwendungen innerhalb dieser Grenzen; Nutzer steuern die Arbeit des Modells im Rahmen dieser Vorgaben.

Außerdem gehöre zur Treue die Einsicht, dass sich Überzeugungen und Werte von Menschen ändern können. Das Modell solle Menschen dabei helfen, nachzudenken und sich in einer Weise weiterzuentwickeln, die sie selbst gutheißen würden, ohne sie unmerklich zu lenken oder ihre Entscheidungen zu übergehen. Als Beispiel nennt OpenAI, dass das Modell beim Vergleich von Jobangeboten auf Prioritäten zurückgreifen könnte, die die Person zuvor geäußert hat, etwa planbare Arbeitszeiten, und diese Annahmen dabei sichtbar und leicht korrigierbar macht.

Die Spec übersetzt die Werte in praktische Leitlinien. Sie setzt dort feste Grenzen, wo es zum Schutz von Menschen und Gesellschaft nötig ist, und besteht ansonsten überwiegend aus Standardvorgaben, die Nutzer und Entwickler überschreiben können.

Neue, erweiterte und gestrichene Leitlinien

Durch die Neuordnung erkannte OpenAI, wo weitere Leitlinien nötig waren. Der neue Abschnitt zur Treue gegenüber der menschlichen Absicht geht von der Idee aus, dass das, was Menschen wertschätzen, an erster Stelle steht und dass Anweisungen in der Regel die klarsten und wichtigsten Signale dieser Werte sind. OpenAI sagt, dies greife auf die Rahmung von Alignment als sogenannte Assistance Games zurück. Der Abschnitt enthält eine aktualisierte Befehlskette, die erklärt, welche Anweisungen gelten und wie Konflikte aufgelöst werden.

Zu den weiteren Änderungen zählen:

  • Ein neuer Unterabschnitt, „Kontext sorgfältig berücksichtigen“, dazu, wie Gespräche, Erinnerungen und andere Kontextindizien das Verständnis des Modells für die Absichten und Präferenzen von Menschen prägen sollen.
  • Neue Standardvorgaben zur Unterstützung menschlicher Handlungsfähigkeit und zur Beachtung relevanter sozialer Normen.
  • Erweiterte Leitlinien zur Kontrolle und Kommunikation von Nebenwirkungen.

Gleichzeitig streicht OpenAI den Großteil der detaillierten Stilvorgaben der Spec. Der Stil solle sich daran orientieren, was Menschen bevorzugen, im Aggregat, innerhalb von Sprachen und Kulturen und für jede einzelne Person, wobei Nutzerfeedback und Kontext als Belege dienen. Stärkere Standardvorgaben bleiben bestehen, etwa Fragen objektiv anzugehen. Nutzer und Entwickler können das Modell ausdrücklich bitten, eine bestimmte Perspektive einzunehmen, doch es soll diese Präferenz nicht allein daraus ableiten, was es für das hält, was sie hören wollen.

Die Spec bezeichnet das Modell nun außerdem als „GPT“ statt als „den Assistenten“, was OpenAI mit der wachsenden Breite der Anwendungsfälle und Einsatzumgebungen seiner Modelle begründet.

Trainingsarbeit und Ausblick

Parallel zur Aktualisierung erkundet OpenAI nach eigenen Angaben neue Trainingsmethoden, damit seine Modelle die Kernwerte lernen und die konkreten Prinzipien der Spec besser befolgen. Ziel sei es, ein Verständnis dafür aufzubauen, warum die Prinzipien wichtig sind und wie sie in neuen Situationen anzuwenden sind, also die „richtigen Dinge aus den richtigen Gründen“ zu tun. Ergebnisse und Erkenntnisse aus dieser Arbeit will das Unternehmen in künftigen Updates teilen.

OpenAI räumt die Lücke zwischen Dokument und Produkt offen ein: Die Model Spec beschreibe das Verhalten, auf das das Unternehmen hinarbeite, und seine Modelle spiegelten es noch nicht vollständig wider. Das Update bezeichnet das Unternehmen als ersten Schritt, die Werte und Überlegungen hinter der Spec expliziter zu machen, während die Modelle leistungsfähiger werden.

Für Nutzer und Entwickler lautet das praktische Signal, dass die Spec das Modellverhalten zunehmend um Urteilsvermögen und Absicht statt um detaillierte Stilregeln herum ausrichtet, mit Standardvorgaben, die sie überschreiben können. OpenAI bittet zudem um öffentliches Feedback dazu, welche Teile der Spec überzeugen, wo man mit der Gewichtung nicht einverstanden ist und was sie übersieht oder unklar lässt.

Ähnliche Meldungen

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter
Sicherheit und Ethik19. November 2026, 14:00

Check Point: KI-Agenten brauchen Steuerung vor dem Notausschalter

Check Point positioniert die Steuerung von KI-Agenten als erste Reaktion auf riskantes Verhalten und will die automatische Abschaltung für gekaperte Agenten reservieren.…

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer
Forschung18. November 2026, 17:09

Princeton-Studie: ChatGPTs Antworten zu Wahlen variieren je nach Nutzer

Die Speichereinstellungen von ChatGPT können die parteipolitische Tendenz wahlbezogener Antworten verändern. Das zeigt eine vorläufige Princeton-Feldstudie mit 160…

Sicherheit und Ethik
Sicherheit und Ethik18. November 2026, 07:00

OpenAI erläutert strengere Kontrollen für Frontier-KI von der Entwicklung bis zum Einsatz

OpenAI will Entwicklung und Veröffentlichung von Frontier-Modellen bei Bedarf verlangsamen, um die eigenen Sicherheitsstandards zu erfüllen. Dazu gehören das Pausieren…