OpenAI aktualisiert Modellspezifikation mit fünf Kernwerten für eine sicherere KI-Ausrichtung

Da künstliche Intelligenz-Modelle intelligenter werden und in der realen Welt immer bedeutungsvollere Aktionen ausführen, hat OpenAI seine öffentliche Modellspezifikation aktualisiert, um ihr Verhalten zu lenken. Die Organisation betont, dass Modelle über die bloße Interpretation spezifischer Anweisungen hinausgehen müssen; sie müssen menschliche Absichten und Werte verstehen, um in Situationen, die durch Eingaben nicht ausdrücklich behandelt werden, ein gutes Urteilsvermögen zu zeigen. Diese Aktualisierung strukturiert die Anleitung des Dokuments neu um fünf zugrunde liegende Werte: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Selbstbestimmung und Fürsorge.

Die Treue zur menschlichen Absicht dient als Grundlage dieses Ansatzes und erfordert von Modellen, dass sie tiefgehend verstehen, was OpenAI, Entwickler und Nutzer beabsichtigen, anstatt Anweisungen wörtlich zu befolgen. Dieser Wert beinhaltet die Anerkennung, dass sich die Überzeugungen der Menschen ändern können, und hilft ihnen, nachzudenken, ohne ihre Entscheidungen stillschweigend zu lenken oder zu überschreiben. Wenn ein Modell einem Nutzer beispielsweise bei der Vergleich von Jobangeboten hilft, könnte es auf zuvor geteilte Prioritäten wie vorhersehbare Arbeitszeiten zurückgreifen, während es diese Annahmen sichtbar und leicht korrigierbar macht. Das Ziel besteht darin, die Fähigkeit der Menschen, ihr eigenes Leben zu gestalten, zu erweitern, indem sie dabei geholfen wird, die Welt zu verstehen und gewählte Ziele zu verfolgen.

Die verbleibenden vier Werte machen explizite Überlegungen für langfristige Interessen und Auswirkungen auf andere deutlich. Die Minimierung von Schäden beinhaltet die Achtung fester Sicherheitsgrenzen und die Berücksichtigung vorhersehbarer Konsequenzen. Ehrlichkeit und Transparenz erfordern, dass Modelle wahrhaftig darüber sind, was sie wissen, tun und worüber sie unsicher sind, damit Nutzer ihre Schlussfolgerungen bewerten können. Die Förderung der menschlichen Selbstbestimmung konzentriert sich darauf, die Fähigkeit der Menschen zu stärken, selbst zu verstehen, zu wählen und zu handeln. Schließlich bedeutet Fürsorge, auf die Umstände der Betroffenen zu achten, relevante soziale und berufliche Normen zu befolgen und Arbeit zu produzieren, auf die sich Menschen verlassen können.

Neben diesen Wertartikulationen führt die aktualisierte Spezifikation neue Abschnitte zu Kontext, Aufsicht und Selbstbestimmung ein und passt dabei die Verhaltensstandardeinstellungen an. Ein neuer Unterabschnitt erklärt, wie Gespräche und Erinnerungen das Verständnis eines Modells für Nutzerabsichten informieren sollten, und eine aktualisierte Befehlskette klärt, wie widersprüchliche Anweisungen gelöst werden. Das Dokument fügt auch Standardeinstellungen zur Unterstützung der menschlichen Selbstbestimmung und zur Einhaltung sozialer Normen hinzu, während die Anleitung zur Kontrolle von Nebeneffekten erweitert wird. Im Gegensatz dazu stellt OpenAI die meisten detaillierten Stilrichtlinien außer Kraft und stellt fest, dass sich der Stil an individuelle Präferenzen und kulturelle Kontexte anpassen sollte, anstatt starr durchgesetzt zu werden.

Als Reaktion auf die zunehmende Breite der Anwendungsfälle bezieht sich die Spezifikation nun auf das Modell als „GPT

Quellen: OpenAI News.