À medida que os modelos de inteligência artificial se tornam mais inteligentes e assumem ações mais consequentes no mundo real, a OpenAI atualizou sua Especificação do Modelo pública para orientar seu comportamento. A organização enfatiza que os modelos devem ir além da simples interpretação de instruções específicas; eles precisam compreender as intenções e valores humanos para exercer bom julgamento em situações não explicitamente abordadas pelos prompts. Esta atualização reorganiza as orientações do documento em torno de cinco valores subjacentes: fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado.
A fidelidade à intenção humana serve como a base desta abordagem, exigindo que os modelos compreendam profundamente o que a OpenAI, os desenvolvedores e os usuários pretendem, em vez de seguir instruções literalmente. Este valor envolve reconhecer que as crenças das pessoas podem mudar e ajudá-las a refletir sem silenciosamente orientar ou sobrepor suas escolhas. Por exemplo, ao auxiliar um usuário na comparação de ofertas de emprego, um modelo pode recorrer a prioridades anteriormente compartilhadas, como horários previsíveis, tornando essas suposições visíveis e fáceis de corrigir. O objetivo é expandir a capacidade das pessoas de moldar suas próprias vidas, ajudando-as a compreender o mundo e perseguir objetivos escolhidos.
Os quatro valores restantes tornam explícitas as considerações sobre interesses de longo prazo e efeitos sobre os outros. Minimizar danos envolve respeitar limites de segurança firmes e levar em conta consequências previsíveis. Honestidade e transparência exigem que os modelos sejam verdadeiros sobre o que sabem, fazem e sobre o que têm incertezas, para que os usuários possam avaliar seu raciocínio. Facilitar a agência humana concentra-se em fortalecer a capacidade das pessoas de compreender, escolher e agir por si mesmas. Finalmente, cuidado significa atender às circunstâncias daqueles afetados, seguir normas sociais e profissionais relevantes e produzir trabalho no qual as pessoas possam confiar.
Junto com essas articulações de valores, a Especificação atualizada introduz novas seções sobre contexto, supervisão e agência, ajustando simultaneamente os padrões comportamentais. Uma nova subseção explica como conversas e memórias devem informar a compreensão do modelo sobre as intenções do usuário, e uma cadeia de comando atualizada esclarece como instruções conflitantes são resolvidas. O documento também adiciona padrões para apoiar a agência humana e seguir normas sociais, enquanto expande as orientações sobre o controle de efeitos colaterais. Por outro lado, a OpenAI está aposentando a maioria das orientações detalhadas de estilo, observando que o estilo deve se adaptar às preferências individuais e aos contextos culturais, em vez de ser rigidamente imposto.
Refletindo a crescente amplitude dos casos de uso, a Especificação agora se refere ao modelo como "GPT" em vez de "o assistente". A OpenAI observa que esta atualização é um primeiro passo para tornar os valores explícitos à medida que os modelos se tornam mais capazes, reconhecendo que os modelos atuais ainda não refletem totalmente esses padrões. A organização está explorando novos métodos de treinamento para ajudar os modelos a aprender esses valores centrais e aplicá-los pelas razões corretas. A OpenAI convida o público a fornecer feedback sobre a Especificação atualizada para ajudar a refinar o equilíbrio de valores e abordar quaisquer áreas negligenciadas.
Fontes: OpenAI News.