À mesure que les modèles d'intelligence artificielle deviennent plus intelligents et entreprennent des actions plus conséquentes dans le monde réel, OpenAI a mis à jour ses spécifications de modèle publiques pour guider leur comportement. L'organisation souligne que les modèles doivent aller au-delà de la simple interprétation d'instructions spécifiques ; ils doivent comprendre les intentions et les valeurs humaines pour exercer un bon jugement dans des situations non explicitement abordées par les invites. Cette mise à jour réorganise les orientations du document autour de cinq valeurs sous-jacentes : fidélité à l'intention humaine, minimisation des dommages, honnêteté et transparence, autonomie humaine et sollicitude.
La fidélité à l'intention humaine sert de fondement à cette approche, exigeant que les modèles comprennent en profondeur ce qu'OpenAI, les développeurs et les utilisateurs entendent, plutôt que de suivre les instructions littéralement. Cette valeur implique de reconnaître que les croyances des gens peuvent changer et de les aider à réfléchir sans orienter ou remplacer silencieusement leurs choix. Par exemple, lorsqu'un modèle aide un utilisateur à comparer des offres d'emploi, il peut s'appuyer sur des priorités partagées précédemment, comme des horaires prévisibles, tout en rendant ces hypothèses visibles et faciles à corriger. L'objectif est d'élargir la capacité des gens à façonner leur propre vie en les aidant à comprendre le monde et à poursuivre les objectifs qu'ils ont choisis.
Les quatre valeurs restantes explicitent des considérations pour les intérêts à long terme et les effets sur autrui. La minimisation des dommages implique de respecter des limites de sécurité fermes et de tenir compte des conséquences prévisibles. L'honnêteté et la transparence exigent que les modèles soient véridiques quant à ce qu'ils savent, font et ignorent, afin que les utilisateurs puissent évaluer leur raisonnement. La facilitation de l'autonomie humaine se concentre sur le renforcement de la capacité des gens à comprendre, choisir et agir par eux-mêmes. Enfin, la sollicitude signifie prêter attention aux circonstances de ceux qui sont affectés, suivre les normes sociales et professionnelles pertinentes et produire un travail sur lequel les gens peuvent compter.
Outre ces articulations de valeurs, les spécifications mises à jour introduisent de nouvelles sections sur le contexte, la supervision et l'autonomie, tout en ajustant les paramètres comportementaux par défaut. Une nouvelle sous-section explique comment les conversations et les souvenirs doivent informer la compréhension d'un modèle des intentions de l'utilisateur, et une chaîne de commandement mise à jour clarifie la manière dont les instructions contradictoires sont résolues. Le document ajoute également des paramètres par défaut pour soutenir l'autonomie humaine et respecter les normes sociales, tout en élargissant les orientations sur le contrôle des effets secondaires. Inversement, OpenAI retire la plupart des orientations détaillées sur le style, notant que le style doit s'adapter aux préférences individuelles et aux contextes culturels plutôt que d'être imposé de manière rigide.
Reflet de l'élargissement croissant des cas d'utilisation, les spécifications font désormais référence au modèle comme « GPT » au lieu de « l'assistant ». OpenAI note que cette mise à jour est une première étape pour rendre les valeurs explicites à mesure que les modèles deviennent plus capables, reconnaissant que les modèles actuels ne reflètent pas encore pleinement ces normes. L'organisation explore de nouvelles méthodes d'entraînement pour aider les modèles à apprendre ces valeurs fondamentales et à les appliquer pour les bonnes raisons. OpenAI invite le public à fournir des commentaires sur les spécifications mises à jour afin d'aider à affiner l'équilibre des valeurs et à traiter tout domaine négligé.
Sources: OpenAI News.