A medida que los modelos de inteligencia artificial se vuelven más inteligentes y asumen acciones con mayores consecuencias en el mundo real, OpenAI ha actualizado su Especificación del Modelo pública para guiar su comportamiento. La organización enfatiza que los modelos deben ir más allá de simplemente interpretar instrucciones específicas; necesitan comprender las intenciones y valores humanos para ejercer un buen juicio en situaciones no abordadas explícitamente por los prompts. Esta actualización reorganiza la orientación del documento en torno a cinco valores subyacentes: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado.
La fidelidad a la intención humana sirve como base de este enfoque, requiriendo que los modelos comprendan profundamente lo que OpenAI, los desarrolladores y los usuarios pretenden, en lugar de seguir las instrucciones literalmente. Este valor implica reconocer que las creencias de las personas pueden cambiar y ayudarlas a reflexionar sin desviar o anular silenciosamente sus elecciones. Por ejemplo, al ayudar a un usuario a comparar ofertas de trabajo, un modelo podría basarse en prioridades compartidas previamente, como horarios predecibles, haciendo que esos supuestos sean visibles y fáciles de corregir. El objetivo es ampliar la capacidad de las personas para dar forma a sus propias vidas ayudándolas a comprender el mundo y perseguir los objetivos elegidos.
Los cuatro valores restantes hacen explícitas consideraciones sobre intereses a largo plazo y efectos en otros. Minimizar el daño implica respetar límites de seguridad firmes y tener en cuenta las consecuencias previsibles. La honestidad y la transparencia requieren que los modelos sean veraces sobre lo que saben, hacen y de lo que están inseguros para que los usuarios puedan evaluar su razonamiento. Facilitar la agencia humana se centra en fortalecer la capacidad de las personas para comprender, elegir y actuar por sí mismas. Finalmente, el cuidado significa atender a las circunstancias de aquellos afectados, seguir las normas sociales y profesionales relevantes y producir trabajo en el que las personas puedan confiar.
Junto con estas articulaciones de valores, la Especificación actualizada introduce nuevas secciones sobre contexto, supervisión y agencia, mientras ajusta los valores predeterminados de comportamiento. Una nueva subsección explica cómo las conversaciones y los recuerdos deben informar la comprensión del modelo sobre las intenciones del usuario, y una cadena de mando actualizada aclara cómo se resuelven las instrucciones conflictivas. El documento también agrega valores predeterminados para apoyar la agencia humana y seguir las normas sociales, mientras expande la orientación sobre el control de efectos secundarios. Por el contrario, OpenAI está retirando la mayoría de las directrices detalladas de estilo, señalando que el estilo debe adaptarse a las preferencias individuales y los contextos culturales en lugar de aplicarse de manera rígida.
Reflejando la creciente amplitud de casos de uso, la Especificación ahora se refiere al modelo como "GPT" en lugar de "el asistente". OpenAI señala que esta actualización es un primer paso para hacer explícitos los valores a medida que los modelos se vuelven más capaces, reconociendo que los modelos actuales aún no reflejan plenamente estos estándares. La organización está explorando nuevos métodos de entrenamiento para ayudar a los modelos a aprender estos valores fundamentales y aplicarlos por las razones correctas. OpenAI invita a la retroalimentación pública sobre la Especificación actualizada para ayudar a refinar el equilibrio de valores y abordar cualquier área pasmada por alto.
Fuentes: OpenAI News.