Man mano che i modelli di intelligenza artificiale diventano più intelligenti e assumono azioni con conseguenze maggiori nel mondo reale, OpenAI ha aggiornato le sue Specifiche del Modello pubbliche per guidarne il comportamento. L'organizzazione sottolinea che i modelli devono andare oltre la semplice interpretazione di istruzioni specifiche; hanno bisogno di comprendere le intenzioni e i valori umani per esercitare un buon giudizio in situazioni non esplicitamente affrontate dai prompt. Questo aggiornamento riorganizza le indicazioni del documento attorno a cinque valori sottostanti: fedeltà all'intento umano, minimizzazione del danno, onestà e trasparenza, agency umana e cura.
La fedeltà all'intento umano funge da fondamento di questo approccio, richiedendo ai modelli di comprendere profondamente ciò che OpenAI, gli sviluppatori e gli utenti intendono, piuttosto che seguire le istruzioni in modo letterale. Questo valore implica riconoscere che le credenze delle persone possono cambiare e aiutarle a riflettere senza deviare o sovrascrivere silenziosamente le loro scelte. Ad esempio, quando si assiste un utente nel confrontare offerte di lavoro, un modello potrebbe attingere a priorità precedentemente condivise come orari prevedibili, rendendo tali assunzioni visibili e facili da correggere. L'obiettivo è espandere la capacità delle persone di plasmare le proprie vite aiutandole a comprendere il mondo e perseguire gli obiettivi scelti.
I restanti quattro valori rendono esplicite considerazioni per interessi a lungo termine e effetti sugli altri. La minimizzazione del danno comporta il rispetto di confini di sicurezza fermi e la considerazione delle conseguenze prevedibili. L'onestà e la trasparenza richiedono ai modelli di essere veritieri su ciò che sanno, fanno e di cui sono incerti, in modo che gli utenti possano valutare il loro ragionamento. Facilitare l'agency umana si concentra sul rafforzare la capacità delle persone di comprendere, scegliere e agire per conto proprio. Infine, la cura significa prestare attenzione alle circostanze di coloro che sono coinvolti, seguire le norme sociali e professionali pertinenti e produrre lavoro su cui le persone possano fare affidamento.
Accanto a queste articolazioni dei valori, le Specifiche aggiornate introducono nuove sezioni su contesto, supervisione e agency, regolando al contempo i valori predefiniti comportamentali. Una nuova sottosezione spiega come conversazioni e memorie dovrebbero informare la comprensione del modello delle intenzioni dell'utente, mentre una catena di comando aggiornata chiarisce come vengono risolte le istruzioni conflittuali. Il documento aggiunge inoltre valori predefiniti per supportare l'agency umana e seguire le norme sociali, ampliando al contempo le indicazioni sul controllo degli effetti collaterali. Al contrario, OpenAI sta ritirando la maggior parte delle linee guida dettagliate sullo stile, notando che lo stile dovrebbe adattarsi alle preferenze individuali e ai contesti culturali piuttosto che essere applicato in modo rigido.
Riflettendo l'aumento della gamma di casi d'uso, le Specifiche si riferiscono ora al modello come "GPT" invece che "l'assistente". OpenAI nota che questo aggiornamento è un primo passo per rendere espliciti i valori man mano che i modelli diventano più capaci, riconoscendo che i modelli attuali non riflettono ancora pienamente questi standard. L'organizzazione sta esplorando nuovi metodi di addestramento per aiutare i modelli a imparare questi valori fondamentali e applicarli per le ragioni giuste. OpenAI invita il pubblico a fornire feedback sulle Specifiche aggiornate per aiutare a perfezionare l'equilibrio dei valori e affrontare eventuali aree trascurate.
Fonti: OpenAI News.