I modelli linguistici codificano conoscenze sui gruppi funzionali prima di saperli nominare

Secondo uno studio condotto su cinque modelli open source, i modelli linguistici possono codificare informazioni sui gruppi funzionali molecolari anche quando non riescono a identificarli nelle risposte. I ricercatori hanno esaminato le rappresentazioni interne relative a prompt su 92 molecole appartenenti a 20 gruppi funzionali e hanno rilevato che i modelli organizzavano questi gruppi in modi chimicamente significativi.

Lo studio evidenzia una discrepanza tra ciò che un modello rappresenta internamente e ciò che dice. Per esempio, alla richiesta di identificare il gruppo funzionale principale dell’1-fluorobutano, un modello potrebbe rispondere «il gruppo alchinico» invece di «fluoruro alchilico». Una risposta, da sola, non permette di capire se il modello non abbia riconosciuto il fluoro oppure lo abbia riconosciuto senza riuscire a esprimere correttamente tale conoscenza.

I ricercatori hanno valutato cinque modelli da 8 miliardi di parametri: un modello di base generalista, tre modelli addestrati in ambito chimico e un modello distillato per il ragionamento. Hanno confrontato le risposte generate dai modelli con le rappresentazioni degli stati nascosti estratte a ogni livello. Il modello di base ha indicato il gruppo corretto nel 58,5% dei prompt, la precisione più bassa fra i cinque, ma le sue rappresentazioni interne riflettevano comunque le famiglie di gruppi funzionali e differenze chimiche coerenti.

Queste rappresentazioni includevano relazioni tra strutture correlate. Per esempio, la trasformazione da tioetere a tiolo, applicata a un etere, indicava la direzione di un alcol nello spazio delle rappresentazioni dei modelli. I ricercatori riferiscono inoltre che l’informazione sui gruppi funzionali emergeva nettamente nei livelli intermedi, nei quali le rappresentazioni passavano dal riflettere la formulazione del prompt al riflettere il gruppo stesso.

I risultati suggeriscono che il fine-tuning in ambito chimico potrebbe riorganizzare informazioni chimiche già presenti, rendendo i gruppi funzionali più evidenti nelle rappresentazioni di un modello, invece di limitarsi ad aggiungere conoscenze che prima mancavano. Gli autori sostengono quindi che valutare i modelli linguistici in ambito chimico soltanto in base alle risposte scritte può portare a sottostimare le informazioni che codificano e che l’analisi delle rappresentazioni può aiutare a distinguere la mancanza di conoscenze dalla difficoltà di esprimerle.

Fonti: arXiv cs.AI.