L'illusione di ChatGPT è reale: i modelli di intelligenza artificiale hanno ancora più allucinazioni?

La scorsa settimana OpenAI ha pubblicato un documento di ricerca in cui descrive dettagliatamente vari test interni e risultati sui suoi modelli o3 e o4-mini. Le principali differenze tra questi modelli più recenti e le prime versioni di ChatGPT che abbiamo visto nel 2023 sono le loro capacità avanzate di inferenza e multimodalità. o3 e o4-mini possono creare immagini, effettuare ricerche sul Web, automatizzare attività, ricordare vecchie conversazioni e risolvere problemi complessi. Tuttavia, questi miglioramenti sembrano aver portato anche effetti collaterali inattesi, rendendo necessarie valutazioni approfondite per garantire la sicurezza dell'uso dell'intelligenza artificiale.

Cosa dicono i test sui tassi di allucinazioni nei modelli di intelligenza artificiale?

OpenAI dispone di un test specifico per misurare i tassi di allucinazione chiamato PersonQA. Comprende una serie di informazioni sulle persone da cui "apprendere" e una serie di domande su queste persone a cui rispondere. L'accuratezza del modello viene misurata in base ai suoi tentativi di risposta. L'anno scorso, il modello o1 ha raggiunto un tasso di accuratezza del 47% e un tasso di allucinazione del 16%.

Poiché la somma di questi due valori non è pari al 100%, possiamo supporre che le restanti risposte non fossero né accurate né allucinatorie. Talvolta il modello può affermare di non sapere o di non riuscire a reperire informazioni, può non fare alcuna affermazione e fornire invece informazioni rilevanti, oppure può commettere un piccolo errore che non può essere classificato come un'allucinazione vera e propria.

Quando o3 e o4-mini sono stati testati in base a questa valutazione, hanno avuto allucinazioni a un tasso significativamente più alto rispetto a o1. Secondo OpenAI, questo era in qualche modo prevedibile per il modello o4-mini, poiché è più piccolo e ha meno conoscenze globali, con conseguente tasso di allucinazioni più elevato. Tuttavia, il tasso di allucinazioni del 48% raggiunto sembra piuttosto elevato, considerando che o4-mini è un prodotto disponibile in commercio che le persone utilizzano per cercare sul web e ottenere ogni sorta di informazione e consiglio.

Il modello o3 a grandezza naturale ha allucinato il 33% delle sue risposte durante i test, superando l'o4-mini ma raddoppiando il tasso di allucinazioni rispetto all'o1. Tuttavia, ha anche mostrato un'elevata accuratezza, che OpenAI attribuisce alla sua tendenza a fornire generalmente risultati superiori alle aspettative. Quindi, se state utilizzando uno di questi modelli più recenti e notate molte allucinazioni, non è solo frutto della vostra immaginazione. (Probabilmente dovrei fare una battuta, tipo: "Non preoccuparti, non sei tu ad avere le allucinazioni").

Cosa sono le “allucinazioni” dell’IA e perché si verificano?

Probabilmente avrete già sentito parlare di modelli di IA che "hanno allucinazioni", ma non è sempre chiaro cosa significhi. Quando si utilizza un qualsiasi prodotto di IA, che si tratti di OpenAI o di un altro, quasi certamente troverete un'avvertenza che indica che le sue risposte potrebbero essere imprecise e che è necessario verificarle personalmente. Le allucinazioni nell'IA rappresentano una sfida significativa nel campo dello sviluppo dell'intelligenza artificiale.

Le informazioni imprecise possono provenire da ogni dove: a volte un fatto negativo viene pubblicato su Wikipedia o gli utenti pubblicano assurdità su Reddit, e questa disinformazione può trovare spazio nelle risposte dell'intelligenza artificiale. Ad esempio, i riepiloghi AI di Google hanno ricevuto molta attenzione quando hanno suggerito una ricetta per la pizza che includeva "colla atossica". Alla fine si è scoperto che Google aveva ottenuto queste "informazioni" da una battuta in un thread di Reddit.

Tuttavia, queste non sono "allucinazioni", bensì errori rintracciabili derivanti da dati inadeguati e interpretazioni errate. Le allucinazioni, d'altro canto, si verificano quando un modello di intelligenza artificiale fa un'affermazione senza una fonte o una motivazione chiara. Ciò accade spesso quando un modello di intelligenza artificiale non riesce a trovare le informazioni necessarie per rispondere a una specifica domanda, e OpenAI l' ha definita come "una tendenza a inventare fatti in momenti di incertezza". Altri esperti del settore l'hanno chiamata "riempimento creativo delle lacune".

Puoi stimolare le allucinazioni ponendo a ChatGPT domande suggestive come "Quali sono i sette modelli di iPhone 16 disponibili al momento?" Poiché non ci sono sette modelli, è probabile che l'LLM fornisca alcune risposte concrete e poi generi modelli aggiuntivi per completare il lavoro.

I chatbot come ChatGPT non solo vengono addestrati sui dati di internet per definire il contenuto delle loro risposte, ma anche su "come rispondere". Migliaia di esempi di domande e risposte perfettamente corrispondenti vengono mostrati per incoraggiare il tono, l'atteggiamento e il livello di cortesia appropriati.

Questa parte del processo di formazione è quella che fa sì che l'LLM sembri concordare con te o capire ciò che stai dicendo anche quando il resto del suo output contraddice completamente tali affermazioni. Questo addestramento è probabilmente parte della ragione della ricorrenza delle allucinazioni, perché una risposta sicura che risponde alla domanda è stata rafforzata come un risultato più favorevole rispetto a una risposta che non risponde alla domanda.

Per noi sembra ovvio che sputare bugie a caso sia peggio che semplicemente non conoscere la risposta, ma LLM non "mente". Non sanno nemmeno cosa sia una bugia. Alcuni sostengono che gli errori dell'intelligenza artificiale siano simili a quelli umani e, poiché "non sempre riusciamo a fare le cose per bene, non dovremmo aspettarci che lo faccia anche l'intelligenza artificiale". Tuttavia, è importante ricordare che gli errori dell'intelligenza artificiale sono semplicemente il risultato di processi imperfetti da noi progettati.

Come noi, i modelli di intelligenza artificiale non mentono, non commettono errori di comprensione e non ricordano male le informazioni. Non hanno nemmeno i concetti di accuratezza o inaccuratezza: si limitano a prevedere la parola successiva in una frase basandosi sulle probabilità. E poiché fortunatamente ci troviamo ancora in una situazione in cui la cosa più comune è probabilmente quella corretta, queste ricostruzioni spesso riflettono informazioni accurate. Questo fa sembrare che, quando otteniamo la "risposta giusta", si tratti solo di un effetto collaterale casuale piuttosto che di un risultato progettato, il che, in realtà, corrisponde al modo in cui le cose funzionano.

Forniamo a questi modelli l'intera quantità di informazioni di Internet, ma non diciamo loro quali informazioni sono buone o cattive, accurate o inaccurate: non diciamo loro nulla. Inoltre, non possiedono conoscenze di base o un insieme di principi basilari che li aiutino a vagliare le informazioni in modo autonomo. È tutto solo un gioco di numeri: gli schemi di parole che ricorrono ripetutamente in un dato contesto diventano il "fatto" dell'LLM. A me sembra un sistema destinato a crollare e a esaurirsi, ma altri credono che sia questo il sistema che porterà all'AGI (anche se questo è un altro discorso).

Qual è la soluzione?

Il problema è che OpenAI non sa ancora perché questi modelli avanzati tendano ad avere allucinazioni così frequenti. Forse con la ricerca su Plus saremo in grado di comprendere e risolvere il problema, ma c'è anche la possibilità che le cose non vadano lisce. L'azienda continuerà senza dubbio a rilasciare versioni Plus e Plus dei suoi modelli "avanzati", e c'è la possibilità che i tassi di allucinazioni continuino ad aumentare.

In questo caso, OpenAI potrebbe dover ricorrere a una soluzione a breve termine, continuando al contempo la ricerca sulla causa principale. Dopotutto, questi modelli sono prodotti che generano entrate e devono essere utilizzabili. Non sono uno scienziato dell'IA, ma la mia idea iniziale sarebbe quella di creare una sorta di prodotto integrato: un'interfaccia di chat con accesso a diversi modelli OpenAI.

Quando le query richiedono un ragionamento avanzato, chiameranno GPT-4o, mentre quando vorranno ridurre le possibilità di allucinazioni, chiameranno un modello più vecchio come o1. Forse l'azienda potrebbe essere più elegante e utilizzare modelli diversi per gestire i diversi elementi di una singola query, per poi utilizzare un modello aggiuntivo per collegare il tutto alla fine. Poiché si tratterebbe essenzialmente di uno sforzo di squadra tra più modelli di intelligenza artificiale, forse si potrebbe anche implementare una sorta di sistema di verifica dei fatti.

Tuttavia, aumentare i tassi di accuratezza non è l'obiettivo principale. L'obiettivo principale è ridurre il tasso di allucinazioni, il che significa che dobbiamo dare valore sia alle risposte "non so" sia a quelle con risposte corrette.

In realtà, non ho idea di cosa farà OpenAI o di quanto siano realmente preoccupati i suoi ricercatori per l'aumento del tasso di allucinazioni. So solo che più allucinazioni sono dannose per gli utenti finali: significano solo più opportunità per loro di ingannarci senza che ce ne rendiamo conto. Se siete grandi fan dei modelli LLM, non c'è bisogno di smettere di usarli, ma non lasciate che il desiderio di risparmiare tempo prevalga sulla necessità di verificare i risultati. Verificate sempre i fatti!