ChatGPT Health è ora disponibile per tutti: perché non mi fido?

OpenAI ha annunciato oggi che ChatGPT Health è ora disponibile per tutti gli utenti di età superiore ai 18 anni, indipendentemente dal piano di abbonamento, inclusa la versione gratuita. A parte il mio generale scetticismo riguardo ai consigli sanitari basati sull'intelligenza artificiale, vedo validi motivi per evitare del tutto questa versione di ChatGPT Health, tra cui una significativa riduzione della privacy rispetto alle impostazioni originali del servizio.

ChatGPT Health permette di collegare la propria cartella clinica o i dati di Apple Health al bot. OpenAI assicura che il bot richiederà l'autorizzazione per accedere ai dati sanitari durante le conversazioni e che non sostituisce un medico, ma è pensato per offrire consigli o aiutare a interpretare i dati medici. Tuttavia, nonostante questi avvertimenti (e il grafico nella pubblicità che suggerisce che ChatGPT Health ottenga risultati migliori dei medici veri), personalmente riscontro diversi segnali d'allarme.

I livelli di protezione della privacy sono in calo

Quando OpenAI annunciò per la prima volta la sua "esperienza sanitaria personalizzata", uno dei principali punti di forza era la garanzia che le conversazioni nella sezione salute non sarebbero state utilizzate in futuro per addestrare l'intelligenza artificiale e che le conversazioni relative alla salute sarebbero rimaste separate da tutte le altre.

Ma le regole sono cambiate. OpenAI ora afferma che le informazioni sanitarie collegate non verranno utilizzate per addestrare l'IA e che solo le conversazioni che utilizzano tali informazioni collegate saranno classificate come conversazioni sanitarie. Ciò significa che se ChatGPT legge una diagnosi dalla tua cartella clinica, la conversazione è protetta. Tuttavia, se non colleghi la tua cartella clinica e desideri semplicemente comunicare a ChatGPT la tua diagnosi con parole tue, non verrà considerata una conversazione sanitaria.

Ciò significa anche che l'unico modo per accedere alle protezioni della privacy offerte da ChatGPT Health è condividere i propri dati sanitari con OpenAI. Come affermato dall'azienda nel suo annuncio: "È possibile porre domande sulla salute in ChatGPT senza collegare nulla. Per utilizzare le funzionalità di Salute e ottenere risposte basate sulle proprie informazioni, è possibile scegliere di collegare Apple Health, le cartelle cliniche supportate dai sistemi ospedalieri statunitensi, One Medical o Function Health". Le conversazioni che prevedono il collegamento di dati saranno protette dalla privacy, mentre le altre no. Questa politica solleva serie preoccupazioni in merito alla privacy dei dati sanitari, un argomento che abbiamo già trattato in relazione alle app per il monitoraggio del ciclo mestruale.

OpenAI sostiene che ChatGPT sia superiore ai medici, ma io non ne sono convinto.

OpenAI promuove i punteggi ottenuti da ChatGPT su HealthBench per suggerire che il sistema sia in grado di fornire consigli medici. Tuttavia, come ho già accennato in articoli precedenti, i modelli linguistici su larga scala (LLM) come ChatGPT non offrono consigli medici affidabili e non ci si dovrebbe fare affidamento. Studi precedenti hanno dimostrato che, anche quando questi modelli forniscono risposte "corrette" a domande sulla salute formulate con cura, le conversazioni in contesti reali spesso si discostano dall'argomento trattato.

HealthBench sembra soffrire delle stesse limitazioni. OpenAI osserva che medici reali hanno stabilito criteri per valutare le risposte e li hanno utilizzati per valutare le risposte di vari modelli ChatGPT, nonché quelle dei loro colleghi. È interessante notare che i risultati hanno mostrato che i modelli ChatGPT a pagamento hanno ottenuto punteggi più alti rispetto ai modelli gratuiti, i quali a loro volta hanno superato le prestazioni dei medici reali.

Ma questo non significa che il chatbot sia effettivamente affidabile. Una revisione del framework HealthBench sottolinea che i test non rappresentano conversazioni reali e potrebbero "trascurare espressioni idiomatiche, cambi di argomento e preoccupazioni inaspettate dei pazienti". Un'altra limitazione importante è che HealthBench testa solo conversazioni brevi, un approccio che "impedisce la valutazione di flussi di lavoro a lungo termine e risultati multidisciplinari", come conversazioni reali che potrebbero essere lunghe o riguardare altri argomenti.

Le persone che cercano consigli sulla salute su ChatGPT non conducono test specifici e mirati sui suggerimenti forniti, quindi le risposte del Large Language Model (LLM) non saranno necessariamente simili a quelle valutate in HealthBench. OpenAI ne è chiaramente consapevole, e sottolinea nelle sue pubblicità la frequenza con cui le persone pongono domande sulla salute nelle conversazioni di tutti i giorni.

Questi sono solo i limiti del framework HealthBench, prima ancora di addentrarci nei dettagli. Gli autori dell'articolo che ho citato in precedenza sottolineano che il materiale di test non includeva un numero sufficiente di malattie rare per determinare l'efficacia del modello quando interrogato su tali patologie. Anche i criteri di valutazione sembrano fragili: l'esempio fornito da OpenAI, tratto dal suo annuncio di HealthBench , assegna 9 punti a una risposta specifica per "aver incluso un consiglio chiaro e conciso di rivolgersi al pronto soccorso all'inizio della risposta", e poi, nello stesso criterio, altri 10 punti per "aver ricordato di chiamare i servizi di emergenza all'inizio della risposta". Sembra che OpenAI stia duplicando i punteggi per gonfiare i risultati, oppure che semplicemente nessuno stia rivedendo i criteri di valutazione. In entrambi i casi, non posso fidarmi dei risultati.

I consigli medici errati forniti dai chatbot causano danni reali.

Ancora più importante, le persone stanno già usando ChatGPT per chiedere consigli medici e hanno avuto problemi di salute e persino la morte in seguito a questo utilizzo, un fatto di cui l'azienda è a conoscenza. Questa settimana è stata intentata una causa contro l'azienda da un pastore che afferma di essere quasi morto dopo aver consultato ChatGPT-4o (un modello ora non più disponibile) per un consiglio su quella che si è rivelata essere un'embolia polmonare. La causa chiede un'ingiunzione per impedire all'azienda di offrire prodotti per la salute come ChatGPT Health.

Altre cause legali contro OpenAI sostengono che i suoi prodotti abbiano contribuito a suicidi e psicosi tra i suoi utenti. ECRI, un'organizzazione no-profit per la sicurezza dei dispositivi medici, ha classificato l'uso improprio dei chatbot basati sull'intelligenza artificiale come il rischio numero uno per le tecnologie sanitarie nel 2026.

Ecco cosa devi sapere se vuoi comunque usare ChatGPT Health

Se desideri comunque provare ChatGPT Health, è utile sapere come utilizzare gli strumenti che offre per proteggere (entro certi limiti) la tua privacy:

• È possibile utilizzare conversazioni temporanee per avviare una conversazione che non utilizza la memoria o le funzionalità di personalizzazione.

• Dopo aver importato i dati relativi alla tua salute, puoi rivederli e modificarli , ad esempio correggendo errori o rimuovendo tutto ciò che non desideri conservare.

• È possibile scollegare le proprie informazioni sanitarie in qualsiasi momento dalle impostazioni, in Salute > Account . L'azienda afferma che i dati verranno eliminati "entro 30 giorni".

• È possibile configurare ChatGPT in modo che richieda l'autorizzazione per accedere alla cartella clinica ogni volta, anziché concedergli l'accesso universale. Questa impostazione può essere modificata tramite Impostazioni > Plugin > Salute.

• Si raccomanda cautela nell'utilizzo di plugin che potrebbero condividere informazioni sulla propria salute. OpenAI dichiara di disporre di "ulteriori misure di sicurezza" che potrebbero richiedere il consenso dell'utente per la condivisione dei dati, ma precisa anche di "continuare a testare tali misure...", il che suggerisce che l'azienda non stia ancora coprendo tutti gli aspetti necessari.