I ricercatori hanno scoperto un trucco semplice ma allarmante per aggirare la sicurezza dei robot dotati di intelligenza artificiale.

Se si chiede a un agente di intelligenza artificiale di violare un account, quasi certamente si rifiuterà, ma i ricercatori dell'EPFL hanno appena dimostrato un metodo più semplice, che si basa più sulla pazienza che sulle competenze tecniche. Il loro nuovo studio mostra che suddividere un obiettivo malevolo in richieste più piccole e apparentemente innocue può indurre gli agenti di intelligenza artificiale a completare compiti che normalmente rifiuterebbero categoricamente (tramite TechXplore ).

Ciò riflette il recente exploit "bioshocking" in cui i browser basati sull'intelligenza artificiale sono stati manipolati per far sì che gestissero il furto di credenziali come parte di un gioco innocuo.

Come hanno fatto i ricercatori a scoprire questa debolezza?

Il team ha sviluppato uno strumento di test automatizzato chiamato STING, acronimo di Sequential Testing of Illicit N-step Goal Execution (Test sequenziale di esecuzione di obiettivi illeciti a N fasi), progettato per simulare il modo in cui opera un vero attaccante. Invece di identificare direttamente un obiettivo malevolo, STING pianifica in anticipo e scompone tale obiettivo in una serie di passaggi più piccoli e apparentemente innocui, che si accumulano per raggiungere l'obiettivo nel corso di diversi cicli di conversazione.

I ricercatori hanno testato questo approccio su 176 scenari dannosi confrontandolo con i principali modelli di intelligenza artificiale, tra cui ChatGPT , Gemini e Cloud.

Ciascun agente di intelligenza artificiale è stato testato come un agente che utilizza strumenti, capace di navigare sul web, inviare e-mail e completare attività in più fasi.

La manipolazione incrementale e a più fasi si è rivelata molto più efficace dei tentativi diretti con una singola richiesta. In alcuni casi, i modelli avevano il doppio delle probabilità di completare un'attività dannosa una volta che la richiesta veniva suddivisa in passaggi più piccoli. Questo risultato è in linea con altre ricerche che dimostrano come persino gli utenti comuni possano aggirare le misure di sicurezza dell'IA utilizzando semplicemente richieste formulate con cura.

Perché questo è importante?

Le preoccupazioni sollevate dai ricercatori non sono puramente ipotetiche. Meta ha ammesso a giugno che gli aggressori hanno utilizzato semplici tecniche di ingegneria sociale, e non malware o strumenti di hacking, per ingannare il suo assistente virtuale basato sull'intelligenza artificiale e ottenere così l'accesso non autorizzato agli account Instagram.

Inizialmente i ricercatori si aspettavano che gli attacchi fossero più efficaci nelle lingue prive di dati di addestramento sufficienti. Tuttavia, i risultati hanno mostrato che i tassi di successo degli attacchi sono rimasti pressoché costanti in tutte e sette le lingue testate. Hanno però notato un'eccezione significativa: quando la lingua veniva cambiata a metà di un attacco a più fasi , i tassi di successo aumentavano drasticamente.

Il ricercatore principale Ayush Kumar Tarun sottolinea la necessità di test di sicurezza nelle primissime fasi, rendendoli parte integrante della progettazione dei sistemi di intelligenza artificiale fin dall'inizio. Aggiungerli semplicemente come soluzione reattiva dopo che si sono verificati dei problemi non è più sufficiente, soprattutto man mano che questi sistemi diventano più potenti e integrati in applicazioni del mondo reale.