Il modello Google Gemini sfruttato per scopi dannosi: possibilità di hackerare e controllare i sistemi della smart home

In passato, le violazioni dei dati avrebbero fatto notizia, ma sono diventate così comuni da non sorprendere più la maggior parte delle persone. Notizie di questo tipo suscitano interesse solo quando coinvolgono una grande azienda e interessano milioni di persone, come nel caso della violazione dei dati di T-Mobile che ha colpito 64 milioni di clienti . Poiché esistono moltissimi modi in cui i dati possono essere compromessi, quasi ogni tipo di servizio o prodotto digitale prevede misure di sicurezza per prevenirlo.

Naturalmente, questi prodotti non sono perfetti e ci sono sempre modi per condurre attacchi malevoli se l'attaccante è abbastanza astuto. Con l'avvento dei Large Language Models (LLM) come Gemini di Google, esiste sempre la possibilità che questi strumenti di intelligenza artificiale vengano utilizzati per scopi malevoli. Sebbene non siano ancora stati segnalati casi di rilievo, Wired ha evidenziato un progetto di ricerca che utilizza Gemini per accedere alla tua vita in modi che non avresti mai immaginato. Questa ricerca dimostra come Gemini potrebbe essere sfruttato per controllare vari aspetti della tua vita digitale, inclusi potenzialmente i dispositivi intelligenti presenti nelle tue case, sollevando preoccupazioni in materia di sicurezza e privacy nell'era dell'intelligenza artificiale.

Questo tipo di attacco potrebbe diventare più pericoloso.

Ben Nasi, Stav Cohen e Or Yair dell'Università di Tel Aviv hanno presentato il loro progetto, " Invitation is All You Need ", che utilizza Gemini per accedere e controllare una casa intelligente. L'aspetto interessante è che l'attacco non ha origine all'interno dell'abitazione stessa, ma si basa su un altro prodotto Google, non correlato, per avviare il processo.

In parole semplici, una procedura indesiderata viene attivata quando l'utente interagisce con Gemini tramite una specifica richiesta. Il punto cruciale è che questa procedura è nascosta e invisibile all'utente. Il team di ricerca spiega nel dettaglio come funziona , rivelando che il "promptware" utilizza un Large Language Model (LLM) per svolgere attività dannose.

Utilizzando "l'avvelenamento del contesto a breve termine" e "l'avvelenamento della memoria a lungo termine", i ricercatori hanno scoperto di poter far eseguire a Gemini azioni non originariamente incluse nel prompt. Questo potrebbe eliminare eventi da varie app Google, aprire una chiamata Zoom, fornire la posizione di un utente, controllare prodotti per la domotica e altro ancora. Questo tipo di attacco, noto come "iniezione indiretta di prompt", sfrutta le vulnerabilità nel modo in cui i modelli linguistici di grandi dimensioni interagiscono con i dati esterni.

Il team di ricerca dimostra anche come funziona il tutto attraverso straordinari video tutorial. È un modo semplice ed efficace per devastare la vita di qualcuno senza che lo sappia. Le persone sono più attente ai metodi di hacking tradizionali, il che significa che qualcosa del genere potrebbe essere estremamente inaspettato.

Fortunatamente, il team di ricerca ha segnalato questi problemi a Google a febbraio e ha anche incontrato il team per risolverli. Google afferma di aver "implementato difese multilivello, tra cui: conferme utente migliorate per azioni sensibili; gestione avanzata degli URL con policy di sanificazione e livello di attendibilità; e rilevamento avanzato dell'iniezione di claim tramite classificatori di contenuti".

Il progetto evidenzia "tecniche teoriche di claim injection indiretta che interessano gli assistenti basati su modelli linguistici di grandi dimensioni", che potrebbero diventare più comuni nel prossimo futuro, man mano che gli strumenti di intelligenza artificiale diventeranno più sofisticati. Anche questa è una novità e richiederà un monitoraggio più approfondito per evitare che causi danni più gravi in ​​futuro. Poiché facciamo sempre più affidamento sull'intelligenza artificiale nella nostra vita quotidiana, comprendere e mitigare questi potenziali rischi diventa fondamentale.

Se ti interessano le vulnerabilità di sicurezza, puoi sempre inviare le tue scoperte a Google tramite il programma Bug Hunters. Esistono diversi modi per contribuire, dato che l'intelligenza artificiale rappresenta solo una piccola parte di ciò che viene attualmente monitorato. Se si tratta di qualcosa di più serio, Google offre anche una ricompensa per il tuo lavoro, rendendo l'impegno ancora più gratificante.