Una vulnerabilità di Google Gemini viene sfruttata per trasformare i riepiloghi delle email basati sull'intelligenza artificiale in uno strumento di phishing.

È stata scoperta una grave vulnerabilità di sicurezza in Google Gemini for Workspace , che gli aggressori potrebbero sfruttare per iniettare codice dannoso nelle e-mail. Questo codice potrebbe poi essere utilizzato per manipolare uno strumento di intelligenza artificiale, ingannando gli utenti e reindirizzandoli a siti web di phishing.

Secondo un report di Bleeping Computer , questa vulnerabilità si basa sulla creazione di riepiloghi di email che appaiono del tutto normali ma contengono istruzioni o avvisi dannosi nascosti. Queste istruzioni vengono eseguite automaticamente da Gemini al momento della generazione del riepilogo del messaggio.

Il meccanismo di attacco si basa sull'inserimento di direttive Gemini invisibili all'interno dell'email. Questo viene ottenuto nascondendo le istruzioni alla fine del corpo del messaggio tramite codice HTML e CSS, quindi impostando la dimensione del carattere a zero e il colore su bianco. Poiché questo testo aggiuntivo non include allegati o link, non verrà rilevato o segnalato nemmeno dai migliori antivirus o programmi di posta elettronica, aumentando la probabilità che raggiunga la posta in arrivo di una potenziale vittima.

Quando l'utente interessato apre l'email e chiede a Gemini di riassumerne il contenuto, il software di intelligenza artificiale eseguirà automaticamente le istruzioni nascoste rilevate. Gli utenti spesso si fidano della capacità di Gemini di elaborare i contenuti come parte di Workspace, quindi l'avviso viene percepito come un avvertimento legittimo piuttosto che come un'iniezione dannosa.

Attacchi simili sono stati segnalati nel corso dell'ultimo anno e, nonostante siano state implementate alcune misure preventive per bloccare risposte fuorvianti, la tecnica continua ad avere generalmente successo, il che spiega il suo utilizzo continuato.

Secondo quanto riportato da Bleeping Computer, quando hanno chiesto a Google informazioni sulle difese contro questo tipo di attacchi, un portavoce dell'azienda ha fatto riferimento a un post sul blog relativo agli attacchi di code injection e ha spiegato che alcune misure preventive erano in fase di implementazione o stavano per essere rilasciate. Google ha inoltre confermato che finora non ci sono prove di attacchi di questo tipo in corso.

Figueroa, responsabile del programma GenAI bug bounty di Mozilla, che ha scoperto la vulnerabilità, suggerisce alcune idee per prevenire questa minaccia: i team di sicurezza dovrebbero rimuovere, neutralizzare o ignorare i contenuti progettati per essere nascosti nel corpo del messaggio. In alternativa, potrebbero implementare filtri che scansionino Gemini alla ricerca di messaggi urgenti, URL e numeri di telefono, segnalandoli agli utenti per un'ulteriore analisi.

Per ora, è consigliabile fare attenzione quando si usa Gemini per riassumere le email, perché non si sa mai cosa potrebbe nascondersi. Ci auguriamo che Google rilasci una correzione per questo nuovo tipo di attacco il prima possibile.