Una vulnerabilità di Google Gemini viene sfruttata per trasformare i riepiloghi delle email basati sull'intelligenza artificiale in uno strumento di phishing.

È stata scoperta una grave vulnerabilità di sicurezza in Google Gemini per Workspace, che gli aggressori possono sfruttare per inserire codice dannoso nelle e-mail. Queste istruzioni potrebbero indirizzare lo strumento di intelligenza artificiale a fuorviare gli utenti e reindirizzarli a Siti di phishing.

Secondo un rapporto Bleeping ComputerQuesta vulnerabilità si basa sulla creazione di riepiloghi di posta elettronica che sembrano del tutto normali, ma contengono istruzioni o avvisi dannosi nascosti. Queste istruzioni vengono eseguite automaticamente da Gemini durante la generazione del riepilogo del messaggio.

Il meccanismo di attacco si basa sull'inserimento di direttive Gemini invisibili all'interno dell'email. Questo viene ottenuto nascondendo le istruzioni alla fine del corpo del messaggio tramite codice HTML e CSS, quindi impostando la dimensione del carattere a zero e il colore su bianco. Poiché questo testo aggiuntivo non include allegati o link, non verrà rilevato o segnalato nemmeno dai migliori antivirus o programmi di posta elettronica, aumentando la probabilità che raggiunga la posta in arrivo di una potenziale vittima.

Quando l'utente interessato apre l'email e chiede a Gemini di riassumerne il contenuto, il software di intelligenza artificiale eseguirà automaticamente le istruzioni nascoste rilevate. Gli utenti spesso si fidano della capacità di Gemini di elaborare i contenuti come parte di Workspace, quindi l'avviso viene percepito come un avvertimento legittimo piuttosto che come un'iniezione dannosa.

Attacchi simili sono stati segnalati nel corso dell'ultimo anno e, nonostante siano state implementate alcune misure preventive per bloccare risposte fuorvianti, la tecnica continua ad avere generalmente successo, il che spiega il suo utilizzo continuato.

Bleeping Computer ha riferito che quando hanno chiesto a Google informazioni sulle difese contro questo tipo di attacchi, un portavoce dell'azienda ha indicato che Blog Per quanto riguarda gli attacchi di iniezione di codice, ha spiegato che alcune misure preventive sono in atto o stanno per essere implementate. Google ha anche confermato che non ci sono ancora prove che questo attacco sia effettivamente in atto.

Figueroa, responsabile del programma GenAI bug bounty di Mozilla, che ha scoperto la vulnerabilità, suggerisce alcune idee per prevenire questa minaccia: i team di sicurezza dovrebbero rimuovere, neutralizzare o ignorare i contenuti progettati per essere nascosti nel corpo del messaggio. In alternativa, potrebbero implementare filtri che scansionino Gemini alla ricerca di messaggi urgenti, URL e numeri di telefono, segnalandoli agli utenti per un'ulteriore analisi.

Per ora, è consigliabile fare attenzione quando si usa Gemini per riassumere le email, perché non si sa mai cosa potrebbe nascondersi. Ci auguriamo che Google rilasci una correzione per questo nuovo tipo di attacco il prima possibile.