Google ha commesso un errore inserendo Nano Banana in Google Earth

La scorsa settimana, Google ha lanciato Nano Banana 2 , il suo modello di generazione di immagini basato sull'intelligenza artificiale , all'interno del programma di esplorazione del mondo Google Earth. L'azienda ha promosso questa integrazione come un modo per creare infografiche su diverse località del mondo o per generare paesaggi storici a partire da immagini recenti. Gli utenti sono stati inoltre invitati a creare le loro "case dei sogni" su sfondi realistici: se avevate in programma di ampliare la vostra casa o sognavate una casa vacanze in riva al lago, potevate visualizzarle utilizzando Nano Banana 2 in Google Earth.

Questa notizia giunge nel contesto della strategia di Google di integrare le sue piattaforme di intelligenza artificiale in quasi tutti i suoi prodotti e servizi (ad esempio, la scorsa settimana ha aggiunto nuove funzionalità Gemini agli utenti di Google Docs for Workspace). Dal punto di vista dell'azienda, l'integrazione di Nano Banana 2 in Google Earth sembrava la scelta più logica. Tuttavia, come si è poi scoperto, questa integrazione non si adattava bene a Google Earth.

Google Earth sta già abbandonando Nano Banana 2

Appena un giorno dopo il lancio di questa importante integrazione per Nano Banana 2, Google l'ha rimossa . L'azienda ha pubblicato un aggiornamento al suo annuncio originale, affermando: "Riconosciamo che le persone si affidano in modo particolare a Google Earth per una visione autorevole del mondo. Abbiamo notato che i professionisti del settore geospaziale utilizzano questa funzionalità per una serie di scopi utili; tuttavia, abbiamo anche visto persone condividere screenshot di immagini generate che sembrano violare le nostre norme. Pertanto, stiamo rimuovendo questa funzionalità da Google Earth mentre lavoriamo per implementare controlli più rigorosi. È importante notare che le immagini generate non apparivano nell'esperienza principale di Google Earth per essere visualizzate da altri e presentavano una filigrana che indicava che erano state generate dall'IA."

Questa affermazione non descrive accuratamente le immagini che gli utenti generavano con questo strumento. A mio parere, si andava ben oltre la semplice "violazione" delle norme di Google : internet, come prevedibile, ha utilizzato Nano Banana 2 per generare immagini inappropriate e sensibili basate su luoghi reali. Non sorprende che una delle immagini più diffuse raffigurasse un aereo che si schiantava contro il nuovo World Trade Center a Manhattan . Altre mostravano la Torre Eiffel in rovina o le piramidi egizie che crollavano in un profondo burrone. Mentre molti potrebbero rendersi conto che queste immagini erano state create per scherzo, un numero ben maggiore di persone potrebbe vedere queste immagini "ufficiali" di Google Earth online e presumere il peggio.

Scherzi a parte, il potenziale di diffusione di disinformazione e notizie false era allarmante. Ad esempio, un utente ha mostrato come ha utilizzato lo strumento per posizionare dei rifugiati spalla a spalla vicino al confine messicano . Si può immaginare che un'immagine del genere diventi virale, con gli utenti indotti a credere che questa istantanea di Google Earth sia un'autentica immagine satellitare. Probabilmente Google aveva implementato dei controlli per impedire molti processi di generazione di immagini, ma queste restrizioni non erano chiaramente sufficientemente robuste. Poiché chiunque, indipendentemente dal fatto che avesse pagato o meno per le funzionalità di intelligenza artificiale di Google , poteva utilizzare Nano Banana 2 con Google Earth, bastava aprire Google Earth e manipolare un prompt malevolo fino a quando Nano Banana 2 non rispondeva.

L'intelligenza artificiale generativa non ha posto in uno strumento come Google Earth.

Non serve essere scettici sull'IA per capire perché questa fosse un'idea sbagliata fin dall'inizio. Eppure, poche aziende che si occupano di IA sembrano mostrare un minimo di scetticismo prima di integrare funzionalità di IA generativa nei loro prodotti. Strumenti come Google Earth sono progettati per essere educativi. Li usiamo per imparare a conoscere il mondo, la sua geografia e l'aspetto di diverse città e paesaggi. Personalmente, mi piace passare del tempo a ruotare il mio mappamondo digitale per esplorare nuovi luoghi e spesso segno un punto a caso per vedere come appare tramite Street View. Il motivo è che considero Google Earth una fonte di informazioni sul mondo accurata e affidabile; se non lo fosse, perché dovrei interessarmene?

Pertanto, non vedo alcuna logica nel fatto che Google offra uno strumento che, per sua stessa natura, genera immagini del mondo imprecise e distorte. Uno dei suoi punti di forza era mostrare i luoghi su una mappa come apparivano in passato, ma non è ciò che faceva Nano Banana 2. Piuttosto, l'IA si basava sui dati di addestramento per generare quella che riteneva essere una rappresentazione storica dell'area. Se le si chiedesse di mostrare come appariva Parigi nel 1726, molto probabilmente posizionerebbe sulla mappa edifici e strutture pubbliche, piuttosto che raffigurare come appariva realmente Parigi trecento anni fa. Ciò che si ottiene è un'illusione della storia; può essere divertente, ma certamente non istruttivo, non diversamente dalla navigazione tra i contenuti storici di scarsa qualità generati dall'IA sui social media.

Lo stesso vale per le "infografiche informative" generate dall'IA. Aziende come Google amano promuovere le capacità dell'IA come strumento educativo, e sembra fantastico che Google Earth possa generare infografiche informative per mostrare una posizione su una mappa. Ma le infografiche risultanti non sono state verificate da alcuna autorità, certamente non da un esperto: l'immagine prodotta da Nano Banana 2 potrebbe essere piena di mezze verità e allucinazioni, e peggio ancora, non fornisce alcuna fonte cliccabile per verificare il lavoro dell'IA. Gli utenti comuni potrebbero memorizzare le informazioni che "apprendono" da queste infografiche, che siano accurate o meno.

Nella sua forma peggiore, questa funzionalità si è rivelata uno strumento per la diffusione di disinformazione. Se si voleva convincere la gente che qualcosa di grave era accaduto in una determinata parte del mondo, bastava digitare la richiesta e Nano Banana 2 generava un'immagine satellitare realistica, pronta per essere facilmente condivisa sui social media. In un momento in cui la disinformazione generata dall'IA si sta diffondendo rapidamente, questo non fa che aggravare il problema, alimentando un fuoco già divampante. Aziende come Google dovrebbero trovare il modo di distinguere i contenuti falsi generati dall'IA dalle informazioni reali, non contribuire alla loro diffusione.

Non si tratta di una critica agli strumenti di intelligenza artificiale in generale, ma piuttosto all'integrazione dell'IA generativa in uno strumento educativo. Non capisco quale vantaggio Google pensi che l'IA offra distorcendo un fatto, se non quello di fornirgli un altro esempio da citare per vantarsi del suo "successo" nell'ambito dell'IA.