L'intelligenza artificiale sta trasformando normali e innocenti foto di bambini in orribile materiale di sfruttamento sessuale: una verità sconvolgente

Una foto dei miei figli in spiaggia, mio ​​figlio che gioca a calcio, o persino tutta la mia famiglia sorridente davanti a casa nostra: questi sono solo alcuni esempi di foto che ho condiviso sui social media. So di non essere la sola, visto quanto spesso vedo immagini simili che catturano i dettagli della nostra vita moderna.

Ma l'intelligenza artificiale ha creato un nuovo e preoccupante pericolo, consentendo che immagini ordinarie e reali di bambini, come quelle che ho appena menzionato, vengano trasformate in immagini di sfruttamento sessuale all'insaputa del bambino o dei suoi genitori.

Sia chiaro, non si tratta di una minaccia teorica.

332 annunci di immagini di sfruttamento sessuale di minori generate dall'IA sono stati trasmessi

Una nuova indagine del Tech Transparency Project (TTP) ha portato alla luce centinaia di annunci pubblicitari contenenti materiale pedopornografico generato dall'intelligenza artificiale (CSAM) che circolavano su Facebook e Instagram. Secondo quanto riportato da WIRED , i ricercatori hanno identificato quattro bambini reali le cui foto comuni erano state manipolate. Tra questi, due influencer adolescenti, una preadolescente la cui immagine era apparsa su un sito web di immagini stock e un giovane membro di una famiglia reale europea.

Complessivamente, TTP ha individuato 332 annunci pubblicitari contenenti materiale pedopornografico generato tramite intelligenza artificiale, o CSAM (Child Sexual Exploitation Material). La maggior parte di questi annunci raffigurava un bambino la cui immagine era stata manipolata tramite intelligenza artificiale per far sembrare che stesse compiendo un atto sessuale.

Questi risultati rappresentano un inquietante monito su come l'intelligenza artificiale generativa abbia modificato i rischi legati alla condivisione online di immagini di minori. Creare immagini false convincenti non richiede più una fotografia reale; una qualsiasi immagine può fornire il materiale di base.

Come trasformare immagini ordinarie in materiale offensivo generato dall'intelligenza artificiale

Gli strumenti di intelligenza artificiale per la generazione di immagini possono prendere un'immagine esistente e modificarne alcune parti preservando al contempo i tratti originali e riconoscibili della persona.

Questo è quanto affermano i ricercatori riguardo a quanto accaduto a diversi bambini identificati negli annunci Meta.

Secondo WIRED, i ricercatori sono riusciti a risalire alle fonti originali delle immagini di quattro minori. Due di loro erano influencer adolescenti con profili social pubblici. Un'altra era una preadolescente la cui immagine era disponibile su un sito web di immagini stock. La quarta era una giovane membro di una famiglia reale europea.

Nessuna di quelle immagini originali doveva necessariamente contenere materiale sessualmente esplicito per essere utilizzata in modo improprio.

Emma Hardy, direttrice della comunicazione presso l'Internet Watch Foundation, ha dichiarato a WIRED: "Le applicazioni di intelligenza artificiale rendono molto facile creare immagini realistiche e criminali di abusi sessuali su minori, creando un nuovo rischio che le foto di bambini di tutti i giorni vengano prese e trasformate in contenuti sessuali".

Una volta che un'immagine normale diventa disponibile al pubblico, chiunque può scaricarla e inserirla in uno strumento di intelligenza artificiale progettato per modificare le immagini.

L'intelligenza artificiale di Meta non è riuscita a rilevare centinaia di annunci

L'ampiezza della recente indagine dimostra anche quanto sia difficile fermare i contenuti che ne derivano.

Ad agosto, i ricercatori di TTP hanno inizialmente scoperto 53 annunci contenenti materiale pedopornografico sulle piattaforme Meta. Meta ha poi dichiarato che molti di questi annunci erano apparsi prima che l'azienda introducesse una nuova tecnologia di intelligenza artificiale progettata per migliorare la sua capacità di rilevare annunci inappropriati al momento della pubblicazione.

Tuttavia, i ricercatori hanno continuato a trovarli. Infatti, TTP afferma di aver identificato in totale 332 annunci contenenti materiale pedopornografico generato dall'intelligenza artificiale (CSAM), centinaia dei quali sono apparsi dopo che Meta ha annunciato la sua tecnologia di rilevamento migliorata, sollevando dubbi sull'efficacia del monitoraggio basato sull'IA.

Questo è particolarmente importante perché non si trattava di semplici post su Facebook o Instagram passati inosservati. Si trattava di pubblicità a pagamento.

Meta afferma che gli annunci vengono esaminati prima di essere pubblicati e che i sistemi automatizzati svolgono un ruolo chiave in questo processo.

La portavoce di Meta, Tracy Clayton, ha dichiarato a WIRED che l'azienda ha tolleranza zero per le app di "nudificazione" o per lo sfruttamento minorile, indipendentemente dal fatto che le immagini raffigurino bambini reali o siano generate dall'intelligenza artificiale. Meta ha affermato che i malintenzionati cercano deliberatamente di eludere i suoi sistemi di rilevamento e che alcuni video sono più difficili da individuare perché le immagini dei bambini appaiono solo per un breve istante o sono sfocate.

L'azienda ha dichiarato che molti degli annunci identificati dai ricercatori erano già stati rimossi, che la maggior parte aveva totalizzato meno di 200 visualizzazioni e che aveva ricevuto meno di 5000 dollari di introiti da tali annunci. Tuttavia, i ricercatori hanno documentato casi in cui la portata degli annunci è aumentata dopo la loro segnalazione.

TTP ha segnalato che un singolo annuncio, indirizzato a un adolescente reale, aveva raggiunto quattro account europei quando è stato segnalato a Meta. Diversi giorni dopo, quando Meta lo ha rimosso, l'annuncio aveva raggiunto oltre 330 account.

L'indagine rivela l'uso diffuso di questi strumenti.

I ricercatori hanno scoperto annunci che indirizzavano gli utenti verso quasi 50 app disponibili sull'Apple App Store e su Google Play. Secondo WIRED, circa 300 dei 350 annunci esaminati nell'indagine più ampia promuovevano generatori di immagini o video basati sull'intelligenza artificiale.

Apple ha dichiarato a WIRED che alcuni sviluppatori inizialmente offrivano versioni conformi delle loro app, per poi aggiungere in seguito funzionalità di rimozione vietate. Apple ha affermato di aver rimosso 17 delle 20 app identificate dai ricercatori e di aver preso provvedimenti contro le restanti tre, oltre ad altre sette app scoperte da WIRED.

Da parte sua, Google ha dichiarato di aver rimosso tutte le app menzionate nel rapporto e di aver sospeso centinaia di altre app per violazione delle sue norme.

Tuttavia, questi risultati rivelano un problema che trascende qualsiasi singola piattaforma, perché l'intelligenza artificiale può essere utilizzata per creare queste immagini offensive. La maggior parte degli strumenti di IA non è regolamentata, il che mette a rischio le aziende. Un app store potrebbe distribuire lo strumento utilizzato per crearle, e poi una piattaforma pubblicitaria potrebbe diffondere annunci che le promuovono.

Ogni livello di questo sistema può avere i propri sistemi di sicurezza, ma il materiale offensivo deve attraversare questi sistemi una sola volta per raggiungere gli utenti.

Cosa faresti se trovassi un'immagine di tuo figlio generata dall'intelligenza artificiale?

Se scoprite immagini sessualmente esplicite di vostro figlio generate dall'intelligenza artificiale, non ripubblicatele né condividetele ampiamente nel tentativo di avvertire gli altri.

Conserva invece le informazioni che possono aiutare a identificare dove appare questo materiale, come il nome dell'account, il titolo della pagina e altri dettagli correlati, e segnala il contenuto direttamente alla piattaforma.

Negli Stati Uniti, i casi sospetti di sfruttamento sessuale di minori possono essere segnalati anche alla CyberTipline del National Center for Missing & Exploited Children.

I genitori possono anche utilizzare il servizio Take It Down del NCMEC , progettato per aiutare a fermare la condivisione online di foto o video di nudo, seminudo o sessualmente espliciti di persone di età inferiore ai 18 anni. Il sistema crea un'impronta digitale, o hash, dell'immagine senza richiedere il caricamento dell'immagine stessa.

Poiché le immagini generate dall'IA creano scenari nuovi e più complessi, i genitori che non sono sicuri che un'immagine elaborata soddisfi i criteri di segnalazione dovrebbero segnalare ciò che trovano, anziché cercare di determinarlo autonomamente.

Conclusione

Da anni i genitori vengono messi in guardia sui pericoli della "condivisione" e sull'impronta digitale dei loro figli. Il termine "condivisione", una parola composta da "condivisione" e "genitorialità", si riferisce alla pratica dei genitori di condividere foto, video e dettagli personali sui propri figli sui social media.

Sebbene i genitori non possano eliminare completamente il rischio di un uso improprio da parte dell'intelligenza artificiale delle foto o dei video che pubblicano, ridurre il numero di immagini dei propri figli disponibili pubblicamente ed essere più selettivi su ciò che condividono può ridurre la quantità di materiale a disposizione di chi potrebbe farne un uso improprio.

---

---