Intelligenza artificiale nascosta: non solo un problema di sicurezza, ma anche una questione legale ai sensi del diritto dell'UE.

Il più grave incidente di sicurezza informatica che la vostra organizzazione potrebbe affrontare quest'anno, derivante dall'intelligenza artificiale , difficilmente avrà origine da attacchi esterni che utilizzano nuovi modelli sofisticati. Molto probabilmente inizierà con un dipendente che incolla un contratto con un cliente, una previsione finanziaria o una serie di dati relativi alle risorse umane in uno strumento di intelligenza artificiale perché gli semplifica il lavoro, senza che nessuno gli spieghi perché sia ​​importante.

L'intelligenza artificiale ombra è un problema in crescita e la nostra ricerca ha rivelato che quasi la metà dei dipendenti delle grandi aziende inserisce regolarmente dati aziendali sensibili in strumenti di intelligenza artificiale che non sono stati approvati o gestiti dai loro reparti IT.

Ancora più allarmante è il fatto che l'85% dei dipendenti continui con questo comportamento anche quando sono disponibili strumenti approvati dall'azienda, il che indica una mancanza di governance che si estende fino ai più alti livelli dirigenziali. Grazie all'intelligenza artificiale furtiva, i dati sensibili possono fluire silenziosamente attraverso canali che la maggior parte dei sistemi di sicurezza non è progettata per intercettare.

Oltre ai rischi per la sicurezza derivanti da questo flusso incontrollato di dati, l'avvento dell'AI Act dell'UE implica anche che le organizzazioni debbano ora rispettare specifici requisiti legali per la gestione dell'utilizzo dell'IA. La capacità di imporre una governance completa su come l'IA viene implementata, gestita e monitorata è diventata un imperativo normativo e di sicurezza fondamentale.

Perché la legge europea sull'intelligenza artificiale rende questa questione di competenza del consiglio di amministrazione?

L'intelligenza artificiale ombra rappresenta una seria minaccia per la sicurezza: secondo il rapporto IBM "Cost of Data Breach 2026", gli strumenti non autorizzati hanno contribuito al 43% delle violazioni dei dati lo scorso anno. Ora, la legge europea sull'IA (AI Act) aggiunge significativi requisiti normativi a questi rischi.

Gli obblighi legali sono stati introdotti gradualmente; più recentemente, a partire dal 2 agosto 2026, le organizzazioni classificate come utenti pubblici di intelligenza artificiale sono state vincolate da nuovi requisiti relativi all'inventario, alla governance dei dati, alla registrazione delle verifiche e alla trasparenza.

Altre scadenze sono state posticipate: i controlli relativi all'uso dell'intelligenza artificiale ad alto rischio, che riguardano settori come il reclutamento, la valutazione del credito e la valutazione biometrica, entreranno in vigore a partire dal 2 dicembre 2027. L'IA integrata nei prodotti regolamentati sarà soggetta a tali controlli a partire dal 2 agosto 2028.

Qualsiasi organizzazione i cui dipendenti utilizzino sistemi di intelligenza artificiale ha ora obblighi di conformità in qualità di implementatore, a prescindere dal fatto che tali sistemi siano stati ufficialmente autorizzati.

Tutte le organizzazioni che utilizzano l'intelligenza artificiale devono essere consapevoli che l'obbligo di alfabetizzazione sull'IA previsto dall'articolo 4 è in vigore dal febbraio 2025, il che significa che le organizzazioni sono responsabili di garantire che i propri dipendenti siano consapevoli dell'uso sicuro e autorizzato dell'IA.

Le regole per l'utilizzo dell'intelligenza artificiale ad alto rischio non si limiteranno a ciò che potrebbe sembrare a prima vista, ma includeranno operazioni più ampie, come ad esempio l'utilizzo da parte di un dipendente di uno strumento non approvato per i consumatori (come le applicazioni di intelligenza artificiale ) in attività quali la revisione dei curriculum, la valutazione della solvibilità o la valutazione delle prestazioni.

Si tratta di attività comuni che potrebbero far scattare, ai sensi di legge, il pieno controllo del sistema su un sistema di cui il reparto IT non era nemmeno a conoscenza dell'implementazione.

Considerando che le sanzioni per violazioni ad alto rischio possono raggiungere i 15 milioni di euro o il 3% del fatturato annuo globale, molte organizzazioni si assumono rischi maggiori di quanto si rendano conto.

Perché il tuo attuale sistema di sicurezza non riesce a rilevarlo?

La sfida con l'intelligenza artificiale furtiva è che sfrutta i punti ciechi tra i livelli di sicurezza tradizionali, infiltrandosi attraverso lacune che la maggior parte degli strumenti non è progettata per colmare.

Ad esempio, le soluzioni CASB e i gateway web sicuri non sono in grado di decrittografare i dati conversazionali che transitano su domini LLM legittimi tramite HTTPS. Dal punto di vista della rete, un router contenente un database clienti completo è indistinguibile da qualsiasi altra sessione web crittografata. Inoltre, le estensioni del browser sono limitate agli endpoint gestiti e non sono in grado di rilevare i dispositivi personali e l'intelligenza artificiale integrata nelle applicazioni SaaS legittime.

Analogamente, i gateway API sono in genere costruiti attorno a implementazioni aziendali approvate, il che significa che registrano le attività di intelligenza artificiale già approvate dalle organizzazioni, ignorando al contempo gli strumenti di intelligenza artificiale orientati al consumatore che presentano il rischio maggiore.

Questi punti ciechi si sommano a vicenda, pertanto un'organizzazione che gestisce tutti e tre i livelli potrebbe comunque non avere una visibilità completa sull'attività dell'IA su una parte consistente delle sue risorse e non disporre di alcun mezzo per creare registri delle interazioni o prove di applicazione delle policy richieste dalla legge.

Che aspetto ha la scoperta di un'intelligenza artificiale efficace?

I flussi di dati dell'IA sono in genere controllati da dipendenti che svolgono le proprie mansioni senza intenti malevoli. Tuttavia, questa situazione è molto simile alla difesa da una minaccia esterna che potrebbe accedere segretamente ai dati.

La logica di rilevamento deve essere in linea con questa realtà. Il rilevamento autentico degli endpoint intercetta i dati sensibili nel punto di transito prima che raggiungano un sistema di intelligenza artificiale esterno e applica le policy a livello di router su browser gestiti e non gestiti, dispositivi personali e funzioni di intelligenza artificiale integrate negli strumenti SaaS. Opera nel luogo in cui si verifica l'attività, anziché tentare di rilevarla in fasi successive.

Considerata la potenziale entità delle sanzioni, la capacità di dimostrare la conformità è altrettanto importante quanto la prevenzione delle violazioni della sicurezza.

Il rilevamento continuo su tutte le risorse, compresi gli strumenti non autorizzati, fornisce alle organizzazioni l'inventario dei sistemi di intelligenza artificiale richiesto dalla legge.

Registri dettagliati delle interazioni, che mostrano chi ha usato cosa, quando e quali dati sono stati coinvolti, soddisfano i requisiti di documentazione previsti dagli articoli 12 e 13, eliminando la necessità per i team di tentare freneticamente di ricostruire l'attività dopo che si è verificata. Questi stessi registri identificano anche con precisione le lacune nelle conoscenze dell'IA, rendendo la conformità all'articolo 4 dimostrabile e non solo affermabile.

Misure pratiche per la conformità

I team addetti alla sicurezza e alla conformità che desiderano rispettare la normativa europea sull'IA trovano qui un percorso chiaro da seguire.

Il punto di partenza è creare una mappa completa di tutte le risorse di intelligenza artificiale. La divulgazione dovrebbe andare oltre gli strumenti approvati dal reparto IT e includere endpoint non gestiti, dispositivi personali connessi alle reti aziendali e intelligenza artificiale integrata nelle soluzioni Software as a Service (SaaS).

La governance dei dati deve spostarsi fino alla periferia della rete. Le politiche che vietano la condivisione di dati sensibili con strumenti non approvati non sono controlli tecnici e, nel momento in cui queste politiche vengono applicate ai margini della rete, i dati sono già usciti.

È importante ricordare che le informazioni condivise con un sistema di intelligenza artificiale esterno possono essere memorizzate nei log delle richieste, incorporate nei dati di addestramento del modello o archiviate su server in giurisdizioni a cui l'organizzazione non ha accesso. Nel momento in cui i dati oltrepassano questa soglia, l'organizzazione perde completamente il controllo su di essi e nessun documento di policy può recuperarli. Ciò aumenta il rischio di attacchi informatici da parte dell'IA.

Poiché l'articolo 12 richiede la registrazione delle interazioni, che possono essere consegnate alle autorità di regolamentazione su richiesta, le organizzazioni dovranno condurre audit continui e automatizzati sia delle attività che delle procedure di sicurezza.

Infine, i programmi di alfabetizzazione sull'IA, volti a migliorare la consapevolezza degli utenti, dovrebbero basarsi su dati comportamentali piuttosto che su programmi di formazione generici. I registri delle attività che rivelano fallimenti nella governance, sia ai massimi livelli dirigenziali che a qualsiasi altro livello, forniscono sia una diagnosi del problema sia le prove che le autorità di regolamentazione vorranno vedere.