Superare il principale ostacolo che impedisce l'attivazione dell'intelligenza artificiale

Il tentativo di integrare entità non deterministiche in questi modelli costa agli ingegneri tempo che non hanno e introduce rischi che nessuna organizzazione è in grado di gestire. Il vero pericolo risiede proprio in questa lacuna.

Eve Contsevoy

L'amministratore delegato di Teleport.

Molti progetti si sono bloccati a causa delle preoccupazioni relative all'implementazione senza una solida base di sicurezza, e a ragione. Abbiamo già visto un attacco informatico cancellare l'intero database di produttività di un'azienda, insieme ai relativi backup, in nove secondi. Ai team di sicurezza viene chiesto di prevenire scenari simili utilizzando strumenti progettati per un mondo con solo due attori. Le crepe iniziano ad apparire. Qualcosa deve cambiare, altrimenti l'innovazione ristagnerà sotto i propri limiti. I rischi per la sicurezza informatica aumentano con la crescente dipendenza dall'intelligenza artificiale.

Gli agenti di intelligenza artificiale richiedono un nuovo modello di identità

La pressione sui team di produzione e ingegneria per accelerare le consegne è reale e diffusa. Pertanto, spesso ricadono in vecchie abitudini, come concedere agli agenti privilegi eccessivi e trattarli come un qualsiasi altro microservizio.

Ma gli agenti di intelligenza artificiale sono molto diversi dalle macchine; sono fallibili e indeterminati, proprio come gli esseri umani. Eppure operano alla velocità di una macchina, 24 ore su 24, 7 giorni su 7. Un agente può cancellare interi database di produttività in nove secondi. Quanti esseri umani conoscete che sarebbero in grado di farlo?

Questo mi porta al cuore del problema. I sistemi di identità sono stati creati per un mondo con due tipi di attori – umani e macchine – ma ora ce ne sono tre. Cercare di integrare l'IA proxy nei sistemi legacy rende ogni proxy una potenziale fonte di intrusione, capace di eseguire migliaia di azioni sull'infrastruttura in pochi secondi.

Tuttavia, è proprio questo che gli ingegneri sono chiamati a fare: prevenire scenari catastrofici utilizzando strumenti di gestione delle identità e degli accessi (IAM) obsoleti che stanno iniziando a mostrare i loro limiti. Le crepe cominciano a comparire.

Perché il vecchio modello sta crollando?

Storicamente, gli ingegneri che si occupano di cluster Kubernetes, piattaforme cloud, orchestrazione di container, pipeline CI/CD, database, ecc., hanno sofferto della frammentazione delle identità.

Per quanto riguarda il lavoro umano, la situazione era gestibile. Gli esseri umani potevano essere monitorati; timbravano il cartellino all'entrata e all'uscita. Erano abbastanza lenti da far sì che le interruzioni di visibilità raramente si traducessero in incidenti immediati.

Con l'avvento dell'IA proxy, la velocità aumenta drasticamente. Improvvisamente, i team si ritrovano sommersi da migliaia di registri di attività e non hanno la possibilità di contenere efficacemente il proxy prima che apporti modifiche non autorizzate.

Tentare di imporre un'autenticazione forte e privilegi a breve termine significherebbe creare integrazioni individuali per ogni strumento dello stack. Ciò rende difficile la scalabilità dell'IA quando ogni strumento utilizza un protocollo di integrazione diverso.

Invece di concentrarsi sull'innovazione tramite l'IA proxy, gli ingegneri sono costretti a collegare manualmente la gestione delle identità e degli accessi (IAM), l'infrastruttura e i segreti, senza un'identità coerente, senza visibilità sulle azioni del proxy e con ogni team che crea da zero il proprio flusso di lavoro per container o macchine virtuali.

Ma creare un nuovo strumento per gestire un terzo tipo di identità è la peggiore risposta possibile per il settore. Raddoppierebbe il lavoro per gli ingegneri, che dovrebbero ricostruire da zero la politica di identità e integrare un livello di anonimato ancora maggiore. Il nuovo sistema di identità isolato risulterebbe anonimo per gli altri sistemi, rendendo ancora più difficile individuare gli aggressori.

Questo ci porta a chiederci come le organizzazioni controllino il comportamento degli agenti. La soluzione non consiste semplicemente nell'aggiungere "Plus" allo stack tecnologico o nell'implementare strumenti "Plus"; si tratta piuttosto di modificare i nostri modelli di identità per eliminare completamente l'anonimato.

Controllare l'intelligenza artificiale significa avere un anonimato completo.

Per eliminare l'anonimato dalle infrastrutture, le organizzazioni devono garantire a ogni attore – sia esso umano, macchina, carico di lavoro o agente di intelligenza artificiale – identità di prim'ordine, protette crittograficamente da una radice di fiducia fisica. Un ripensamento radicale della strategia infrastrutturale è ora imperativo.

Eliminare completamente le credenziali persistenti. La rimozione delle chiavi API e delle password elimina la diffusione delle credenziali che causa le violazioni, nonché la minaccia che i segreti vengano rubati o consegnati a soggetti non autorizzati. Con l'identità ancorata a fattori del mondo reale, gli aggressori non possono impersonare una macchina fidata e indurre un agente a estrarre un database.

Ma la sola autenticazione forte non basta. Gli agenti di intelligenza artificiale, come tutti gli altri attori, devono aderire ai principi dello zero trust. Ciò può avvenire solo quando i sistemi isolati vengono sostituiti da un livello infrastrutturale in cui gli agenti possiedono esattamente lo stesso tipo di identità delle macchine che gestiscono e degli esseri umani che li autorizzano.

Gli agenti devono operare con privilegi a breve termine direttamente collegati ad azioni specifiche autorizzate da un utente umano. Il privilegio è legato all'azione, non all'autore. Ad esempio, un agente che genera codice deve ereditare la propria autorizzazione da un proprietario umano con un'autorità corrispondente, limitando i privilegi ai soli fogli di calcolo specifici necessari per tale attività.

Anche gli attori non deterministici necessitano di un ambiente di esecuzione sicuro e affidabile prima di poter accedere all'infrastruttura di produzione.

In assenza di privilegi predefiniti, la portata del danno è estremamente limitata. Tuttavia, ciò è possibile solo quando un unico sistema definisce una singola policy per tutte le identità.

È possibile introdurre una politica di identità come livello di controllo tra l'agente e il suo endpoint di inferenza, in modo che il comportamento venga controllato prima dell'esecuzione delle istruzioni.

Con un'architettura unificata, l'identità diventa il livello di controllo per l'intelligenza artificiale.

Gli agenti di intelligenza artificiale aprono enormi opportunità negli ambienti aziendali, soprattutto se implementati in infrastrutture di produzione, dove offrono il massimo valore. Dalla gestione delle modifiche di routine al miglioramento delle implementazioni in tempo reale, le possibilità sono infinite. Il successo dell'IA in processi aziendali così critici richiede un controllo rigoroso del comportamento.