L'intelligenza artificiale sta rimodellando l'economia degli attacchi informatici e della difesa.

I limiti che un tempo ostacolavano le complesse operazioni informatiche contro le nazioni stanno iniziando a svanire. In passato, lanciare un attacco informatico su larga scala richiedeva la mobilitazione di un gran numero di esperti. Gli attacchi informatici basati sull'intelligenza artificiale sono in aumento.

Quando il costo per aggiungere un attaccante competente si avvicina al costo della potenza di calcolo, l'equazione dell'attacco cambia drasticamente.

Questa è già diventata una realtà concreta: la ricerca sulle minacce condotta da Dream ha rivelato un framework multi-agente autonomo che ha lanciato campagne di hacking contro enti governativi in ​​Asia, eseguendo dodici ondate di attacco in quattro giorni con otto agenti paralleli, compromettendo 85 account governativi e utilizzando un ciclo di apprendimento chiuso per adattarsi dopo ogni fallimento.

L'attenzione si sta ora spostando dal numero di esperti all'efficacia con cui questi ampliano le proprie competenze.

L'intelligenza artificiale avvantaggia sia gli attaccanti che i difensori, ma questi ultimi godono di un vantaggio unico: possiedono già la mappa che gli attaccanti devono scoprire.

I difensori che comprendono il loro ambiente possono utilizzare l'intelligenza artificiale per tradurre tale conoscenza in ampie capacità operative. Integrazione delle capacità difensive

hacker governativo indipendente basato sull'intelligenza artificiale

Lo scorso luglio, il nostro team di ricerca sulle minacce è riuscito a recuperare lo spazio di lavoro operativo di un framework indipendente multi-agente che aveva condotto campagne di hacking contro enti governativi in ​​Asia.

Nell'arco di circa quattro giorni, il sistema ha eseguito dodici ondate di attacco e ha fatto funzionare simultaneamente fino a otto agenti di intelligenza artificiale. Sfruttando i framework pubblici Hermes e OpenClaw, ha compromesso 85 account di dipendenti governativi e ne ha utilizzati 84 per infiltrarsi nell'ambiente di single sign-on del governo.

Ciò che è veramente interessante è la sua capacità di prendere decisioni operative in modo indipendente. I limiti dell'intelligenza artificiale.

Determinazione dei livelli di fiducia

A ciascuna scoperta è stato assegnato un punteggio di confidenza bayesiano per valutare i diversi percorsi, e poi è stata scelta una via da seguire, proprio come in una vera squadra.

Analogamente, quando un percorso di attacco falliva, il framework entrava automaticamente in quello che definiva un "ciclo di apprendimento", effettuando ricerche nei database delle vulnerabilità e nelle tecniche di ricerca sulla sicurezza pertinenti all'interno dello stack tecnologico di quel governo, per poi riprovare. Il framework eseguiva essenzialmente un'autovalutazione, creando un ciclo di apprendimento chiuso: indagare, verificare, eseguire, monitorare il risultato, aggiornare le proprie conoscenze operative e poi riprovare.

Non si trattava di un modello auto-migliorante. Era un attacco informatico auto-adattivo, supportato da un vero esperto, integrato come sistema di intelligenza artificiale. I principi fondamentali di questo attacco non erano particolarmente impressionanti o innovativi. Ma ciò che è allarmante è la sua portata e la sua scalabilità pressoché infinita. Pensare come un hacker.

Fino a poco tempo fa, un fattore limitante fondamentale per l'ampliamento delle operazioni offensive più sofisticate era la necessità di competenze specialistiche per determinare cosa indagare, verificarne i risultati, collegarli a percorsi di attacco praticabili e adattarsi in caso di fallimento di tali percorsi. Queste operazioni erano costose, sia in termini di risorse finanziarie che di competenze umane. Questa carenza limitava naturalmente la portata degli attacchi, poiché l'ampliamento di un'operazione sofisticata implicava un aumento del numero di esperti qualificati, del tempo e del coordinamento necessari.

L'intelligenza artificiale ha iniziato ad automatizzare con precisione questo costoso livello di processi: identificando cosa deve essere investigato, verificando le ipotesi, imparando dagli errori e scegliendo il passo successivo. Sebbene la qualità di queste decisioni sia ancora determinata da esseri umani di talento, il numero di individui di talento non è più l'unico fattore che determina la frequenza con cui queste decisioni possono essere prese in parallelo.

Cosa succede quando l'espansione di un'operazione offensiva non richiede un corrispondente aumento del numero di esperti che la conducono?

Avendo trascorso 15 anni in ruoli di sicurezza informatica sia offensiva che difensiva, mi diventa ogni giorno più chiaro che l'intelligenza artificiale ha cambiato questa equazione; la relazione storica tra la quantità di esperti di cui un'organizzazione dispone e la portata delle operazioni che può svolgere sta iniziando a svanire.

L'intelligenza artificiale non elimina il talento, ma piuttosto modifica ciò che il talento può realizzare su scala più ampia.

Un attacco delle dimensioni di un paese

L'infrastruttura IT del governo è un ecosistema interconnesso, costruito nel corso di decenni. Comprende ministeri, comuni, tecnologie operative, applicazioni legacy, servizi cloud, appaltatori, fornitori e innumerevoli rapporti di fiducia che li legano tra loro.

Questi contatti esistono solitamente per ragioni operative legittime (o almeno per ragioni che storicamente erano legittime).

Naturalmente, ogni connessione rappresenta un potenziale punto debole.

È così che si diffondono gli attacchi informatici ai governi moderni: non necessariamente sfruttando una singola vulnerabilità critica, ma collegando tra loro molte vulnerabilità comuni. Pensare come un hacker è diventata una strategia fondamentale per comprendere questi meccanismi.

Storicamente, ciò ha rappresentato una sfida per entrambe le parti. Nessun team di difesa potrebbe analizzare continuamente ogni risorsa, identità, composizione, vulnerabilità e relazione di fiducia in un'intera nazione. Ma anche gli attaccanti si trovavano di fronte a un vincolo simile: anche i loro esperti dovevano stabilire come impiegare il proprio tempo per trovare un percorso efficace che conducesse dalla penetrazione alle risorse più preziose. Pertanto, l'integrazione delle capacità difensive è diventata essenziale.

I sistemi autonomi stanno cambiando questa realtà.

Un attaccante indipendente non ha bisogno di comprendere in anticipo l'intero contesto governativo. Può invece esplorarlo continuamente: scoprendo una relazione, formulando un'ipotesi, testandola, imparando dal risultato e poi passando alla fase successiva.

Per la prima volta, i governi potrebbero trovarsi ad affrontare avversari capaci di analizzare le superfici di attacco su scala nazionale più rapidamente delle istituzioni responsabili della loro difesa.

Corsa per cambiare il punteggio

La drastica riduzione dei costi delle competenze informatiche offensive, ottenuta grazie allo sfruttamento e allo sviluppo di agenti come armi, rappresenta un cambiamento radicale. Fino a poco tempo fa, questa capacità era appannaggio di pochi eletti e aveva un costo proibitivo. Questa impennata di attacchi informatici basati sull'intelligenza artificiale ha spinto OpenAI e oltre 100 altre aziende a lanciare un allarme sulle sue implicazioni.

Oggi, scoprire, dare priorità e integrare queste tecnologie in strategie offensive efficaci è diventato poco costoso e il processo può essere replicato rapidamente in modo automatico.

Con il ritmo di sviluppo dell'intelligenza artificiale, questa realtà diventa ogni giorno più evidente.

Le capacità offensive stanno diventando sempre più economiche, veloci e facili da replicare.

Ma c'è anche un altro lato della medaglia.

I difensori hanno sempre goduto di vantaggi strutturali: dati di telemetria, un contesto più approfondito, accesso continuo alla propria infrastruttura, conoscenza delle sue configurazioni, identità e relazioni, nonché una capacità di azione nettamente superiore. Queste capacità difensive devono essere integrate per garantire la superiorità operativa.

Ma anche loro erano limitati dalle capacità umane. Nessun team poteva analizzare continuamente tutte quelle informazioni, relative a tutte le risorse e relazioni, in ogni momento. La stessa intelligenza artificiale che avvantaggia gli attaccanti potrebbe anche consentire ai difensori di ottenere un vantaggio storico su vasta scala.

Qui il tempo è fondamentale. Analizzare tutto non significa difendere tutto. Se l'intelligenza artificiale rileva un'identità compromessa in pochi secondi, ma le credenziali rimangono attive per sei ore, l'attaccante ha ancora sei ore di tempo. E se identifica una vulnerabilità in un sistema critico, ma l'elaborazione richiede tre settimane, quella vulnerabilità rimarrà aperta per tutte e tre le settimane.

La vera opportunità, quindi, non consiste semplicemente in un'analisi migliore. Si tratta di ridurre il "tempo necessario per agire efficacemente": il tempo che intercorre tra la comprensione del rischio e la modifica dell'esito. Questa mancanza di visibilità rappresenta spesso un ostacolo a un processo decisionale valido.

L'efficacia è fondamentale in questo caso; disabilitare un'identità, modificare una regola del firewall o correggere una vulnerabilità non è sufficiente. Il sistema deve verificare che l'attaccante non sia più in grado di raggiungere il proprio obiettivo.

Il ciclo difensivo non può fermarsi alla semplice raccolta di informazioni, né tantomeno all'adozione di misure concrete. Deve piuttosto concludersi con un risultato di sicurezza comprovato e verificabile.

Il divario critico

L'intelligenza artificiale non favorisce necessariamente l'attaccante.

Il framework scoperto doveva raccogliere informazioni sull'ambiente passo dopo passo. Al contrario, i difensori possedevano già questa mappa. Ogni configurazione, credenziale, flusso di telemetria e relazione di fiducia poteva richiedere a un attaccante – anche con il supporto dell'IA – giorni o settimane per essere scoperta. Ciò che i difensori non potevano fare, tuttavia, era analizzare continuamente tutte le risorse in loro possesso a causa della mancanza di competenze umane: una lacuna di visibilità che ostacolava un processo decisionale efficace.

L'intelligenza artificiale sta iniziando a eliminare questo limite legato all'attenzione umana. Consente ai difensori di amplificare le capacità degli esperti in migliaia di indagini parallele, identificare continuamente i percorsi di attacco, dare priorità a quelli che presentano il rischio maggiore e concentrare le azioni dove sono più critiche.

Gli attaccanti ottengono lo stesso vantaggio, ma non partono dallo stesso punto. I difensori hanno il vantaggio del controllo del territorio: conoscono e controllano già l'ambiente che l'attaccante deve esplorare.

La differenza cruciale non risiede più solo nel numero di esperti da entrambe le parti, ma nell'efficacia con cui ciascuna parte amplia tale competenza e la indirizza innanzitutto verso i rischi giusti.

In definitiva, la gara non riguarda chi conosce Plus.

Si tratta piuttosto di capire chi è in grado di ampliare la gamma di talenti nel modo giusto e, soprattutto, di trasformare tale ampliamento in risultati concreti.