Una guida per accelerare l'adozione dell'IA: sicurezza senza rischi inutili

Negli ultimi 18 mesi, i nostri team sono passati dal semplice dibattito sull'opportunità di utilizzare l'IA al chiedersi con quanta rapidità possiamo implementarla. La questione più complessa è come consentire ai team di muoversi abbastanza velocemente da massimizzare i vantaggi dell'IA senza permettere che il profilo di rischio dell'azienda si espanda più rapidamente di quanto essa sia in grado di gestirlo e governarlo.

Jason Taylor

Direttore tecnico (CTO) e responsabile della sicurezza informatica (CISO) presso Entrata.

Questo dilemma è ben noto ai leader del settore tecnologico e della sicurezza informatica, poiché l'intelligenza artificiale presenta due esigenze apparentemente contrastanti. Da un lato, il reparto IT di un'organizzazione ricerca la sperimentazione, l'accessibilità, la velocità e la possibilità di ottenere reali aumenti di produttività. Dall'altro, il reparto sicurezza necessita di controllo, responsabilità, definizione dei limiti dei dati e la certezza che il nuovo flusso di lavoro non comporti rischi evitabili.

Entrambi gli approcci sono validi, ed è per questo che le aziende faticano quando considerano l'IA come un progetto puramente innovativo o come una mera questione di sicurezza. Si tratta di un cambio di paradigma, e le organizzazioni che lo gestiscono efficacemente sono quelle che costruiscono infrastrutture adeguate e strumenti robusti per consentire ai team di muoversi con sicurezza, anziché costringerli a scegliere tra velocità e controllo.

Iniziate dal lavoro, non dallo strumento.

Molte aziende iniziano ad adottare l'IA come se fosse il lancio di un normale programma software. Si accordano su un fornitore, distribuiscono le licenze, pubblicano delle linee guida e presumono che l'utilizzo porterà naturalmente a una trasformazione radicale. Questo approccio può generare attività, ma raramente si traduce in un cambiamento operativo duraturo.

La vera adozione inizia quando i leader comprendono come portare a termine il lavoro. Il team finanziario, il team di prodotto, il team di marketing, il team di supporto e il team di ingegneria non utilizzeranno gli strumenti di IA allo stesso modo, perché ogni gruppo ha esigenze di conoscenza diverse, fonti di dati diverse, soglie di rischio variabili e competenze specifiche. Ciascuno di questi team dovrà sviluppare competenze e strumenti specifici per l'IA.

I leader dovrebbero iniziare chiedendosi quali obiettivi si prefigge ogni posizione lavorativa, quali conoscenze sono necessarie per prendere decisioni migliori, quali competenze sono richieste per utilizzare l'intelligenza artificiale in modo responsabile e quali strumenti o fonti di dati sono necessari per produrre un risultato affidabile.

Quando l'intelligenza artificiale è collegata a queste capacità, diventa parte integrante di Come funziona l'organizzazione؛ أما عندما يتم فرضه على عمليات غير مترابطة، فإنه يميل إلى إنتاج Plus من المخرجات دون أن يؤدي بالضرورة إلى نتائج أفضل.

Trattare l'accesso ai dati come una questione di progettazione del rischio

L'accesso ai dati è uno degli ambiti più significativi in ​​cui l'intelligenza artificiale sta cambiando il modello operativo. Affinché l'IA sia realmente vantaggiosa, i team spesso hanno bisogno di accedere a informazioni che non hanno utilizzato direttamente in precedenza.

Il team di marketing potrebbe aver bisogno di documentazione sui prodotti e informazioni sui clienti, mentre il team finanziario potrebbe necessitare di dati operativi strutturati e il team di supporto potrebbe richiedere conoscenze interne e contesto storico, nonché la capacità di comprendere schemi ricorrenti in sistemi diversi.

La tendenza ad ampliare l'accesso ai dati è comprensibile: l'intelligenza artificiale acquisisce valore con un contesto più ampio. Viceversa, è altrettanto comprensibile la tendenza a limitarne l'accesso, poiché un accesso più esteso potrebbe sollevare preoccupazioni in materia di privacy, conformità e sicurezza. La soluzione non sta nel privilegiare l'una o l'altra opzione, ma nel costruire un modello più sistematico per determinare quali dati possono essere utilizzati, da chi e per quale scopo.

In un progetto di implementazione aziendale, ad esempio, la soluzione pratica non è stata quella di dare a ogni team accesso a tutto, né di limitare l'IA a una funzione puramente tecnica. Piuttosto, si è trattato di separare i dati operativi meno critici dalle informazioni più sensibili e di fornire ai team un accesso sufficiente per lavorare in modo diverso, riducendo al minimo i potenziali danni in caso di comportamenti imprevisti di un flusso di lavoro.

Un modo utile per comprendere questo concetto è attraverso l'idea di "impatto sui dati". Non tutti i set di dati comportano lo stesso livello di rischio e non tutti i casi d'uso dell'IA richiedono lo stesso livello di restrizione. Alcune informazioni possono essere rese più accessibili perché il potenziale danno in caso di problemi è limitato, mentre altre, in particolare le informazioni di identificazione personale o i dati sensibili dei clienti, richiedono controlli molto più rigorosi.

Questo approccio consente ai team di sperimentare in aree in cui i rischi sono inferiori, mantenendo al contempo una governance più solida laddove l'azienda ne ha realmente bisogno. L'obiettivo non è indebolire la sicurezza, ma renderla più precisa, consentendo all'azienda di muoversi più rapidamente senza perdere il controllo sui suoi ambienti, dati e flussi di lavoro più critici.

Integrazione della verifica nel flusso di lavoro

La validazione è un punto cruciale che determina se le strategie di intelligenza artificiale diventeranno scalabili o falliranno. I sistemi di IA possono produrre risultati apparentemente impeccabili, ma incompleti, imprecisi, privi di branding o non conformi agli standard. Sebbene la revisione umana possa assorbire alcuni di questi rischi nelle fasi iniziali, non risulta efficace su larga scala una volta che l'IA è integrata nelle operazioni quotidiane.

Ho constatato questo fenomeno in modo molto evidente nei team tecnici, dove l'intelligenza artificiale può accelerare lo sviluppo del software solo se esiste un metodo affidabile per valutare la qualità, la sicurezza e l'accuratezza del prodotto finale. Senza questo livello di validazione, i team potrebbero sentirsi più veloci nel breve termine, ma in realtà si ritrovano ad affrontare un carico di lavoro di revisione maggiore, più rilavorazioni e rischi più elevati nelle fasi successive.

Le aziende necessitano di modelli di verifica progettati per essere parte integrante del flusso di lavoro stesso. Ciò può includere controlli automatizzati, controlli di qualità dei dati, percorsi di approvazione, registrazione, osservabilità e chiare regole di escalation per i risultati che non devono essere considerati affidabili senza un'ulteriore revisione.

I leader non dovrebbero considerare questi meccanismi come una routine aggiuntiva e tardiva. Piuttosto, sono ciò che permette all'IA di passare dall'essere un semplice strumento di produttività individuale a una capacità completa a livello aziendale, perché i team possono ampliare l'adozione solo quando dispongono di un metodo ricorrente per verificare se il lavoro prodotto è accurato, appropriato e sicuro da utilizzare.

L'adozione dell'intelligenza artificiale è diventata una responsabilità della leadership.

L'adozione dell'intelligenza artificiale non può essere delegata a un singolo team di innovazione o a un responsabile IA, mentre il resto del team dirigenziale osserva da lontano. Ogni responsabile di funzione deve comprendere in che modo l'IA cambierà la natura del lavoro del proprio team, come i dipendenti collaboreranno con agenti e modelli e dove è probabile che si presentino dei rischi.

Questo non significa che ogni dirigente debba diventare uno specialista di apprendimento automatico, ma significa che i leader devono possedere una competenza sufficiente per guidare il processo decisionale, definire le aspettative e dare l'esempio del comportamento che si aspettano dai loro team. È improbabile che i dipendenti modifichino le proprie pratiche lavorative se i loro leader considerano l'IA come qualcosa che tutti gli altri devono necessariamente adottare.

Anche l'inquadramento culturale è importante, perché se i dipendenti percepiscono l'adozione dell'IA come un eufemismo per l'eliminazione di posti di lavoro, si aggrapperanno al loro ruolo attuale piuttosto che esplorare le sue possibili evoluzioni future. I leader dovrebbero essere trasparenti sul fatto che i ruoli cambieranno, alcuni flussi di lavoro scompariranno e emergeranno nuove responsabilità, sottolineando al contempo che l'obiettivo immediato è aiutare le persone a lavorare meglio e in modo più efficiente, garantendo così un ritorno sull'investimento.

In molti casi, il lavoro si sta spostando dall'esecuzione manuale di ogni singola attività al coordinamento di sistemi che contribuiscono al completamento del lavoro. Ciò richiede la disponibilità a gestire l'ambiguità, aspetto che diventa sempre più importante con la crescita delle capacità dell'intelligenza artificiale.

Le aziende che riescono ad adottare l'intelligenza artificiale non sono quelle che privilegiano l'innovazione rispetto alla sicurezza, né quelle che aspettano di eliminare ogni potenziale rischio in anticipo. Piuttosto, sono quelle che stabiliscono solide basi per la governance, la verifica e la disciplina nella gestione dei dati, dando ai propri team la fiducia necessaria per procedere. In un ambiente di IA aziendale, il controllo è la pietra angolare per raggiungere una velocità sostenibile, sottolineando l'importanza della cautela in ogni fase, soprattutto quando si ha a che fare con componenti di IA aziendali sensibili.