Potenziare l'intelligenza artificiale: l'urgente necessità di una nuova strategia economica

La narrazione prevalente sull'IA nelle aziende si sta rapidamente spostando dall'entusiasmo della fase pilota alla dura realtà della produzione. Mentre le organizzazioni si affrettano a integrare l'IA generativa nei propri flussi di lavoro, si imbattono in un ostacolo che non risiede tanto nelle capacità della tecnologia in sé, quanto piuttosto nelle modalità di implementazione di questi modelli.

Le aziende stanno scoprendo sempre più che il problema non è l'intelligenza artificiale in sé, bensì la convinzione che ogni compito richieda il modello più potente disponibile. Ciò ha portato alla diffusione del fenomeno del "tokenmaxxing", ovvero la tendenza a utilizzare per impostazione predefinita modelli più grandi e costosi, anche quando un modello più piccolo ed economico sarebbe in grado di svolgere il compito.

Anziché abbinare il modello giusto al compito giusto, molte organizzazioni presumono che ogni flusso di lavoro richieda capacità inferenziali al livello dei modelli principali.

Questa sovrabbondanza di automazione crea un onere strutturale sulla redditività. Quando le aziende affrontano ogni problema come se richiedesse un modello rivoluzionario, i costi infrastrutturali superano inevitabilmente il valore del risultato.

Il mercato sta assistendo alle conseguenze di questo approccio, con report che indicano come le principali organizzazioni stiano esaurendo completamente i propri budget per l'IA nel giro di pochi mesi e annullando le licenze interne a causa dell'aumento dei costi.

Mentre le organizzazioni si confrontano con l'impatto dei costi dell'IA, diventa sempre più evidente che la spesa in questo ambito spesso supera il valore tangibile che essa apporta. Questa sfida richiede nuove strategie, come discusso in un precedente articolo sul calo della spesa per l'IA.

Superare la trappola dei progetti pilota

Il problema fondamentale è che il successo di progetti pilota isolati e controllati viene spesso considerato lo standard per le attuali iniziative di intelligenza artificiale in ambito aziendale. In un progetto pilota, le variabili sono limitate e il costo per operazione appare gestibile. Ma una volta che si passa all'utilizzo a livello aziendale, emerge la realtà caotica della produzione, fatta di situazioni limite, molteplici tentativi e ampie fluttuazioni di scala.

Poiché l'IA probabilistica genera un costo diverso per ogni operazione, crea spese impreviste che i reparti finanziari non possono prevedere. Con il software tradizionale, un budget fisso corrisponde a un costo previsto per ogni attività. Con l'IA, questa stabilità viene a mancare. Quando la stessa operazione costa un dollaro un giorno e cento dollari il giorno successivo, non può essere inclusa con certezza nel budget operativo.

Per questo motivo, l'80% delle organizzazioni ammette di aver sottovalutato i costi dell'IA di oltre il 25%, e oltre il 95% dei progetti pilota di IA generativa non riesce a raggiungere la fase di produzione. Le organizzazioni non si stanno impegnando per migliorare il rapporto costi-benefici; al contrario, lo scoprono a proprie spese, spesso dopo che il danno finanziario è già stato fatto. Per molti leader, l'unica leva rimasta è "usare di meno", ovvero limitare l'utilizzo o bloccare l'accesso.

Ma questa risposta è errata. Il vero shock non sta nell'entità del conto in sé, ma nella consapevolezza che l'unico strumento di gestione rimasto sia quello di limitare i consumi. Razionando l'accesso, l'organizzazione ammette di fatto che la sua implementazione dell'IA è troppo costosa per essere ampliata, trasformando un potenziale vantaggio competitivo in una debolezza difensiva.

Ripensare l'economia dell'automazione

Oggi la maggior parte delle organizzazioni si concentra sul miglioramento della selezione del modello, ovvero sull'identificazione del modello più adatto a gestire un determinato compito, ma la maggiore opportunità risiede nel miglioramento del lavoro stesso. Poiché i costi vengono ricalcolati ogni volta che una richiesta viene avviata da zero all'interno di un modello di grandi dimensioni, presumere che ogni compito richieda un modello linguistico di grandi dimensioni (LLM) al livello LLM principale si rivela rapidamente un errore costoso.

Gli strumenti di routing standard operano a livello di richiesta: analizzano l'attività in arrivo e la instradano al modello che sembra più appropriato, ma tale modello esegue comunque l'intera attività come un'unica generazione opaca. L'unica cosa ottimizzata è il modello che fornisce la risposta; nulla di ciò che ne consegue rende più economica l'esecuzione successiva. La vera scalabilità richiede di fare un ulteriore passo avanti.

Questo cambiamento richiede una struttura che gestisca il processo aziendale anziché affidarsi esclusivamente al modello sottostante. Invece di limitarsi a indirizzare il lavoro verso un punto di arrivo, questo approccio architetturale gestisce il processo stesso. Trascende i singoli modelli, scomponendo il flusso di lavoro in fasi distinte e guidate dal codice per generare una traccia di controllo in ogni fase.

Questa singola scelta architettonica è ciò che distingue l'ottimizzazione strutturale dalla gestione superficiale dei costi, fornendo un livello di efficienza irraggiungibile con i tradizionali strumenti di guida. Questo cambiamento si traduce in una struttura dei costi più efficiente. Invece di affidarsi a un unico modello per ogni attività, i calcoli vengono distribuiti su fasi specializzate e guidate dal codice, migliorando l'utilizzo delle risorse e trasformando l'esecuzione del flusso di lavoro.

Nel flusso di lavoro per l'elaborazione di prestiti di grande volume, ad esempio, questo approccio migliora l'efficienza economica complessiva riducendo la dipendenza da costosi ragionamenti basati su modelli laddove non siano necessari. Il passaggio a questa architettura standardizzata e orientata ai processi offre un percorso sostenibile per la gestione dei costi delle operazioni ad alto volume.

Poiché il processo è svincolato da un fornitore specifico, le organizzazioni mantengono la massima flessibilità. Possono implementare liberamente strategie di ottimizzazione, passando da modelli LLM leader di mercato a pesi open-source e modelli più piccoli e specializzati, in base all'evoluzione delle loro esigenze in termini di prestazioni e costi, senza dover ricostruire l'infrastruttura sottostante. Per saperne di più sulla gestione dei costi dell'IA, potete leggere il nostro articolo sul calo della spesa per l'IA.

Poiché ogni processo di esecuzione produce un percorso specifico e verificabile di fasi di pensiero, invocazioni di strumenti e risultati, queste registrazioni diventano preziose risorse di dati, migliorando le alternative specializzate che sanno già come gestire i compiti previsti senza ricorrere a invocazioni generiche.

Potenziare le capacità umane attraverso la precisione

L'obiettivo di questo nuovo approccio è trasformare l'intelligenza artificiale da un esperimento limitato a un metodo standardizzato di svolgimento del lavoro. Quando il lavoro digitale automatizzato si fa carico di compiti cognitivi ripetitivi , come la verifica dei dati o la conferma delle divulgazioni, il ruolo umano si trasforma completamente. Gli analisti non devono più passare la giornata ad aprire manualmente file e inserire dati; la loro attenzione si sposta sulle eccezioni che richiedono un giudizio di alto livello, strategie complesse e soluzioni creative ai problemi.

Questa è la promessa di un'adozione sostenibile dell'IA. Trasformando le spese impreviste in una base di costi nota e concentrandosi sulla riprogettazione dei flussi di lavoro anziché sul semplice cambio di modello, le aziende possono finalmente liberare il loro pieno potenziale. Ciò offre alle organizzazioni un percorso verso un ritorno sull'investimento sostenibile e misurabile man mano che l'adozione si espande, consentendo alla forza lavoro di concentrarsi su attività di alto valore e di valutazione che la tecnologia non può replicare.

Il futuro dell'IA nelle aziende non sarà determinato unicamente dalle capacità del modello, ma dalla capacità di implementare sistemi di IA integrati che rendano la tecnologia economicamente sostenibile su larga scala. È tempo di superare la fase di sperimentazione insostenibile e adottare un approccio strutturato e rigoroso all'adozione dell'IA. Per le organizzazioni pronte a superare la fase sperimentale, la sfida non è più dimostrare che l'IA funziona, ma renderla economicamente sostenibile su larga scala.