Studio: il rumore dell'intelligenza artificiale ostacola la vera ricerca sull'intelligenza artificiale

Un nuovo studio pubblicato questo mese dall'Association for the Advancement of Artificial Intelligence (AAAI), a cui hanno partecipato centinaia di ricercatori nel campo dell'intelligenza artificiale, ha portato a una conclusione fondamentale: è improbabile che il nostro attuale approccio all'intelligenza artificiale ci conduca a un'intelligenza artificiale generale.

L'intelligenza artificiale è stata un argomento di conversazione popolare negli ultimi due anni, ma il campo dell'IA come area di ricerca scientifica esiste da decenni. Ad esempio, il famoso articolo di Alan Turing "Computing Machinery and Intelligence" e il test di Turing di cui parliamo ancora oggi furono pubblicati nel 1950.

L'intelligenza artificiale di cui tutti parlano oggi è nata da questi decenni di ricerca, ma se ne sta anche allontanando. Invece di essere una ricerca scientifica, ora abbiamo anche una branca distinta dell'intelligenza artificiale che possiamo chiamare "intelligenza artificiale commerciale".

Grandi monopoli come Microsoft, Google, Meta, Apple e Amazon stanno guidando gli sforzi commerciali in materia di intelligenza artificiale, con l'obiettivo primario di creare prodotti di intelligenza artificiale. Questo non dovrebbe rappresentare un problema, ma al momento sembra che potrebbe esserlo.

Innanzitutto, poiché la maggior parte delle persone segue la ricerca sull'IA solo da due anni, tutto ciò che la persona media sa sull'IA proviene da queste aziende, non dalla comunità scientifica. Lo studio affronta questo problema nel capitolo "Percezione dell'IA vs. realtà", dove il 79% degli scienziati partecipanti ritiene che le attuali percezioni delle capacità dell'IA non siano in linea con la realtà della ricerca e dello sviluppo in questo campo.

In altre parole, ciò che il grande pubblico pensa che l'intelligenza artificiale possa fare non corrisponde a ciò che gli scienziati pensano che l'intelligenza artificiale possa fare. Il motivo è tanto semplice quanto deplorevole: quando un dirigente di un'azienda tecnologica rilascia un'affermazione sull'intelligenza artificiale, non si tratta di un parere scientifico, ma di marketing di prodotto. Vogliono promuovere la tecnologia che alimenta i loro nuovi prodotti e assicurarsi che tutti sentano il bisogno di unirsi a loro.

Quando Sam Altman o Mark Zuckerberg affermano che i lavori di ingegneria del software saranno sostituiti dall'intelligenza artificiale, ad esempio, lo fanno perché vogliono influenzare gli ingegneri ad apprendere competenze in IA e persuadere le aziende tecnologiche a investire in costosi piani aziendali. Tuttavia, a meno che non inizino a sostituire i loro ingegneri (e a trarne profitto), personalmente non crederò a una sola parola di ciò che dicono sull'argomento.

Tuttavia, non è solo la percezione del pubblico ad essere influenzata dall'intelligenza artificiale commerciale. I partecipanti allo studio ritengono che la “mania dell’intelligenza artificiale” creata dalle grandi aziende tecnologiche stia danneggiando gli sforzi della ricerca. Ad esempio, il 74% concorda sul fatto che la direzione della ricerca sull'intelligenza artificiale sia guidata dall'entusiasmo generale, probabilmente perché la ricerca in linea con gli obiettivi commerciali dell'intelligenza artificiale è più facile da finanziare. Il 12% ritiene inoltre che la ricerca teorica sull'intelligenza artificiale ne stia risentendo.

Quanto è grave questo problema? Anche se le grandi aziende tecnologiche influenzano il tipo di ricerca che svolgiamo, le somme presumibilmente enormi che investono in questo campo dovrebbero avere un impatto complessivamente positivo. Tuttavia, quando si tratta di ricerca, la varietà è fondamentale: dobbiamo seguire tutti i tipi di percorsi diversi per avere la possibilità di trovare quello migliore.

Ma le grandi aziende tecnologiche al momento si concentrano su un solo aspetto: i modelli linguistici di grandi dimensioni. Questo tipo molto specifico di modello di intelligenza artificiale è alla base di quasi tutti i più recenti prodotti di intelligenza artificiale, e persone come Sam Altman credono che rendendo questi modelli sempre più scalabili (ovvero dotandoli di più dati, più tempo di addestramento e maggiore potenza di calcolo) alla fine raggiungeremo l'intelligenza artificiale generalizzata.

Questa idea, nota come ipotesi di scala, sostiene che maggiore è la potenza che forniamo all'intelligenza artificiale, maggiori saranno le sue capacità cognitive e minori saranno i suoi tassi di errore. Alcune interpretazioni sostengono anche che le nuove capacità cognitive emergeranno in modo inaspettato. Quindi, anche se al momento i modelli linguistici di grandi dimensioni non sono molto efficaci nella pianificazione e nel ragionamento sui problemi, prima o poi queste capacità dovranno emergere.

non c'è nessun muro

— Sam Altman (@sama) 14 novembre 2024

Tuttavia, negli ultimi mesi, l'ipotesi di scalabilità ha suscitato notevoli critiche. Alcuni scienziati ritengono che l'applicazione di modelli linguistici di grandi dimensioni non porterà mai all'intelligenza artificiale generale, sostenendo che tutta la potenza aggiuntiva che forniamo ai nuovi modelli non produce più risultati. Al contrario, abbiamo raggiunto un "muro di scalabilità" o un "limite di scalabilità" in cui grandi quantità di potenza di calcolo e dati aggiuntivi si traducono solo in miglioramenti minimi per i nuovi modelli. La maggior parte degli scienziati coinvolti nello studio AAAI si schiera da questa parte:

La maggior parte degli intervistati (76%) ha dichiarato che è “improbabile” o “molto improbabile” che “ampliare gli attuali approcci di intelligenza artificiale” per raggiungere l’intelligenza generale abbia successo, il che indica dubbi sul fatto che gli attuali modelli di apprendimento automatico siano sufficienti per raggiungere un’intelligenza generale.

Gli attuali sistemi linguistici complessi sono in grado di produrre risposte estremamente pertinenti e utili quando le cose vanno bene, ma per farlo si basano su principi matematici . Molti scienziati ritengono che, per progredire verso l'obiettivo dell'intelligenza artificiale generale, avremo bisogno di nuovi algoritmi che utilizzino logica, ragionamento e conoscenza fattuale per giungere a una soluzione. Ecco una citazione molto critica sui sistemi linguistici complessi e sull'intelligenza artificiale generale, tratta da un articolo del 2022 di Jacob Browning e Jan LeCun.

Un sistema addestrato solo sul linguaggio non si avvicinerà mai all'intelligenza umana, anche se fosse addestrato da ora fino a quando il calore dell'universo non si esaurirà.

Tuttavia, non c'è modo di sapere con certezza chi si trova qui, almeno non ancora. Da un lato, la definizione di intelligenza artificiale generale non è fissa e non tutti aspirano allo stesso obiettivo. Alcune persone credono che l'intelligenza artificiale in generale dovrebbe produrre risposte simili a quelle umane attraverso metodi simili a quelli umani, quindi dovrebbe osservare il mondo che la circonda e risolvere i problemi in modo simile a noi. Mentre altri ritengono che l'intelligenza artificiale in generale dovrebbe concentrarsi maggiormente sulle risposte corrette piuttosto che su quelle umane, e che i metodi utilizzati non dovrebbero avere importanza.

Tuttavia, per molti versi, non importa quale versione di IA generale vi interessi o se siate a favore o contro l'ipotesi di scalabilità: dobbiamo comunque diversificare i nostri sforzi di ricerca. Se ci concentriamo esclusivamente sulla scalabilità di modelli linguistici di grandi dimensioni, dovremo ricominciare da capo se questi non funzionano e potremmo non riuscire a scoprire metodi nuovi, più efficaci o efficienti. Molti degli scienziati coinvolti in questo studio temono che l'IA commerciale e l'entusiasmo che la circonda rallentino i progressi reali, ma tutto ciò che possiamo fare è sperare che le loro preoccupazioni vengano prese in considerazione e che entrambi i rami della ricerca sull'IA possano coesistere e progredire insieme. Naturalmente, si potrebbe anche sperare che la bolla dell'IA scoppi e che tutti i prodotti tecnologici basati sull'IA cadano nell'oblio, se si preferisce.