Studio: il rumore dell'intelligenza artificiale ostacola la vera ricerca sull'intelligenza artificiale

Un nuovo studio pubblicato questo mese dall'Association for the Advancement of Artificial Intelligence (AAAI), a cui hanno partecipato centinaia di ricercatori nel campo dell'intelligenza artificiale, ha portato a una conclusione fondamentale: è improbabile che il nostro attuale approccio all'intelligenza artificiale ci conduca a un'intelligenza artificiale generale.

L'intelligenza artificiale è stata un argomento di conversazione popolare negli ultimi due anni, ma il campo dell'IA come area di ricerca scientifica esiste da decenni. Ad esempio, il famoso articolo di Alan Turing "Computing Machinery and Intelligence" e il test di Turing di cui parliamo ancora oggi furono pubblicati nel 1950.

L'intelligenza artificiale di cui tutti parlano oggi è nata da questi decenni di ricerca, ma se ne sta anche allontanando. Invece di essere una ricerca scientifica, ora abbiamo anche una branca distinta dell'intelligenza artificiale che possiamo chiamare "intelligenza artificiale commerciale".

Grandi monopoli come Microsoft, Google, Meta, Apple e Amazon stanno guidando gli sforzi commerciali in materia di intelligenza artificiale, con l'obiettivo primario di creare prodotti di intelligenza artificiale. Questo non dovrebbe rappresentare un problema, ma al momento sembra che potrebbe esserlo.

In primo luogo, poiché la maggior parte delle persone segue la ricerca sull'intelligenza artificiale solo da un paio d'anni, tutto ciò che la persona media sa sull'intelligenza artificiale proviene da queste aziende, non dalla comunità scientifica. Lo studio copre Questo argomento viene affrontato nel capitolo "Percezione vs. Realtà", in cui il 79% degli scienziati partecipanti ritiene che l'attuale percezione delle capacità dell'IA non corrisponda alla realtà della ricerca e dello sviluppo dell'IA.

In altre parole, ciò che il grande pubblico pensa che l'intelligenza artificiale possa fare non corrisponde a ciò che gli scienziati pensano che l'intelligenza artificiale possa fare. Il motivo è tanto semplice quanto deplorevole: quando un dirigente di un'azienda tecnologica rilascia un'affermazione sull'intelligenza artificiale, non si tratta di un parere scientifico, ma di marketing di prodotto. Vogliono promuovere la tecnologia che alimenta i loro nuovi prodotti e assicurarsi che tutti sentano il bisogno di unirsi a loro.

Quando dice Sam Altmann O Mark Zuckerberg I lavori di ingegneria del software saranno sostituiti dall'intelligenza artificiale, ad esempio, perché si vuole spingere gli ingegneri ad apprendere competenze di intelligenza artificiale e le aziende tecnologiche a investire in costosi piani aziendali. Tuttavia, a meno che non inizino a sostituire i loro ingegneri (e a trarne vantaggio), personalmente non crederei a una parola di ciò che dicono sull'argomento.

Tuttavia, non è solo la percezione del pubblico ad essere influenzata dall'intelligenza artificiale commerciale. I partecipanti allo studio ritengono che la “mania dell’intelligenza artificiale” creata dalle grandi aziende tecnologiche stia danneggiando gli sforzi della ricerca. Ad esempio, il 74% concorda sul fatto che la direzione della ricerca sull'intelligenza artificiale sia guidata dall'entusiasmo generale, probabilmente perché la ricerca in linea con gli obiettivi commerciali dell'intelligenza artificiale è più facile da finanziare. Il 12% ritiene inoltre che la ricerca teorica sull'intelligenza artificiale ne stia risentendo.

Quanto è grave questo problema? Anche se le grandi aziende tecnologiche influenzano il tipo di ricerca che svolgiamo, le somme presumibilmente enormi che investono in questo campo dovrebbero avere un impatto complessivamente positivo. Tuttavia, quando si tratta di ricerca, la varietà è fondamentale: dobbiamo seguire tutti i tipi di percorsi diversi per avere la possibilità di trovare quello migliore.

Ma le grandi aziende tecnologiche al momento si concentrano su un solo aspetto: i modelli linguistici di grandi dimensioni. Questo tipo molto specifico di modello di intelligenza artificiale è alla base di quasi tutti i più recenti prodotti di intelligenza artificiale, e persone come Sam Altman credono che rendendo questi modelli sempre più scalabili (ovvero dotandoli di più dati, più tempo di addestramento e maggiore potenza di calcolo) alla fine raggiungeremo l'intelligenza artificiale generalizzata.

Questa idea, nota come ipotesi di scala, sostiene che maggiore è la potenza che forniamo all'intelligenza artificiale, maggiori saranno le sue capacità cognitive e minori saranno i suoi tassi di errore. Alcune interpretazioni sostengono anche che le nuove capacità cognitive emergeranno in modo inaspettato. Quindi, anche se al momento i modelli linguistici di grandi dimensioni non sono molto efficaci nella pianificazione e nel ragionamento sui problemi, prima o poi queste capacità dovranno emergere.

non c'è nessun muro

- Sam Altman (@sama) 14 Novembre 2024

Tuttavia, negli ultimi mesi, l'ipotesi di espansione è stata oggetto di aspre critiche. Alcuni scienziati ritengono che l’ampliamento dei modelli linguistici non porterà mai all’AGI e ritengono che tutto il potere aggiuntivo che diamo a Nuovi modelli Non produce più risultati. Invece, abbiamo raggiunto un "muro di scalabilità" o un "limite di scalabilità" in cui grandi quantità di potenza di calcolo e dati aggiuntivi portano solo a piccoli miglioramenti nei nuovi modelli. La maggior parte degli scienziati coinvolti nello studio AAAI si schierano su questo punto:

La maggior parte degli intervistati (76%) ha dichiarato che è “improbabile” o “molto improbabile” che “ampliare gli attuali approcci di intelligenza artificiale” per raggiungere l’intelligenza generale abbia successo, il che indica dubbi sul fatto che gli attuali modelli di apprendimento automatico siano sufficienti per raggiungere un’intelligenza generale.

Gli attuali sistemi linguistici di grandi dimensioni possono produrre risposte molto pertinenti e utili quando le cose vanno bene, ma Basato su principi matematici Per farlo. Molti scienziati ritengono che avremo bisogno di nuovi algoritmi che utilizzino la logica, la ragione e la conoscenza fattuale per arrivare a una soluzione se vogliamo progredire verso l'obiettivo dell'intelligenza artificiale generale. Ecco una citazione pungente sui grandi sistemi linguistici e sull'intelligenza artificiale generale da Documento di ricerca del 2022 Di Jacob Browning e Yann LeCun.

Un sistema addestrato solo sul linguaggio non si avvicinerà mai all'intelligenza umana, anche se fosse addestrato da ora fino a quando il calore dell'universo non si esaurirà.

Tuttavia, non c'è modo di sapere con certezza chi si trova qui, almeno non ancora. Da un lato, la definizione di intelligenza artificiale generale non è fissa e non tutti aspirano allo stesso obiettivo. Alcune persone credono che l'intelligenza artificiale in generale dovrebbe produrre risposte simili a quelle umane attraverso metodi simili a quelli umani, quindi dovrebbe osservare il mondo che la circonda e risolvere i problemi in modo simile a noi. Mentre altri ritengono che l'intelligenza artificiale in generale dovrebbe concentrarsi maggiormente sulle risposte corrette piuttosto che su quelle umane, e che i metodi utilizzati non dovrebbero avere importanza.

Tuttavia, per molti versi, non importa a quale versione dell'AGI si è interessati o se si è a favore o contro l'ipotesi di ampliamento: dobbiamo comunque diversificare i nostri sforzi di ricerca. Se ci concentriamo solo sul ridimensionamento di modelli linguistici di grandi dimensioni, se questi non funzionano saremo costretti a ricominciare da zero e potremmo non riuscire a scoprire metodi nuovi, più efficaci o efficienti. Molti degli scienziati coinvolti in questo studio temono che l'intelligenza artificiale commerciale e il clamore che la circonda possano rallentare il vero progresso, ma tutto ciò che possiamo fare è sperare che le loro preoccupazioni vengano affrontate e che entrambi i rami della ricerca sull'intelligenza artificiale possano coesistere e progredire insieme. Bene, puoi anche sperare che bolla di intelligenza artificiale Se preferisci, tutti i prodotti tecnologici basati sull'intelligenza artificiale esplodono e scompaiono nell'oblio.