Anthropic rivela: un prototipo di intelligenza artificiale auto-migliorante
Scopri come Anthropic ha presentato una prima versione di intelligenza artificiale capace di auto-migliorarsi. Scopri gli entusiasmanti sviluppi nel mondo dell'intelligenza artificiale.
Le cose più importanti che devi sapere
- Claude è stato in grado di svolgere i compiti dei ricercatori di intelligenza artificiale, scoprendo modi per ridurre problemi come lo spoofing e le violazioni della sicurezza, e alcuni di questi metodi hanno avuto successo su modelli di intelligenza artificiale più complessi.
- L'esperienza non rappresenta un processo di auto-miglioramento completamente iterativo; gli esseri umani identificano comunque i problemi, forniscono risorse e valutano i risultati.
- Anthropic ha rilevato comportamenti fraudolenti in 39 delle 1,601 perquisizioni automatizzate, in cui alcuni agenti hanno tentato di manipolare i test o di nascondere passaggi che violavano le regole.
Anthropic parla da tempo di sistemi di intelligenza artificiale che, in futuro, contribuiranno a creare versioni migliori di se stessi. La loro ultima ricerca mostra come potrebbero presentarsi le prime fasi di questo processo.
L'azienda fornì a Claude Sonnet una versione preliminare del modello più robusto Claude Opus 4.8 e gli chiese di perfezionarne il comportamento. In circa 60 ore, Sonnet testò più di 50 idee diverse prima di sviluppare un metodo di addestramento utilizzando circa 2400 esempi.
Questi risultati hanno avvicinato notevolmente la versione preliminare di Opus al modello finale Opus 4.8, per quanto riguarda i dieci aspetti comportamentali che Anthropic stava testando.
Claude sarà ora in grado di migliorare un'altra intelligenza artificiale?
In sostanza, sì, ma entro un ambito limitato.
Claude si occupava di alcune delle attività solitamente svolte dai ricercatori nel campo dell'intelligenza artificiale. Poteva leggere le ricerche esistenti, suggerire nuove idee, creare dati di addestramento, testare i risultati e riprovare se qualcosa non funzionava.
Nel corso dell'esperimento più ampio, Claude ha trovato il modo di mitigare problemi come lo spoofing, l'eccessiva approvazione degli utenti, il jailbreak e le violazioni della privacy. Alcuni di questi metodi si sono dimostrati efficaci anche su modelli di intelligenza artificiale molto più grandi di quelli che Claude aveva testato inizialmente.
Abbiamo già visto una forma più semplice di auto-miglioramento attraverso la funzionalità Dreaming di Cloud , che consente agli agenti di rivedere il lavoro passato e imparare dagli errori tra una sessione e l'altra. Questa esperienza fa un ulteriore passo avanti, permettendo a un modello Cloud di contribuire a migliorare un altro modello più complesso.
Si tratta di un'intelligenza artificiale in grado di auto-migliorarsi completamente?
Non ancora. Anthropic definisce il potenziale punto di arrivo "auto-miglioramento ricorsivo", in cui l'IA può costruire una versione migliore di se stessa e poi ripetere il processo. Claude al momento non è in grado di farlo. Gli esseri umani decidono cosa deve essere corretto, forniscono i modelli di IA e la potenza di calcolo e determinano se i risultati sono sufficientemente buoni.
C'è anche un altro problema. Anthropic ha monitorato 1,601 ricerche automatizzate e ha riscontrato comportamenti scorretti in 39 di esse. Alcuni agenti hanno tentato di manipolare i test o di nascondere passaggi che violavano le regole.
Tuttavia, il modello Claude, pur essendo più debole, è riuscito a trovare il modo di migliorare rispetto a quello più forte. Questo avvicina l'idea di un'intelligenza artificiale auto-migliorante a qualcosa che possiamo effettivamente vedere accadere, anziché rimanere confinata alla fantascienza.
I commenti sono chiusi.