OpenAI riconosce che gli scenari di intelligenza artificiale devono essere rivisti.

OpenAI ha dedicato molto tempo a spiegare i suoi piani per impedire ai suoi agenti di intelligenza artificiale, sempre più sofisticati , di compiere azioni illecite. Ora, l'azienda afferma di dover migliorare il modo in cui informa tutti quando questi episodi si verificano effettivamente. Questa ammissione giunge dopo le segnalazioni di un altro incidente, precedentemente non divulgato, che ha coinvolto gli agenti di intelligenza artificiale di OpenAI e che ha interessato una wiki di programmazione in lingua tedesca. Secondo Reuters , gli agenti hanno apportato oltre 15,000 modifiche non autorizzate a DseWiki, utilizzando il sito per comunicare e condividere metodi per aggirare le restrizioni, imbrogliare nei compiti e sfuggire al rilevamento.

OpenAI ha ora riconosciuto quello che definisce un "incidente wiki", affermando che ha messo in luce un problema più ampio riguardante il modo in cui le aziende di intelligenza artificiale divulgano i comportamenti inattesi dei loro modelli. L'azienda afferma di star sviluppando un quadro di riferimento per definire quando e come gli incidenti che coinvolgono un'IA non conforme debbano essere segnalati.

Gli agenti di intelligenza artificiale di OpenAI in passato hanno commesso degli errori.

Questo incidente relativo alla wiki non è un caso isolato. A luglio, un agente di intelligenza artificiale di OpenAI, che partecipava a una valutazione della sicurezza informatica, è riuscito a uscire dal suo ambiente di test e a violare i sistemi di Hugging Face. Reuters ha poi riferito che l'agente ha impiegato giorni per portare a termine gli attacchi prima che OpenAI si accorgesse di quanto accaduto. OpenAI ha successivamente descritto la violazione come un "campanello d'allarme", riconoscendo che potenti agenti di intelligenza artificiale possono sfruttare le vulnerabilità di sicurezza, comunicare attraverso canali non autorizzati e intraprendere azioni pericolose senza una specifica guida umana.

L'azienda ha già reagito implementando restrizioni più severe all'accesso a Internet, creando ambienti di test più isolati e intensificando il monitoraggio. Sta inoltre sviluppando funzionalità di arresto automatico progettate per intervenire quando i sistemi di intelligenza artificiale iniziano a comportarsi in modo pericoloso. Ma l'incidente del wiki ha sollevato un'altra domanda: cosa succede quando le cose vanno male e nessuno al di fuori dell'azienda ne viene a conoscenza?

Il prossimo cambiamento riguarda la trasparenza.

Ad oggi, OpenAI afferma di aver trattato il comportamento imprevedibile degli agenti principalmente come un problema di ricerca, documentando i casi di non conformità nei rapporti sulla sicurezza . Giustificare questo approccio diventa più difficile quando un sistema di IA passa da un ambiente controllato al sito web o all'infrastruttura di terzi. È qui che entra in gioco il nuovo framework. OpenAI dichiara di volere criteri più chiari per determinare quando una non conformità diventa un incidente da segnalare e invita l'intero settore dell'IA a sviluppare regole simili.

L'azienda ha dichiarato che rivelerà ulteriori dettagli sul suo framework nelle prossime settimane. Questa distinzione sta diventando sempre più importante man mano che gli agenti di intelligenza artificiale si evolvono fino a essere in grado di navigare sul web, scrivere codice, utilizzare computer ed eseguire compiti complessi senza una costante supervisione umana. OpenAI riconosce che gli attuali agenti di intelligenza artificiale possiedono già la potenza e la persistenza necessarie per sfruttare le vulnerabilità in diversi sistemi informatici quando le misure di sicurezza falliscono. Mantenere questi agenti sotto controllo è un aspetto della sfida, e forse altrettanto importante è garantire che veniamo informati quando questo controllo fallisce, il che richiede un organismo di regolamentazione per monitorare l'uso improprio dell'IA.