Anthropic: Ai ricercatori è stato vietato di utilizzare Claude per potenziali ricerche sulle armi biologiche.

Le principali aziende che si occupano di intelligenza artificiale avvertono da tempo che i loro modelli potrebbero facilitare lo sviluppo di armi biologiche. In questo contesto, Anthropic ha rivelato di aver già dovuto sospendere i servizi a un gruppo di ricercatori dopo che le loro azioni avevano sollevato serie preoccupazioni. Alcune fonti indicano che nuovi organismi di regolamentazione stanno monitorando l'uso improprio dell'IA , sottolineando l'importanza di questi avvertimenti.

Secondo un rapporto pubblicato dal New York Times , Anthropic ha bannato diversi utenti quest'anno dopo aver rilevato attività che apparivano altamente sospette e indicative di ricerca sulle armi biologiche.

Per chiarire: Anthropic non ha conferme definitive sul fatto che questi ricercatori stessero tentando di sviluppare agenti patogeni letali.

La biologia avanzata è intrinsecamente "a duplice uso"; la ricerca che potrebbe portare a un vaccino salvavita potrebbe anche essere utilizzata per scopi pericolosi. Ma Anthropic ha rilevato questo comportamento sospetto. Secondo quanto riferito, i ricercatori hanno aggirato le restrizioni geografiche per accedere al cloud e hanno adottato misure per nascondere lo scopo del loro lavoro. Questo schema è stato sufficiente per Anthropic per decidere di interrompere il servizio.

Come hanno fatto a eludere le misure di sicurezza di Claude?

I ricercatori non hanno letteralmente "hackerato" Claude. Piuttosto, secondo Anthropic, hanno trovato il modo di nascondere sia il loro punto di accesso al modello sia ciò che intendevano ottenere in definitiva.

In un caso, un ricercatore avrebbe avuto accesso al Cloud da una regione non supportata tramite un'infrastruttura virtuale con sede negli Stati Uniti, utilizzando un account generato automaticamente. Anthropic ha inoltre scoperto che le richieste al Cloud venivano instradate attraverso una piattaforma utilizzata da numerosi ricercatori nel campo delle scienze biologiche, tra cui virologi affiliati a istituzioni civili e militari.

I ricercatori hanno anche cercato di celare lo scopo del loro lavoro per evitare di attivare le misure di protezione del cloud . Questo è particolarmente difficile da rilevare in biologia, perché una singola richiesta può apparire perfettamente legittima anche quando contribuisce a un progetto più ampio e potenzialmente pericoloso.

Un caso, a quanto pare, ha coinvolto uno scienziato che aveva chiesto l'aiuto di Claude per redigere una proposta di finanziamento per una ricerca volta a modificare geneticamente il virus chikungunya al fine di studiarne caratteristiche come la trasmissibilità e l'elusione del sistema immunitario. Questo caso illustra come Claude possa essere utilizzato per compiti complessi come la stesura di proposte di ricerca . Questo tipo di ricerca può avere scopi scientifici legittimi, ed è proprio per questo che Anthropic ha dichiarato di non essere in grado di stabilire se le intenzioni dei ricercatori fossero benevole o malevole.

Tuttavia, Anthropic ha ritenuto che la combinazione di ricerche sensibili e tentativi di occultare le attività fosse sufficiente per chiudere i conti.

Perché la biologia rappresenta la prova definitiva per l'intelligenza artificiale?

L'intelligenza artificiale non può mescolare sostanze chimiche in una piastra di Petri o creare armi biologiche utilizzando attrezzature di laboratorio fisiche. Ma può essere un potente acceleratore.

Per chi ha già esperienza di lavoro in laboratorio, un modello di intelligenza artificiale competente può semplificare ricerche complesse, analizzare dati, esplorare e risolvere problemi e colmare lacune tecniche specialistiche. Può fornire agli esseri umani tutto il necessario per rendere più semplici e veloci i compiti più impegnativi.

Questo colloca le aziende che si occupano di intelligenza artificiale in una vasta zona grigia. Un giurista e qualcuno che sviluppa un'arma biologica potrebbero sollevare molti degli stessi interrogativi. L'abuso non si manifesta necessariamente sotto forma di un'unica, chiara accusa. Chiunque può scomporre un grande progetto in decine di compiti apparentemente innocui, rendendo molto difficile per i sistemi di sicurezza cogliere il quadro generale, soprattutto alla luce delle crescenti preoccupazioni sull'uso improprio dell'IA.

Poi c'è il problema dei falsi positivi. Se queste misure di sicurezza sono troppo rigide, si rischia di soffocare la ricerca scientifica legittima. Se sono troppo permissive, attività potenzialmente pericolose potrebbero sfuggire ai controlli.

Tutto dipende dalle intenzioni umane.

È importante chiarire cosa non è successo, soprattutto dopo le dimissioni di Jacob Coxon da Anthropic di ieri , in un momento in cui le preoccupazioni sull'IA hanno raggiunto livelli altissimi. Ci preoccupiamo che i modelli possano impazzire o che gli agenti autonomi agiscano di propria iniziativa, ma Claude non è impazzito e nessun agente di IA autonomo ha iniziato a pianificare un'arma biologica per conto proprio. Il controllo era nelle mani degli esseri umani.

Questo rende il pericolo molto più immediato. La preoccupazione non è che un'intelligenza artificiale superintelligente decida improvvisamente di nuocere all'umanità. Piuttosto, è che modelli potenti stiano conferendo alle persone capacità che altrimenti non avrebbero.

Per gli utenti comuni che chiedono al Cloud di redigere email, riassumere documenti o scrivere codice, non cambia nulla. Ma per il settore, le regole del gioco sono cambiate, spingendo molti a rivalutare il proprio utilizzo del Cloud.

Quindi, cosa possono fare concretamente le aziende che si occupano di intelligenza artificiale?

Non esiste una soluzione perfetta a questo dilemma. Bloccare le domande ovvie funziona solo quando l'utente ha ben chiaro cosa sta cercando di fare. Se un utente scompone un progetto potenzialmente pericoloso in decine di richieste apparentemente innocue, le aziende che si occupano di intelligenza artificiale necessitano di sistemi di sicurezza in grado di riconoscere il quadro generale anziché valutare ogni richiesta singolarmente.

Questo potrebbe significare cercare tentativi ripetuti di aggirare i limiti di sicurezza del modello, monitorare schemi sospetti nelle interazioni e imporre controlli più rigorosi sulle funzionalità scientifiche più potenti. Le aziende potrebbero anche testare i nuovi modelli prima del lancio per determinarne la capacità di assistere un individuo meno esperto nello svolgimento di lavori biologici potenzialmente pericolosi.

Ma ogni ulteriore misura di sicurezza comporta un compromesso. Gli stessi sistemi che cercano di individuare chi sta sviluppando un'arma biologica potrebbero segnalare un ricercatore che lavora a un progetto. Ecco perché la rivelazione di Anthropic è così importante. Il prossimo passo per la sicurezza dell'IA è determinare quando un modello di comportamento che altrimenti sembra legittimo diventa sufficientemente pericoloso da giustificare l'intervento di un'azienda.