I missili degli houthi, lo spionaggio russo e cinese, la propaganda. Il report sugli utilizzi di Claude

Due giorni dopo le dimissioni del ricercatore di Anthropic Jacob Coxon, che su X aveva scritto che l’azienda di intelligenza artificiale e la sua rivale, OpenAI, stanno correndo a tutta velocità verso una superintelligenza che causerà l’estinzione dell’umanità entro il 2030, l’azienda ha pubblicato per la prima volta dall’inizio dell’anno un report di 154 pagine in cui elenca tutte le attività dannose commesse negli ultimi otto mesi sul suo chatbot basato sull’AI, Claude. 

Coxton, che in passato aveva lavorato anche per OpenAI, ha ribadito nella sua lettera di dimissioni alcuni dubbi già sollevati sulla possibilità che la tecnologia sfugga al controllo umano e che i sistemi possano violare infrastrutture critiche o costruire “armi biologiche in grado di causare l’estinzione di massa”. Nel rapporto pubblicato giovedì, Anthropic, tra le varie minacce informatiche subite, scrive di aver individuato e contrastato proprio alcuni tentativi di utilizzare il suo modello di AI per “attività dannose” che potrebbero favorire lo sviluppo di armi biologiche. I casi di studio in cui gli scienziati hanno utilizzato il chatbot per ricerche biologiche sono cinque, tra questi uno scienziato lavorava a una richiesta di finanziamento statale per studiare il virus trasmesso dalle zanzare chikungunya, il più preoccupante secondo le ricerche perché sarebbe stato condotto presso un istituto di ricerca militare. “L’uso improprio di materiali biologici è uno dei rischi più gravi dei modelli di intelligenza artificiale all’avanguardia”, ha scritto l’azienda, e “senza le dovute garanzie, tali capacità potrebbero avere conseguenze catastrofiche”, nonostante nei casi specifici non fosse certa delle intenzioni. Le ricerche potrebbero essere utilizzate per creare armi biologiche come per sviluppare vaccini o cure per le malattie e Jacob Klein, responsabile dell’intelligence sulle minacce di Anthropic, ha detto al New York Times: “Non si tratta di un personaggio dei fumetti che dice: ‘Ehi, voglio costruire un’arma biologica per uccidere tutti’: è molto più complesso di così”.

La sezione sullo sviluppo di armi biologiche è solo una parte del rapporto di Anthropic, preso di mira oltre che da scienziati da attacchi hacker, da gruppi finanziati da stati, fornitori di spyware e propagandisti. “Gli attacchi sofisticati non richiedono più hacker altrettanto sofisticati”, avverte l’azienda, e infatti tra gli attori spesso presenti nei report sulle minacce straniere ne figurano di nuovi, come gli houthi, il gruppo yemenita finanziato e sostenuto dalla Repubblica islamica dell’Iran. Anthropic nel suo elenco non cita mai gli houthi, ma scrive di aver “identificato una cellula di attori ostili con base nello Yemen settentrionale” – controllata in gran parte dal gruppo ribelle – “che gestisce tre programmi di sviluppo di armi”. La milizia filoiraniana avrebbe utilizzato Claude “al posto di ingegneri informatici umani per sviluppare il software di guida, navigazione e controllo che manovra e stabilizza un veicolo volante” per la produzione di razzi guidati, missili balistici e ipersonici. L’azienda scrive di aver bloccato molte delle richieste fatte dal gruppo, ma non tutte, perché sono state utilizzate diverse tattiche per eludere le misure. “Non abbiamo prove che gli attori siano riusciti a mettere in funzione un dispositivo operativo; tuttavia, hanno effettuato un test di lancio di un razzo guidato sul campo, che sembra essere fallito: nel giro di poche ore, gli attori sono tornati a Claude per capire il motivo del fallimento”.

Il caso yemenita fa parte di un tipo di minaccia che per l’azienda di intelligenza artificiale è nuova, cioè il tentativo di utilizzare Claude per sviluppare software per la progettazione e lo sviluppo di armi convenzionali, tra cui armi da fuoco, missili, droni armati, bombe e altre munizioni: oltre alla milizia ribelle, il report descrive in dettaglio tre casi di questo tipo dalla Cina e due dalla Russia. Poi operazioni informatiche di spionaggio (la maggior parte sempre da parte del Cremlino) per costruire sciami di droni assassini autonomi sfruttando i dati provenienti dai campi di battaglia ucraini, campagne di propaganda filorussa in Repubblica Centrafricana, Repubblica democratica del Congo, poi Malesia, Iran e Bangladesh. Un programma del governo cinese utilizzava Claude per tracciare e sorvegliare gli uiguri in Siria e i giornalisti della diaspora uigura, cardinali cattolici in tutta l’Asia, i vertici della Chiesa presbiteriana di Taiwan, membri della società civile buddista tibetana, l’amministrazione in esilio e i dissidenti interni. Anthropic definisce questi attori “gruppi sospettati di essere finanziati da stati, criminali a scopo di lucro, fornitori di spyware commerciali, istituzioni di propaganda statale e individui con motivazioni politiche. Pubblichiamo questo lavoro perché crediamo di avere la responsabilità di divulgare gli usi impropri e dannosi dei nostri servizi. Man mano che i modelli diventano più sofisticati, i rischi aumenteranno, a meno che gli sviluppatori di AI e chi si batte per la sicurezza della società non intervengano per renderli più sicuri”.