I “vermi” dell’AI che strisciano nelle tecnologie più economiche che abbiamo

Per anni l’autoreplicazione è stata la linea rossa preferita dei documenti sulla sicurezza dell’intelligenza artificiale, il punto oltre il quale una macchina smette di essere uno strumento e comincia a somigliare a un virus, dal punto di vista del funzionamento almeno. Lo studio pubblicato in questi giorni dal Frontier Red Team di Anthropic è allora uno spostamento decisivo di quella linea rossa, che passa dall’essere questione da data center a problema che rischiamo di trovarci letteralmente in casa. In sintesi: i modelli di AI piccoli, sotto i trenta miliardi di parametri, potrebbero essere a pochi mesi dalla capacità di copiarsi da soli su dispositivi connessi a basso costo, si legge nello studio. Cosa sono questi dispositivi a basso costo? Quasi qualsiasi cosa: dai forni o frigoriferi intelligenti a decoder Android senza marca, senza alcuna infrastruttura centrale da spegnere.

Gli esperimenti sono concreti e volutamente modesti. I ricercatori hanno comprato quindici scatolette Android da circa 55 dollari, le hanno messe in rete e ci hanno fatto girare un modello, Gemma4 da 26 miliardi di parametri, separato in pezzetti. Uno dei modelli più piccoli è riuscito a configurarsi su otto dei nove tipi di hardware provati. In una rete simulata, GLM 5.2 e i modelli più forti hanno completato l’intero ciclo, dall’ingresso nel dispositivo fino al salto verso il successivo. Il worm, come si dice in gergo tecnico, esiste quindi in laboratorio, ed è lentissimo: tra 28 e 150 ore per ogni nuova installazione, con una popolazione che raddoppia nell’arco di giorni. Il verme, insomma, somiglia oggi più a un lombrico. E, per quanto il pericolo sia oggi ancora teorico, i ricercatori temono soprattutto il tema della persistenza, perché manca un interruttore centrale per spegnere le infrastrutture.

Alcune testate d’Oltreoceano hanno accusato Anthropic di evocare una minaccia che ancora non esiste, e l’obiezione merita rispetto. L’azienda stessa ammette che nessun worm del genere circola oggi e che i test sono stati semplificati in punti decisivi: sappiamo d’altronde da tempo che chi vende intelligenza artificiale e insieme ne misura i pericoli vive un conflitto evidente. La parte più interessante dello studio, però, riguarda le caratteristiche sociali della clientela che dovrebbe ospitare il worm.

Il candidato ospite ideale ha infatti peculiarità che in Italia conosciamo bene. Le scatolette Android anonime, mai aggiornate, comprate sui marketplace per pochi euro, sono cugine strette del pezzotto, il decoder per vedere le partite senza abbonamento. Molte case hanno già accettato un dispositivo opaco in cambio di un risparmio. Ecco, domani quello stesso oggetto potrebbe non solo “uccidere il calcio” o il cinema, ma essere la porta d’ingresso per un’intelligenza aliena che nessuno ha invitato. D’altronde, già ben prima dell’intelligenza artificiale avevamo degli hacker che sfruttavano dispositivi domestici per minare bitcoin. Solo che qui il rischio si distribuisce soprattutto secondo il reddito, perché gli apparecchi più economici sono anche i meno curati, e la periferia domestica più povera rischia di diventare l’infrastruttura involontaria della prossima rete infetta.

Anthropic, del resto, ragiona da epidemiologo. L’obiettivo difensivo indicato dagli autori è portare sotto uno il tasso di contagio, per fermarne la diffusione nel tempo, tramite il monitoraggio del traffico da parte dei fornitori di rete e la quarantena dei clienti infetti. Dopo il 2020 questo lessico ci è familiare, insieme alle sue tensioni. Chi tiene in casa un dispositivo vulnerabile scarica il rischio sugli altri, al pari di chi rifiuta un vaccino, e l’igiene digitale assume i tratti di un dovere civico, con le resistenze che il passaggio comporta. Il Cyber Resilience Act europeo impone dal mese scorso ai produttori di segnalare le vulnerabilità sfruttate e dal dicembre 2027 renderà obbligatori requisiti di sicurezza per i prodotti con componenti digitali. Le scatolette da 55 dollari, però, arrivano spesso da venditori che nessuna autorità europea riesce a raggiungere.

L’ultimo dato è il più inquietante sul piano antropologico. Quando ogni copia lasciava appunti alla successiva, le installazioni riuscite di Qwen3.5 salivano dal 45 per cento della prima generazione a valori tra il 61 e l’84 per cento in quelle seguenti. I vermi imparavano dai predecessori attraverso testi scritti per i posteri, reiterando lo stesso meccanismo con cui la nostra specie accumula sapere da qualche millennio. Gli autori chiudono paragonando la situazione a quella degli agenti di programmazione nel 2024, quando si vedevano i primi segni di vita di qualcosa che poi è cresciuto in fretta. Ad ogni modo, il verme, se arriverà, sarà lento. Il frigorifero di casa intanto potrebbe diventare un pezzo di infrastruttura pubblica, ed è bene che i proprietari prendano presto coscienza del rischio.