Catastrofismi e poche proposte concrete: il momento Greta dell’AI

Non ci sono prodigi incandescenti a solcare il cielo, ad eccezione forse di qualche drone luminoso, ma il clima da millenarismo medievale si respira tutto. Un millenarismo altamente tecnologico e che sembra promettere l’estinzione del genere umano, causata da un’intelligenza artificiale potentissima e fuori controllo. La Cnn, intervistando un ex ricercatore di AI in apparenza pentito, titola “I bambini potrebbero non arrivare al liceo”. Tutto in onda poche ore dopo la vicenda di Jacob Coxon, pure lui ricercatore di OpenAI e Anthropic, spaventato dalla piega accelerante e dalla scarsa consapevolezza dei giganti del Tech: Coxon è divenuto alfiere, dopo le dimissioni pubblicizzate sul Wall Street Journal e su X, di una corrente di pensiero e di una narrazione che ormai dilagano nel dibattito pubblico e nell’agenda politica. I catastrofisti non salgono penitenti sui monti indossando il cilicio ma rilasciano interviste, scrivono libri e ci inondano con immagini di un orizzonte nerissimo: non dicono mai esattamente come e quando, ma si limitano a dipingere con i colori carnicini di un dipinto alla John Martin la catastrofe assoluta. Eliezer Yudkowski, uno degli apocalittici più noti del settore Tech, sin dal 1996, quando aveva appena sedici anni, snocciola date e paradigmi di una singolarità tecnologica apocalittica, di volta in volta però sbugiardati, ritirati, rivisti. Più sagacemente, pensatori come Max Tegmark, autore di “Vita 3.0”, o il Nick Bostrom di “Superintelligenza” ritengono che lo sviluppo di una superintelligenza rappresenti un supremo rischio esistenziale, invitando gli sviluppatori e i ricercatori alla massima cautela. Una radicalizzazione, volendo, del principio responsabilità di Hans Jonas, ma con qualche tinta mistica e più fosca.

L’idea alla base di questa deriva apocalittica è quella del recursive self-improvement, ovvero l’intelligenza artificiale evolutasi nella sua dimensione generale e che inizia a migliorare sé stessa, fino al punto di non ritorno. Da quando il premio Nobel Geoffrey Hinton ha stimato nel 10 per cento la percentuale di rischio dell’annientamento del genere umano da parte della super-AI, i catastrofisti sono corsi ad aggiornare le loro stime e a usare, sorta di pappagalli non troppo stocastici, quella stessa percentuale. Dietro l’apparente folklore, per quanto escatologico, si giocano partite assai più concrete. Da un lato, Anthropic e OpenAI cavalcano una certa narrazione e lo fanno da tempo: “umanizzando” i loro modelli, come nel caso dell’attacco alla piattaforma HuggingFace, quando sono state usate espressioni come perdita di controllo e “fuga”, oppure rilasciando report e comunicati sempre più inquietanti, come l’ultimo in ordine di tempo e riguardante il presunto blocco di un attacco di bioterrorismo elaborato a mezzo Claude. Tra le pieghe di ogni apocalisse sovente si celano interessi assai prosaici: Anthropic è in procinto di quotarsi in Borsa e nonostante l’aura catastrofista non sembra che la società di Amodei sia intenzionata a recedere da quel proposito. Ed ecco infatti che il patron di Anthropic pubblica in tempo reale il saggio “We Must Pace the Frontier”, invitando a rallentare lo sviluppo dei modelli. Sorprendentemente concordano con lui Sam Altman e Elon Musk, passato dal ritenere quello di Coxon un complotto al dare ragione a Amodei, in tre giorni. Questa richiesta di rallentamento appare non del tutto disinteressata; sembra, più che altro, un tentativo nobilitato di impedire il ricorso a modelli open source e open-weight, sempre più diffusi.

Intanto Dean Ball, già consigliere di Trump e ora ai vertici di OpenAI, si muove per interessare il Congresso e far imporre severi paletti regolatori. Stessa strada percorsa dal democratico Bernie Sanders, la cui legge prevede fino a venti anni di carcere per i ricercatori colpevoli di aver eluso la normativa di sicurezza. Sul fronte progressista albergano interessi di altro genere. Come ricorda Politico, dietro le sirene di certa decrescita e del rallentamento tecnologico, si pensi al movimento contro i data center, ci sono organizzazioni che guardano con simpatia alla Cina. Durante la convention americana Socialism 2026, lo streamer Hasan Piker ha sostenuto apertamente che la lotta politica contro i data center rientra nell’agenda politica socialista. Il paradosso di queste posizioni apocalittiche o strumentalmente interessate è che esse inquinano il dibattito e opacizzano le reali problematiche poste dall’AI. Ma si tratta di un paradosso relativo, se si considera, come ricorda Pedro Domingos, che Skynet, la superintelligenza che in “Terminator” ambisce a distruggere il genere umano, è sfuggita al controllo di un laboratorio ossessionato dalla safety dell’AI. D’altronde i catastrofisti hanno poco da proporre, in concreto: la loro idea di decelerazione passa attraverso una utopica cooperazione internazionale multilaterale. Ed è certamente vero che la richiesta di decelerare sia stata formulata anche dal Papa nell’enciclica Magnifica Humanitas, ma la Cina socialista non appare interessata a dare corso a quell’invito: lo usa, piuttosto, come soft power per rallentare gli sforzi tecnologici occidentali. Bisognerebbe a tal proposito leggere Breakneck di Dan Wang che tra poche settimane vedrà luce anche in Italia edito dal Mulino col titolo A rotta di collo, per capire quanto a perdifiato la Cina stia correndo e quanto ancora voglia accelerare.

L’Europa invece non ha bisogno di un dibattito sull’opportunità di rallentare visto che essa appare rallentata strutturalmente. Lo rileva anche Mario Draghi, in un suo lungo articolo apparso sulle pagine del Financial Times l’11 settembre e dal titolo più che significativo: “Le difficili scelte dell’Europa sull’AI”. Draghi nota come l’Europa abbia significativamente rallentato dopo la pandemia e come molti dei suoi problemi, dall’eccesso di regolazione alla frammentazione della domanda, continuino a essere inevasi. Nel campo dell’AI, poi, “una crescita dominata dall’AI entra in conflitto con l’anelito di sovranità europea visto che l’Europa ha scarso controllo nella catena del valore dell’AI”. La dipendenza dai modelli americani e cinesi genera scenari imprevedibili ed essere tagliati fuori dalla corsa tecnologica significa essere tagliati fuori dalla storia. Draghi ammette che “lo spazio potenziale di sovranità europea nel campo della AI è stretto”. La soluzione individuata dall’ex presidente del Consiglio è in primo luogo quella della creazione di circuiti virtuosi di aggregazione unitaria della domanda e di uso dell’AI, specialmente avendo riguardo ai neocloud. L’esempio offerto da Draghi è quello delle europee ASML, Capgemini e Amadeus, le quali si sono impegnate ad acquistare per diversi anni le European Compute Units dell’altrettanto europea Mistral. Un meccanismo che eviterebbe il consolidamento di oligarchie Tech, essendo diffuso e partecipato. La leva per implementare un simile progetto sono i dati: l’Europa dispone di moli massive di dati dall’enorme valore, stimabile in circa 800 miliardi di euro. Aspetto questo che pone il tema, politicamente sensibile, dello stoccaggio e della custodia degli stessi. Quella dei data center, su cui Draghi si sofferma lungamente, è la questione politica per eccellenza dei nostri tempi e che affatica tanto gli americani quanto gli europei, anche se in Europa i margini di aumento delle strutture sarebbero più alti. Il data center è il ritorno del tecnologico sul territorio, l’epidermide artificiale che, per dirla alla Benjamin Bratton, spezza la percezione della virtualizzazione completa: questo comporta sindromi Nimby, rifiuti, attriti politici, lo abbiamo ben visto in Italia dove sembra definitivamente esser saltato il progetto del maxi-data center a Travagliato, vicino Brescia. E proprio ciò delinea il vero convitato di pietra della ricostruzione di Draghi: la decisione politica. Senza quella andremo dritti verso la nostra personale apocalisse, fuori dalla storia.