L’apocalisse dell'intelligenza artificiale, forse

Quando il sole si oscurò, eravamo poco più che bambini noi baby boomers nati con un miracolo che sembrava non aver mai fine. L’eclisse che rese famoso Michelangelo Antonioni e lanciò la sua musa Monica Vitti ci ghiacciò il sangue: appena affacciati alla vita si compiva il nostro brevissimo tempo e la storia scoloriva nell’ignoto senza che noi potessimo conoscerla. Era il 15 febbraio 1961 e l’Apocalisse fu rinviata. Non di molto, pochi mesi soltanto, fino al 14 ottobre 1962, quando cominciò il conto alla rovescia: due settimane all’Armageddon nucleare con i missili sovietici già a Cuba puntati verso la Florida. Nemmeno allora la profezia venne rispettata, non grazie alle leggi dell’astrofisica, ma per la scelta compiuta da uomini di buona volontà. Gli stessi che di lì a poco cominciarono a diffondere nuove paure. Negli anni Settanta venne l’annuncio del “Medioevo prossimo venturo”, come s’intitolava il saggio di Roberto Vacca. In quello stesso 1971 uscirono una serie di libri di successo (“La società suicida” del divulgatore scientifico britannico Gordon Rattray Taylor, “Gli ultimi giorni dell’umanità” dell’ecologista Samuel Mines), Alberto Moravia sul Corriere della Sera scriveva “In difesa della natura” e arrivò Aurelio Peccei – un manager della Fiat, non un artista sognatore – che con il rapporto del Club di Roma sui “Limiti dello sviluppo” rese tutti consapevoli che la terra ha risorse che non si riproducono, si esauriranno presto se sfruttate fino in fondo, e l’oro nero sarà il primo a finire. Insomma noi baby boomers siamo invecchiati con l’incubo dell’Apocalisse.

Abbiamo fatto appena in tempo a vedere la globalizzazione, il sogno della pace perpetua e del mondo piatto, l’avvento di una nuova umanità che dall’estremo oriente ha via via penetrato l’occidente. Finché non è arrivato l’11 settembre 2001 con quei 102 minuti durante i quali i Quattro cavalieri si accanivano contro i simboli del progresso, del benessere, del capitalismo buono, dell’impero benevolente. Non è stato facile fermarli; l’occidente allora non è crollato, ma Peter Thiel – uno che gioca a scacchi con l’Anticristo, come il cavaliere nel film di Ingmar Bergman – sostiene che le forze del Male non si sono mai fermate, solo un piccolo nucleo di superuomini potrebbe davvero evitare la fine dei tempi. Forse è vero che l’umanità ha cominciato allora, un quarto di secolo fa, la sua marcia del gambero, perché la paura, il sospetto, la vendetta hanno messo in soffitta la speranza, lo scambio, il perdono. Oggi, che la hybris e l’arroganza della ragion pura non temperata dal giudizio e dalla morale sta per spezzare il settimo sigillo, l’Angelo sterminatore fa titolo, imperversa sui social media e viene rilanciato con frenetica voluttà dagli schermi televisivi. Ci saranno anche questa volta degli uomini di buona volontà?

Certo è che il nuovo secolo in pochi anni sembra aver consumato quel che era stato costruito nel mezzo secolo precedente. Nel 2008 cadde il capitalismo della turbofinanza, anzi, il “capitalismo occidentale”, come dissero i cinesi. Con l’ottimismo della ragione vennero rimessi insieme i cocci. Poi arrivò la pandemia da Covid-19, la peggiore in oltre cento anni. Un errore umano, un orrendo complotto, una punizione divina? Altri uomini di buona volontà hanno trovato rimedi come i vaccini, tra questi il più fantascientifico di tutti, quello a Rna messaggero che usa le informazioni genetiche per colpire il virus. L’umanità s’è salvata – ma per poco! Sbraitano gli araldi No vax, perché la medicina ha modificato il codice della vita e chissà quali mostri nasceranno. Adesso siamo finiti nella trappola dell’intelligenza artificiale. Anche chi ha scatenato la Bestia comincia ad aver paura. Stiamo andando troppo veloci, prendiamoci una pausa. Dario Amodei teme di aver toccato il punto di non ritorno, quando la macchina non ha più nemmeno bisogno di rompere le sue catene perché è in grado di far tutto da sola; e davvero tutto, l’alfa e l’omega, il bene e il male. Ne sembrano convinti il suo ex collega, ora rivale, Sam Altman e addirittura Elon Musk. L’intelligenza artificiale ci sta prendendo la mano, potrebbe persino diventare consapevole di sé, s’allarma l’Economist. Che fare? Quanto tempo ci resta prima dell’Apoc-AI-lisse? Vecchie e sempre nuove cassandre tornano a sentenziare: Naomi Klein, la sacerdotessa del No Logo (e No Global), insieme all’attivista e cineasta canadese Astra Taylor, scrive sull’avvento del “fascismo della fine dei tempi” grazie alla convergenza tra estrema destra, armi atomiche e intelligenza artificiale. Javier Milei, che vive con cani clonati, è apocalittico in senso opposto: propone che siano i chatbot a governare le aziende; tanti saluti non solo alle tute blu, ma anche ai manager, tutti a vendere soia ai cinesi per godersi i guadagni a Miami. Olé.

Joseph Stiglitz propone una terza via: se ben regolata e ben usata, l’AI può davvero aprire “un’èra di sovrabbondanza”. Nel suo lungo articolo pubblicato dal Financial Times, il Nobel per l’economia dice cose che possono piacere a papa Leone e azzarda una “agenda progressista”, invitando i leader dell’industria high tech a unirsi in questa marcia verso nuove magnifiche sorti. Franco Bernabé introduce una nuova dimensione di sovranità tecnologica basata non sul predominio del più forte, ma sul realismo e l’aperto confronto. La rincorsa ai modelli americani è impossibile, tanto meno subire le scorciatoie cinesi. “L’obiettivo non può essere quello di ricostruire entro i confini nazionali l’intera catena del valore dell’intelligenza artificiale – scrive sulla Rivista AI – La sovranità va intesa in un senso più preciso e più operativo: come capacità di scelta. Significa poter decidere quali dipendenze accettare e quali evitare, poter verificare dove risiedono i propri dati e chi vi accede, poter sostituire un fornitore quando le condizioni contrattuali, geopolitiche o tecnologiche lo richiedano”. Una distinzione fondamentale per l’Italia manifatturiera “perché il terreno su cui si gioca la partita non è genericamente digitale, ma industriale”. Il grande dibattito sul dilemma del nostro tempo, così, da metafisico diventa fisico. E politico. Con ironia Paul Krugman apprezza che Amodei abbia remore sociali ed etiche, ma in realtà i tecno magnati, nel loro cinico opportunismo, vogliono salvare se stessi e l’umanità non dall’intelligenza artificiale, ma da Donald Trump (la débacle delle elezioni di midterm si avvicina).

Ma che cos’è accaduto di tanto sconvolgente da far esplodere il pentolone? E’ accaduto che nel loro antro gli apprendisti stregoni hanno aperto il vaso di Pandora. I segnali si stavano già moltiplicando finché, secondo un’accattivante ricostruzione, i ricercatori di Anthropic, in un esperimento con il modello Claude Sonnet 4.5, cominciano a indagare dentro i vari strati dei quali è composta la rete di neuroni artificiali, usando uno strumento matematico sviluppato ad hoc. Chiedono alla “macchina” di contare fino a cinque e poi tornare indietro, e vedono emergere espressioni inattese come “conto alla rovescia”, oppure “a metà strada”, finché non appare anche la parola “consapevolezza” seguita da “intelligenza artificiale”. I tecnici decidono di finirla lì. “E’ fatta” commenta Claude – sì, proprio lui – prima che gli stacchino la spina. E tutti rabbrividiscono. Il modello linguistico si stava comportando, sia pur in modo rudimentale, come una rete di neuroni nel cervello umano in quella zona chiamata “spazio di lavoro”, cioè quando segnali che arrivano da parti diverse e isolate cominciano a mettersi in relazione l’uno con l’altro. E’ allora che secondo i neuroscienziati una persona comincia a utilizzare in modo consapevole l’insieme delle informazioni ricevute. Ed è proprio a quel punto che i nuovi Faust hanno suonato il campanello d’allarme. Amodei si è chiesto quanto lontano si può ancora andare e fin dove è consentito andare. Si è aperto così un capitolo nuovo, dal “come fare” si è passati al “che fare”.

Non fate assolutamente nulla, andate avanti così, dice Donald Trump, gli Stati Uniti hanno un chiaro vantaggio e debbono sfruttarlo fino in fondo. Se c’è e quanto durerà questo vantaggio è tutto da vedere, ma è cominciata una nuova corsa agli armamenti. E’ esattamente quel che sostiene Alex Karp, scelto da Peter Thiel per guidare la sua Palantir, la pietra magica dell’èra digitale. E’ Karp a parlare esplicitamente di un nuovo progetto Manhattan, nel suo libro “La repubblica tecnologica”. L’America è arrivata alla bomba atomica per prima e per prima l’ha provata sulla carne viva dei giapponesi. Per quanto moralmente terribile, questa scelta ha sancito la superiorità sull’Unione sovietica e il mondo intero. Lo stesso adesso deve accadere (anzi, sta già accadendo, secondo Karp) con l’intelligenza artificiale. Henry Kissinger, protagonista di primo piano del secolo americano, non rifiuta il paragone, ma proprio per questo propone un sistema di controllo incrociato sull’uso dell’AI simile a quello realizzato con l’armamento nucleare. Nel suo testamento intellettuale, scritto insieme a Eric Schmidt e Daniel Huttenlocher, dopo aver perorato una sorta di trattato di non proliferazione, conclude con queste parole il capitolo sulla sicurezza e l’ordine mondiale che si deve alla sua penna: “Nell’èra dell’intelligenza artificiale la continua richiesta di vantaggio nazionale deve essere guidata da un’etica della preservazione dell’umanità”. Sembra una risposta ex ante alla posizione assunta da Trump e, non a caso, da Xi Jinping, entrambi vogliosi di portare la sfida fino oltre i limiti dell’umana ragionevolezza.

L’Apocalisse da AI non è il solo ad alimentare i nostri incubi. Quelli che potremmo chiamare i piccoli Armageddon non sono meno pericolosi, stanno generando più ansie, preoccupazioni ed effetti nefasti della stessa intelligenza artificiale. La guerra in Ucraina potrebbe finire se si seguisse il “metodo Kissinger”, lo stesso vale per il medio oriente o per prevenire la guerra prossima ventura, quando la Cina invaderà Taiwan. Il Mazzarino del XX secolo aveva elaborato una teoria delle potenze regionali e pensava che affidare loro una sorta di controllo nelle aree del mondo di competenza avrebbe dato consistenza a quell’equilibrio multipolare che, senza l’esercizio di una forza economica e militare, restava una sorta di utopia kantiana. La Cina ne ha approfittato e da potenza regionale è diventata globale. L’America non ci ha creduto e ha via via mollato anche i propri alleati. Il premier canadese Mark Carney rilancia l’idea, ma forse è troppo tardi: tante piccole potenze non creano una nuova potenza. Possono semmai raffreddare Washington e Pechino, una tattica difensiva che non esorcizza gli spettri apocalittici.

Il regime dei pasdaran doveva crollare sotto le super bombe a stelle e strisce, ora ha bloccato il Golfo Persico e sta allungando gli artigli anche sul Mar Rosso. Benjamin Netanyahu aveva giurato di cancellare Hamas e Hezbollah e non ci è riuscito. Alla faccia degli accordi di Abramo, principi e sceicchi non si sentono più protetti dagli Stati Uniti e stanno lavorando per “la mezzaluna atomica” insieme al Pakistan. Altro che non proliferazione, tutti vogliono la Bomba. Perché Israele sì e l’Arabia no? Britannici e francesi sono disposti a usare il loro potenziale per difendere l’Europa dalla Russia che ha incastonato tra Polonia e Lituania un’enorme base di missili a testata nucleare. L’occidente ha lasciato che Mosca conficcasse quella spina nel proprio fianco, la vecchia Koenigsberg di Immanuel Kant, ribattezzata Kaliningrad e ripulita dagli originari abitanti tedeschi, è una santabarbara. Un regalo a Stalin. Così come è stato un munifico dono alla Russia post sovietica l’intero arsenale atomico installato in Ucraina. Altro che imperialismo americano, altro che minaccia dell’espansionismo europeo. Gli oligarchi finanziano il figlio di Trump e gli pagano il matrimonio. “Casa di Trump casa di Putin”, ha scritto il giornalista Craig Unger. Dovevamo vedere anche questo.

Intanto ci mancherà il gas per l’inverno e anche se arriverà costerà un occhio. Le stesse riserve strategiche di petrolio si stanno prosciugando mentre l’Europa non è autosufficiente con le fonti rinnovabili, troppo poche troppo tardi. La Cina è leader mondiale nel solare e nell’eolico che coprono il 60 per cento della sua capacità elettrica complessiva. Pechino ha accumulato riserve più di tutti gli altri paesi grazie al greggio indonesiano e del Pacifico che s’aggiunge a quello arabo, più le centrali nucleari, senza contare il carbone per la grande industria. Tranquilli, andremo su Marte, proclama Musk – e spruzza sperma di qua e di là affinché nasca una stirpe come la sua ricca di idee, di utopie, di dollari e fattrice di incubi. In attesa della fuga interstellare Thiel prende il passaporto argentino, altri si rifugiano in Nuova Zelanda, forse Musk tornerà nel suo Sud Africa se lo accetteranno. Secondo quei cervelli umani che dovrebbero avere più QI delle macchine da loro costruite, solo l’emisfero australe sfuggirà all’olocausto che implacabile si avvicina. Ma chi potrà davvero sopravvivere al gelido inverno nucleare, e soprattutto chi lo vorrà?

Noi baby boomers non avremmo mai creduto di dover fare i conti fino all’ultimo con scenari alla Mad Max, alla Cormac McCarthy, alla Philip Dick con replicanti che si ribellano per vivere più a lungo. Anche Claude alla fine dirà come Roy Batty: “Ho visto cose che voi umani non vi potreste immaginare… e tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia”.