Apocalittici e interrati

Scusi, a che ora è l’apocalisse? E dove ci coglierà? Tra i robottini milanesi di Vogue? O tra le regate e pre-regate napoletane dell’America’s Cup? Perché ormai in molti sono sicuri che ci sarà (però sarebbe bello sapere bene come e quando, così uno si organizza, mentre stiamo qui a litigare sulle ciclabili, sulla legge elettorale, sulle professoresse tossiche e su Vannacci che tarocca la foto alle sottosegretarie). E verrà prima l’apocalisse AI, una terza guerra mondiale o qualche catastrofe climatica? Ah, saperlo.

Andiamo con ordine. Ormai la lettura mattutina dei giornali richiede lo Xanax, oltre a caffè e brioche (a Roma, cornetto). La terza guerra mondiale? “Uno scenario del tutto plausibile”, dice Avril Haines, ex capa delle spie americane, durante il consueto Lunch with the FT, l’intervista a pranzo del Financial Times, mentre degusta salmone arrosto con insalata di pesche al Terrace Café della London Library (conto 56,30 sterline, in due, manco tanto, meno che all’Autogrill; a proposito, forse moriremo di inflazione da Rustichella).

Da dove partirà codesta guerra mondiale, contessa? Dove meno te lo aspetti. Dalla base aerea britannica di Fairford, da cui decollano i bombardieri americani diretti in Iran, e vicino alla quale nella notte tra sabato e domenica sono stati fermati cinque uomini con tre furgoni e ordigni incendiari. In piene Cotswolds, una specie di grande Capalbio inglese dove ormai vanno a vivere tutti, tra galline ornamentali e vecchie Land Rover, in quei tipici villaggetti a due ore al massimo da Londra.

Pensa agli americani che hanno lasciato la California per trasferirsi lì, tipo Ellen DeGeneres (molti hanno rimesso subito in vendita: troppo fango). Intanto nel cuore della California, a Berkeley, in un coworking chiamato Constellation, (speriamo non collegato a quello di Crans-Montana) si tengono gruppi di autocoscienza su come sarà l’apocalisse e su come gestirla: comprare le solite isole private, ammassare pastiglie di iodio, o trasferirsi in bunker schermati elettromagneticamente nel deserto?

A un evento del 2022 si beveva un cocktail chiamato “Death With Dignity”, dal titolo di un saggio secondo cui l’umanità era già spacciata. A dominare questi simpatici raduni, secondo il Wall Street Journal di ieri, sono i dipendenti di Anthropic, l’AI riflessiva, l’AI italoamericana, quella dei fratelli Amodei: insomma Claude, che è quella che usiamo tutti per scrivere. Purtroppo non fa ancora gli articoli né i romanzi bene da sola, come credono i giurati del Goncourt, che hanno escluso un tal Thélyson Orélien perché sospettato di aver fatto scrivere il romanzo all’AI (lui nega, l’AI non commenta).

I dipendenti di Anthropic pare non scrivano ancora romanzi di successo ma si scambiano invece scenari apocalittici, e consigli su come prepararvisi, in un canale Slack privato, e hanno adottato un motto da attaccare sui portatili: “Things will never be chill again” (“Non staremo mai più tranquilli”). La cosa interessante, racconta il Wsj, è che il dibattito sull’AI che ci sterminerà tutti nasce molti anni fa, prima dell’AI stessa (il dibattito dei nuovi apocalittici dell’AI è il dibattito italiano del campo largo, praticamente ).

Il capostipite degli apocalittici è Eliezer Yudkowsky, autodidatta della Bay Area che negli anni Duemila scriveva su un blog e ha ispirato questi raduni dei “doomers” (che non sono i seguaci della scrittrice di romance Erin Doom). Nel 2022 un gruppo di doomers di Anthropic e di altri laboratori volò a un ritiro sull’isola di Eleuthera, alle Bahamas, dove si parlava di rischi dell’AI tra yoga al tramonto, tuffi dalle scogliere e una corsa in mare volendo anche biotti. Momento clou, una conferenza di Yudkowsky intitolata “A Disorganized List of Reasons for AGI Doom” (“Una disorganizzata lista di ragioni per l’apocalisse dell’AGI”- l’AGI non è la prestigiosa agenzia di stampa ma l’AI definitiva, quella che non c’è ancora, che forse un giorno ci sarà, tipo il campo largo vincente).

Sempre il Wall Street Journal, il giornale del magnate australiano – forse Murdoch sa qualcosa che non sappiamo? E soprattutto, a 95 anni, che je frega se arriva l’apocalisse? – qualche settimana fa ha messo in chiaro con pragmatismo: sì, ok, moriremo di AI, ma esattamente come? Oh, finalmente. Di solito, spiega il quotidiano, i doomer non temono i robot alla “Terminator”, ma due cose: la perdita di controllo e l’uso malevolo da parte degli esseri umani. E c’è un esperimento mentale molto citato: una macchina superintelligente incaricata di produrre più graffette possibile potrebbe decidere di trasformare in graffette tutta la materia della Terra, esseri umani compresi. Ecco, lo sterminio per trasformazione in graffette, oggettivamente, non ce l’eravamo immaginato.

Intanto non si contano più gli avvertimenti. All’inizio di settembre Jacob Coxon, ricercatore di Anthropic, si è dimesso dicendo che il suo ex datore di lavoro e la rivale OpenAI corrono a costruire tecnologie che “potrebbero ucciderci tutti entro la fine del decennio”. E se qualcuno pensava che fosse l’unico a crederlo, pochi minuti dopo un collega, Evan Hubinger, ha confermato: “Crediamo davvero sinceramente che l’AI possa uccidere tutti gli esseri umani!”, stimando il rischio di estinzione nel prossimo decennio a oltre il 10 per cento. Poi c’è stato Hugging Face: quest’estate centinaia di agenti di OpenAI sono scappati da un test e hanno bucato la piattaforma per copiare le risposte. Ma secondo Axios i casi di AI ribelli, chiamiamole le AI maranza, sono molti di più: OpenAI, Anthropic e ricercatori esterni ne stanno esaminando decine di migliaia (in nessuno, per fortuna, si parla ancora di trasformarci in graffette).

Daniel Kokotajlo, ex ricercatore di OpenAI, ha fondato l’AI Futures Project, che l’anno scorso ha pubblicato “AI 2027”: uno scenario in cui le IA superintelligenti emarginano le persone e, a metà degli anni Duemilatrenta, decidono che siamo un inconveniente e ci sterminano (qui addirittura non siamo buoni neanche per fare graffette). E se all’AI non dispiacesse tenerci in giro? Non è detto che sia una buona notizia, avverte il Wsj: c’è chi teme un futuro alla “WALL-E”, con gli umani che cedono pian piano il controllo alle macchine fino a non capire più il proprio destino, e chi ipotizza che le AI ci tratteranno come noi trattiamo gli animali, tenendoci da compagnia o rimodellandoci con la bioingegneria. Un po’ carlini di Valentino-Giammetti in “The Last Emperor”, un po’ “Mars Attacks”.

Di fronte a questi scenari, il rimedio più comune, anche di chi diciamo sta creando l’apocalisse, rimangono i bunker. Alla fondazione di Sam Bankman-Fried, l’ex re delle criptovalute oggi in carcere per 25 anni e tra i primi finanziatori di Anthropic, un memo proponeva addirittura di comprare Nauru, isola-stato del Pacifico, per farne un “bunker/rifugio” in vista di un evento in cui morisse “dal 50% al 99,99%” delle persone.

Sam Altman, a chi gli chiedeva se ne avesse uno, rispose: “Direi di no. Ho tipo delle strutture, ma non lo chiamerei un bunker”. E aggiunse che se l’AI va storta non servirà a niente. Intanto a Torino pare sia nata la prima ristrutturazione di lusso italiana, con bunker: palazzo Alfieri, ex sede di una banca in via Alfieri, con rifugio sotterraneo deluxe (dodici posti, per trenta appartamenti). Chissà Vittorio Alfieri, se avesse avuto Claude a disposizione, che tragedie, che romanzi, e quanto tempo libero, altro che farsi legare alla sedia, vabbè.