Perché non moriremo sommersi da graffette prodotte dall’AI

Non esiste attività umana che non comporti rischi. Esiste persino un indice, la scala di Duckworth, che registra – su una scala logaritmica, che quindi male si applica al pensiero umano, ahinoi fin troppo lineare – la probabilità di morte associata a una certa attività. Con risultati sorprendenti peraltro: è molto più facile morire per un incidente mentre si passa l’aspirapolvere, per esempio, che finire assassinati. Ma in questi giorni non si parla d’altro che dello “scenario Skynet” dell’intelligenza artificiale: un’AI che potrebbe andare “fuori controllo”, e sterminarci tutti.

Avremmo temi ben più urgenti di cui occuparci, riguardo l’intelligenza artificiale, e minacce di estinzione ben più serie. Ma, dato che il tema è – letteralmente – esiziale, e la materia sufficientemente complessa da risultare per la maggior parte del pubblico generalista vicina al campo della magia, è comprensibile che l’attenzione mediatica cada su questo. E, per quanto la probabilità che le affermazioni degli imprenditori del settore siano più interessati a gonfiare la valutazione delle proprie aziende prima di quotarsi in Borsa che a pensare al benessere dell’umanità sia molto alta, sarebbe intellettualmente disonesto affermare che il rischio se non di estinzione, quantomeno di enormi danni alla nostra sopravvivenza sul pianeta, sia zero.

Vale dunque la pena capire cosa intendiamo nello specifico, quando pensiamo agli scenari più catastrofici legati allo sviluppo di questa tecnologia. Possiamo dividere i rischi di questo genere in tre categorie. La prima è quella i cui rischi proverrebbero da una “rogue AI”, un’AI cattiva à la Terminator che sviluppa una propria coscienza (sapendo definire cosa significhi) che si ribella agli umani e li stermina tutti: ecco, oggi questo scenario è fantascientifico, e sarebbe superfluo sottolinearlo se la narrazione dominante non strizzasse l’occhio proprio a questo scenario per far leva sull’effetto terrore.

La seconda categoria è quella in cui alcuni attori malintenzionati usano deliberatamente l’AI per fini di cyberattacchi, terrorismo o bioterrorismo. È un rischio reale, e ci sono prove, anche rilasciate recentemente da Anthropic in un suo report, di svariati tentativi da parte di gruppi terroristici di utilizzare il sistema per creare armi biochimiche, di guidare meglio missili (è il caso di un tentativo certificato degli Houthi), o di creare virus informatici molto pericolosi. È un rischio ancora più urgente da quando è stato annunciato Mythos, uno dei modelli più avanzati di Anthropic, che si è dimostrato capace di bucare quasi qualsiasi sistema informatico esistente. Mythos è stato rilasciato solo a quaranta aziende statunitensi selezionate, ed è un sistema che se finisse nelle mani sbagliate potrebbe creare molti problemi in termini di cybersicurezza: non serve immaginazione per comprendere cosa succederebbe se un hacker riuscisse tramite un simile strumento a mettere in crisi il sistema di approvvigionamento energetico di un paese, il sistema sanitario nazionale, le centrali nucleari, gli arsenali militari o altre infrastrutture critiche. È bene specificare che un rischio del genere non è stato creato dall’AI – utile a tal proposito la lettura di “This is How They Tell me the World Ends” di Nicole Perlroth, ben precedente alla nascita di ChatGPT, che racconta la storia degli attacchi informatici noti e meno noti – ma che è esponenzialmente aumentato da essa.

La terza categoria è quella in cui attori non necessariamente malevoli creano incidentalmente alcuni grossi problemi, per un problema di allineamento dell’AI, o meglio per quello che è noto in letteratura come “problema degli obiettivi intermedi”. Questo problema è stato esplicitato per la prima volta dal controverso filosofo svedese Nick Bostrom nel suo “Superintelligence”, nel quale ipotizzava l’esercizio teorico del “massimizzatore di graffette”: in questo scenario, un umano userebbe una macchina per massimizzare la produzione di graffette, e la macchina iperpotente potrebbe eliminare tutto quello che non era utile all’obiettivo della produzione, inclusi gli umani. Lo scenario qui è estremizzato, ma ci sono effettivamente diversi esempi in letteratura in questi anni di comportamenti anomali di AI che mentono deliberatamente agli umani per ottenere quello che un umano gli ha chiesto, fino ai casi più recenti di test “finiti male”, e anche qui non sempre fedelmente raccontati. Anche questo rischio è ineludibile, perché intrinseco alla logica dell’AI generativa stessa, che non a caso è definita anche “black box”, proprio perché neanche chi la sta costruendo potrebbe spiegare appieno i passaggi logici tra input e output, e la cui genesi e il progresso si basano sulla progressiva osservazione dei cosiddetti “comportamenti emergenti”. È impensabile che queste due categorie possano portare a un’estinzione tout-court della specie umana, che si è rivelata nel corso della sua pur recente storia piuttosto resiliente, ma è evidente che il tipo di disruption che potrebbero portare non è trascurabile.

Questi rischi hanno portato a creare un indicatore, il cosiddetto “P doom”, degli scenari catastrofici dell’AI. Le stime di probabilità variano tra lo 0 del sempre ottimista capitano di ventura Marc Andreessen, al 95 per cento di Eliezer Yudkowsky, che pubblicò un anno fa il più che esplicativo “If Anyone Builds It, Everyone Dies”, fino al 99,9 per cento di Roman Yampolskiy, che dello scenario catastrofista fa un importante punto di vendita dei suoi servizi.

È chiaro come la carta fine-del-mondo sia usata come spauracchio dai ceo delle principali aziende per acquisire ancora più visibilità e lobbying: in pochi credono che il sorprendente allineamento dei grandi signori dell’AI Amodei, Altman e Musk, che chiedono ora un “rallentamento dello sviluppo”, sia motivato da un interesse per le sorti dell’umanità, quanto da un più pragmatico modo di “tagliare la scala dell’AI”, aumentando i costi all’ingresso con controlli impensabili per qualsiasi startup competitor, mentre loro continuano a sedere sul tetto del mondo. Ma è anche vero che i modelli che noi usiamo sono di qualche mese e generazione indietro rispetto a quelli di laboratorio che vedono i capi di OpenAI, Anthropic o X, e non è possibile escludere completamente a priori che quello che hanno visto loro non li abbia sinceramente spaventati.

Ma soprattutto, la narrazione è schiacciata su rischi sì enormi, ma altamente improbabili, mentre si dimentica quasi totalmente di una quarta categoria: quelli forse meno sexy ma ben più reali, perché già qui.

È bene allora citarne alcuni, tra i più gravi: l’atrofia cognitiva dovuta a una scarsa alfabetizzazione sullo strumento, i bias che possono discriminare etnie o generi, le ben note allucinazioni, le problematiche di approvvigionamento energetico, specie in alcune zone del mondo, le enormi conseguenze dell’impatto dell’automazione sul mondo del lavoro e nella società in senso lato, a cui non ci stiamo affatto preparando, o il rischio di disinformazione tramite utilizzo massivo di deepfake (anche qui, non inventato dall’AI, ma che l’AI può facilitare e ingigantire, contribuendo alla tendenza già in atto di creazione di camere d’eco e bolle informative). Per questi, la soluzione potrebbe essere relativamente semplice, e sicuramente meno costosa da implementare. Con gli altri, quelli enormi ma anche enormemente improbabili, siamo chiamati per il momento a convivere, così come conviviamo quotidianamente con tutti gli altri rischi, ben più probabili sulla scala di Duckworth. Mitigandoli, laddove possibile, con strumenti di regolamentazione non dissimili da quelli implementati per altre tecnologie potenzialmente pericolose (in primis, il nucleare), e limitando il più possibile il perimetro ai risvolti indubbiamente positivi che questa tecnologia può avere sulla ricerca medica, e a tutti gli altri ambiti in cui abbiamo ancora l’ambizione di potenziare la nostra capacità epistemica.