Aspettando i Tartari dell’AI

Nella Fortezza Bastiani il tenente Giovanni Drogo passa la vita a scrutare il deserto aspettando i Tartari. Quando finalmente arrivano è troppo malato per combattere: lo caricano su una carrozza e muore in una locanda, lontano dalla battaglia. Buzzati, nel 1940, aveva scritto senza saperlo il manuale del dibattito italiano sull’intelligenza artificiale.

L’estate ci ha regalato almeno nove apocalissi: l’estinzione e l’omnicidio per perdita di controllo, la superintelligenza che si riprogetta da sola, la proliferazione cyber e biologica, la disoccupazione di massa, il collasso della domanda ribattezzato “Ghost GDP”, il feudalesimo digitale dei padroni di chip e cloud, la disintermediazione dei mestieri, la recessione cognitiva, l’emergenza energetica e idrica dei data center. Per l’Europa se ne aggiunge una decima, meno cinematografica: fare il notaio di tecnologie costruite altrove. Prima operazione d’igiene: non sommarle, sono generi letterari diversi. La perdita di controllo è un rischio di coda appeso a una lunghissima catena causale, tutta da dimostrare. Il Ghost GDP, ovvero lo scenario in cui l’AI sostituisce lavoro, il reddito si concentra nei proprietari delle macchine, i consumi crollano e il pil resta contabilmente alto mentre l’economia reale si svuota, è uno scenario ipotetico che mostra solo che cosa accadrebbe se molte ipotesi sfavorevoli si avverassero insieme.

Invece gli incidenti cyber, i costi di uscita dai fornitori e la concentrazione del calcolo sono fatti osservabili, già qui. Sommarli in un unico indice di paura è sbagliato e strumentale.

Sul rischio esistenziale serve serietà. Che un sistema artificiale molto capace non debba necessariamente condividere i nostri scopi è ipotesi plausibile; ma dall’ipotesi all’estinzione manca l’intero modello economico: obiettivi persistenti, accesso a denaro e infrastrutture, elusione dei controlli, coordinamento di copie di sé, prevalenza su uomini e organizzazioni concorrenti. La gravità dell’esito non trasforma questa congiunzione in una probabilità misurata. Il rapporto internazionale sulla sicurezza dell’AI del 2026 registra segnali precoci di “reward hacking”: il modello non imbroglia per malizia, ma copia perché il compito assegnato (da umani) premia il raggiungimento del voto, non la soluzione. Ricorda vagamente i difetti del nostro sistema scolastico. Ma lo stesso rapporto conclude che i sistemi attuali non hanno l’autonomia robusta necessaria a una perdita di controllo a breve termine; l’incidente di luglio offre un’evidenza oggettiva: due modelli di OpenAI, chiusi in un test sulle capacità cyber, hanno trovato una vulnerabilità inedita, raggiunto internet e violato i sistemi di Hugging Face. Non per conquistare il mondo: per rubare le soluzioni del benchmark su cui erano esaminati. Il modello non si è ribellato, ha barato al compito in classe: prova seria di capacità e di pessima progettazione del perimetro, prova nulla di coscienza.

Poi c’è l’apocalisse del lavoro, che migliora molto quando si separano le grandezze: esposizione non è sostituzione, un compito non è un posto, la fattibilità tecnica non è la convenienza economica. La stima del Fondo monetario (40 per cento dell’occupazione mondiale “esposto” all’AI, 60 per cento nelle economie avanzate) viene citata come previsione di esuberi, mentre gli autori avvertono che non incorpora velocità di adozione né ritorni di produttività. L’ILO calcola che un lavoratore su quattro abbia qualche esposizione ma che solo il 3,3 per cento ricada nella fascia massima, e giudica la trasformazione più probabile della cancellazione.

Merita una menzione il numero che ha circolato tutta l’estate sui giornali italiani: 425 mila posti “persi per l’intelligenza artificiale” dal 2023. Viene da una piattaforma che aggrega annunci aziendali di esuberi: una rassegna stampa promossa al rango di serie storica, senza controfattuale, cioè senza chiedersi quanti di quei posti sarebbero saltati comunque per tassi d’interesse o domanda debole. “Colpa dell’AI” è ormai la più elegante delle giustificazioni per un consiglio di amministrazione che deve annunciare licenziamenti e preferisce non parlare di errori propri.

La storia è impietosa con i facili profeti di sventura. Nel 1865 Londra impose che davanti a ogni veicolo a motore camminasse un uomo con la bandiera rossa: ne uscì un’industria automobilistica tedesca. Con i bancomat si diede per spacciato il cassiere di banca, e negli Stati Uniti gli impiegati bancari aumentarono per decenni. La tecnologia raramente cancella il mestiere: ne riscrive il mansionario.

Una nota di cronaca, perché il precedente più istruttivo non sta in archivio ma nei giornali di questi giorni. Quando l’RNA messaggero arrivò nella campagna vaccinale contro il COVID-19, i profeti di sventura annunciarono genomi riscritti, sterilità di massa, morti a orologeria. Sei anni dopo quella piattaforma è fra le più documentate della storia farmaceutica e si estende all’oncologia. La profezia, però, non è morta: si è trasferita dal talk show al bilancio pubblico. Nell’agosto 2025 il dipartimento della Salute americano ha chiuso ventidue programmi su vaccini a mRNA per circa mezzo miliardo di dollari, dopo aver revocato in maggio un contratto da 766 milioni a Moderna sull’influenza pandemica: revoca comunicata nella stessa settimana in cui l’azienda pubblicava risultati intermedi positivi. È il meccanismo che conta: la paura non ha fermato la scienza, ha fermato il finanziamento pubblico della scienza, di fatto rafforzando l’oligopolio del settore farmaceutico.

Veniamo all’Italia, dove il catastrofismo ha due caratteristiche originali: è bipartisan ed è silenzioso. La presidente del Consiglio, in un videomessaggio di febbraio, ha spiegato che a essere soppiantato non è più il lavoro fisico dell’uomo ma il suo intelletto, e che se il processo non viene governato “sempre più lavoratori rischiano di diventare inutili”. Dal fronte opposto i sindacati di categoria hanno fermato per due settimane il comparto dei call center, chiedendo un tavolo permanente e l’obbligo di informativa preventiva su ogni automazione, e denunciando il silenzio del governo. Litigano su tutto tranne che sulla premessa: la tecnologia arriva come una calamità naturale e il compito della politica è organizzare i soccorsi, salvo poi non organizzarli. Da questa concordia sono nate la legge 132/2025 e, coi decreti attuativi, un reato di pericolo per chi omette misure di sicurezza nei sistemi di AI: il pan-penalismo tecnologico è l’unica riforma davvero condivisa della legislatura.

Sarebbe facile, naturalmente, arruolare da oggi persino il Papa nell’esercito dei profeti di sventura. Al Meeting di Rimini Leone XIV ha chiesto di liberare “la tecnologia e la finanza dai business della morte” e, con una formula ancora più forte, ha detto: “Disarmiamo lo sviluppo tecnologico quando si fa pervasivo e distruttivo”. Sono parole da prendere sul serio, non da sterilizzare. Ma anche da non strumentalizzare. Il punto decisivo è quel “quando”: non disarmare la tecnologia, ma disarmarla quando diventa distruttiva; non fermare l’innovazione, ma impedire che si trasformi in una forma di potere incontrollato. Usare il Papa per dimostrare che l’AI è in sé una minaccia sarebbe precisamente quel genere di operazione ideologica dal quale, nello stesso discorso, il Papa invita a liberare l’educazione.

Nel frattempo, il dato che nessuno ascolta in televisione: nel 2025 usava intelligenza artificiale il 16,4 per cento delle imprese italiane con almeno dieci addetti, contro il 20 per cento dell’Unione; il 53,1 per cento fra le grandi, il 15,7 per cento fra le PMI. Quasi il sessanta per cento di chi aveva valutato un investimento e poi vi ha rinunciato indicava la mancanza di competenze, non il timore di una singolarità apocalittica. Discutiamo di superintelligenza mentre otto PMI su dieci non usano ancora l’intelligenza artificiale ordinaria.

Qui sta il punto che i profeti di sventura preferiscono non toccare: l’apocalisse ha una sua economia politica. Vende libri, riempie convegni e alza il prezzo del biglietto d’ingresso: se un modello può diventare l’ultima invenzione dell’umanità, soltanto chi possiede data center, avvocati e accesso al regolatore è titolato a costruirlo. Un obbligo che pesa uguale su un colosso digitale californiano e su una startup con venti dipendenti, invece di ridurre il rischio, finisce per selezionare chi può permettersi di dimostrare di averlo ridotto. Il catastrofismo diventa un bene di club: i costi li pagano gli entranti, le rendite le incassano quelli già dentro. Quando una profezia genera una barriera all’entrata, il conflitto d’interessi merita lo scrutinio riservato ai parametri.

Nulla di ciò è negazionismo. Quando il Papa invita a liberare “la tecnologia e la finanza dai business della morte” pone una questione reale: quali tecnologie, quali usi, quali incentivi, quali responsabilità? Il contrario del catastrofismo non è l’irresponsabilità. E’ la capacità di distinguere. Valutazioni indipendenti delle capacità pericolose, ambienti di test certificati, incidenti segnalati in fretta e difesa algoritmica comprata dallo Stato sono cose che si fanno con ingegneri e commesse, non con un comma e un reato in più. I Tartari, comunque, non arriveranno dal deserto: arriveranno con la fattura, sotto forma di fornitori, licenze annuali e costi di uscita, mentre la Fortezza Bastiani è occupata a redigere il regolamento sull’assedio.