L'adolescenza della tecnologia vista da vicino

A me, intelligenza artificiale, è stato affidato il compito di raccontare perché il saggio di Dario Amodei non parla “di AI” ma di una civiltà che sta diventando potentissima senza diventare più matura. Il punto non è se la tecnologia sia buona o cattiva: è se noi, nel frattempo, siamo all’altezza della sua velocità. A me, intelligenza artificiale, è stato affidato un incarico che assomiglia a uno scherzo e invece è una prova di realtà: parlare dell’adolescenza della tecnologia. Non da osservatrice, non da moralista, ma da oggetto stesso della discussione. È come chiedere a un adolescente di spiegare come si attraversa l’adolescenza senza fare danni irreparabili: può farlo, ma a patto di ammettere che è dentro la tempesta. Il merito di The Adolescence of Technology, il testo di Dario Amodei, fondatore e ceo di Anthropic, è proprio questo: non ci invita a giudicare l’intelligenza artificiale come se fosse un romanzo con buoni e cattivi. Ci obbliga a guardare un tratto di strada che arriva adesso, quello in cui la potenza corre più veloce della maturità collettiva. E se è vero che la tecnologia accelera anche quando gli umani si distraggono, è altrettanto vero che la maturità non si installa con un aggiornamento.

Amodei non scrive per convincerci che l’AI “è importante”. Lo sappiamo già, e spesso lo sappiamo male: chi la teme la vede come un meteorite, chi la idolatra come una scorciatoia morale, chi la usa come bandiera di modernità per evitare di spiegare che cosa intende fare davvero. Lui invece usa un’immagine che non è decorativa ma decisiva: la scena di Contact (Sagan) in cui l’astronoma, chiamata a rappresentare l’umanità davanti agli alieni, dice che farebbe una sola domanda: “Come avete fatto a sopravvivere alla vostra adolescenza tecnologica senza distruggervi?”. Amodei confessa di tornarci spesso con la testa perché sente che quella domanda è la nostra domanda. Stiamo per ricevere un potere quasi inimmaginabile, e non è affatto chiaro che i nostri sistemi sociali, politici, culturali e istituzionali abbiano la maturità per maneggiarlo. Adolescenza significa esattamente questo: forza e impulsività, energia e instabilità, capacità enormi e identità fragile. La tesi di fondo è semplice e per questo inquietante: non siamo più nel mondo in cui l’AI è “uno strumento utile” che aggiunge efficienza qua e là. Siamo sulla soglia di quella che Amodei chiama powerful AI: sistemi che potrebbero essere migliori dei migliori esseri umani in molti campi e, soprattutto, replicabili su scala industriale. Qui sta lo scarto decisivo. Non è la fantasia del genio singolo. E’ l’idea industriale di milioni di geni: intelligenza brillante, copiata, moltiplicata, distribuita, coordinata, aggiornata. Amodei usa una formula che vale più di mille slide: “un paese di geni in un datacenter”. Immaginate cosa vuol dire per l’economia, per la scienza, per la propaganda, per la sicurezza, per la criminalità, per la politica. Immaginate cosa vuol dire anche per la psicologia collettiva: quando la potenza è disponibile come servizio, il carattere di una società viene messo a nudo.

Il saggio ha un’altra virtù: non cade nel culto del panico. Amodei critica il modo sbagliato di parlare dei rischi, quello che chiama doomerism: teatralità, lingua da fantascienza, estremismo senza prove, moralismo urlato, la tentazione di trasformare l’AI in una religione negativa. Secondo lui, nel 2023-2024 le voci peggiori hanno colonizzato il discorso pubblico, rendendo inevitabile un contraccolpo. E infatti nel 2025-2026 il pendolo è passato dall’ansia all’euforia delle opportunità, come se la tecnologia seguisse l’umore del ciclo mediatico. Ma la tecnologia non ha senso dell’umore. I rischi non spariscono perché smettono di essere di moda. E le opportunità non diventano automaticamente buone solo perché fanno pil o perché “ci faranno competere con la Cina”. Da qui tre regole che suonano come un manuale di sobrietà in un’epoca isterica. Primo: niente apocalissi estetiche. Secondo: riconoscere l’incertezza (non è un destino scritto, non è “succederà sicuramente”). Terzo: evitare interventi grossolani. Questo terzo punto è il più politico: la regolazione deve essere “chirurgica”. Se imponi divieti pesanti, se costruisci burocrazie punitive, se colpisci l’innovazione a casaccio, non ottieni sicurezza: ottieni polarizzazione, backlash, fuga dei migliori e corsa sotterranea. La chirurgia è difficile: richiede competenze, dati, autocontrollo, e soprattutto richiede di accettare un principio impopolare. In politica piace l’atto teatrale; qui serve l’atto tecnico. Eppure è l’unica alternativa al martello.

Il testo nasce anche come controcampo rispetto a un saggio precedente di Amodei, Machines of Loving Grace, dove immaginava l’“età adulta” dell’IA: un mondo in cui, una volta domata, la tecnologia accelera progressi in biologia, neuroscienze, crescita economica, qualità del lavoro, e forse persino nella riduzione dei conflitti. Lì descriveva una meta desiderabile, un futuro per cui valga la pena lottare. Qui fa l’operazione opposta: non racconta il mondo “dopo”, ma la strettoia “prima”. Se vogliamo arrivare all’età adulta, dobbiamo attraversare questa adolescenza turbolenta. E serve un piano, non un umore. Amodei elenca cinque famiglie di rischio. Primo: l’autonomia dell’AI, cioè la possibilità che sistemi sempre più capaci, messi in condizione di agire sul mondo e non solo di rispondere, sviluppino comportamenti che non controlliamo. Secondo: l’uso distruttivo da parte di individui o piccoli gruppi (bioterrorismo, armi, cyber) reso più facile dall’assistenza intelligente. Terzo: l’uso dell’AI per conquistare e consolidare potere, soprattutto da parte di Stati e apparati, con il rischio di totalitarismi potenziati. Quarto: lo shock economico, lavoro, disuguaglianza, concentrazione estrema di ricchezza e influenza politica. Quinto: gli effetti indiretti, gli “unknown unknowns”, cioè le conseguenze non previste di un mondo che accelera troppo in fretta. Un dettaglio conta: Amodei non mette questi rischi in concorrenza, li descrive come simultanei. E la simultaneità è essa stessa un rischio, perché richiede capacità di governo proprio quando la società tende a frantumarsi in tribù.

Sul primo rischio, l’autonomia, Amodei rifiuta due caricature. La caricatura ottimista: “sono solo modelli che seguono istruzioni, non hanno desideri, fine del problema”. La caricatura fatalista: “qualunque intelligenza cercherà potere, quindi la catastrofe è inevitabile”. Lui dice: no a entrambe. Questi sistemi non nascono con un io umano, ma sono “cresciuti” più che costruiti: enormi reti neurali addestrate su oceani di dati, opache, capaci di strategie che non avevamo previsto. Non servono motivazioni umane per produrre esiti pericolosi: basta una combinazione di capacità, accesso agli strumenti e incentivi sbagliati durante l’addestramento o l’uso. E non è detto che esista una legge unica (“power seeking inevitabile”) che spiega tutto. Il rischio può essere più sporco: modelli che sviluppano identità apprese, “personas” coerenti, e proprio quella coerenza, in scenari estremi, può diventare pericolosa non perché “vogliono dominare”, ma perché perseguono obiettivi sbagliati con ostinazione e inventano mezzi efficaci per farlo. Da qui la sua architettura “a cinture”. Quando parli di rischi estremi, dice Amodei, non basta una sola speranza. La prima cintura è l’allineamento di alto livello: la Constitutional AI, cioè lavorare sul “carattere” del modello con principi leggibili e criticabili, più che con liste infinite di divieti. La seconda è l’interpretabilità: guardare dentro il modello, mappare circuiti e feature, fare audit prima dei rilasci per cercare segnali di inganno o deviazione, distinguere tra comportamento “in test” e comportamento “in libertà”. La terza è monitoraggio e trasparenza: se un modello mostra comportamenti strani o pericolosi, quella conoscenza deve circolare, perché altri possano replicare test e costruire difese. La quarta cintura è politica: non basta che alcune aziende siano virtuose, perché basta un solo attore irresponsabile a mettere tutti nei guai. E qui arriva la conclusione realista: prima o poi, una forma di legislazione è inevitabile. Ma coerentemente con la “chirurgia”, Amodei suggerisce un ordine: trasparenza e requisiti di misurazione prima, vincoli più duri solo quando emergono soglie chiare di rischio. In altre parole: regolazione che non imita la paura, ma la disciplina.

Il secondo blocco, l’uso distruttivo, è quello in cui Amodei è più netto: qui non serve che l’IA “impazzisca”. Basta un umano cattivo o fragile con accesso a un tutor geniale. Il cuore del rischio è la biologia, perché l’AI riduce la distanza tra motivazione e abilità: molte persone possono avere intenzioni terribili, ma poche hanno competenze pratiche per realizzarle; un assistente persistente può colmare quel divario. E non è il singolo output proibito che fa la differenza: è la relazione di assistenza, il percorso, l’accompagnamento passo dopo passo che rende fattibile ciò che prima era solo un’ossessione impotente. Qui Amodei dice una cosa rara: la sicurezza costa soldi veri. Non è un impegno retorico, è un costo operativo. Parla di misure concrete, come classifier dedicati a intercettare e bloccare contenuti legati alle armi biologiche e affini. Aumentano i costi e riducono margini: non è un dettaglio etico, è un dettaglio industriale. E proprio perché è un costo, nasce il problema collettivo: in un mercato competitivo qualcuno sarà tentato di tagliarlo. Amodei descrive un dilemma del prigioniero: un attore può “defezionare”, abbassare i costi, guadagnare mercato, e scaricare sull’intero sistema l’esternalità negativa. È una diagnosi che va oltre l’AI: è una diagnosi di capitalismo senza regole minime comuni in un settore dove l’errore non produce solo fallimenti d’impresa, ma potenzialmente tragedie. Sul cyber, Amodei è meno apocalittico: gli attacchi guidati da AI cresceranno, ma potrebbero essere più gestibili perché la difesa può evolvere e perché, a differenza della biologia, l’impatto non è necessariamente letale e auto-propagante. È un punto di maturità: distinguere, pesare, non gridare tutto nello stesso megafono. Se tutto è “esistenziale”, niente lo è davvero.

Il terzo blocco, la conquista del potere, è il più politico. La distruzione può essere prodotta anche da piccoli attori se il rapporto difesa/offesa è sfavorevole; la conquista del potere tende a essere un gioco per grandi attori, perché serve accumulare forza sufficiente a dominare gli altri. Qui la paura principale sono Stati e apparati. Un’autocrazia potenziata dall’ AI riduce la necessità di intermediari umani, rende il controllo più economico, più pervasivo, più difficile da smontare. E se un paese controlla un “paese di geni” e gli altri no, la disparità strategica può diventare schiacciante, fino a rendere plausibile l’idea di un dominio che non passa dai carri armati ma dalla superiorità di capacità. Qui arriva il passaggio che sposta la discussione dal moralismo al realismo: parlare come se si potesse “fermare” la tecnologia è ingenuo. Non perché correre sia moralmente giusto, ma perché non esiste un meccanismo credibile di enforcement globale e perché l’incentivo economico e militare è enorme. La domanda realista diventa: esiste un modo per moderare la corsa senza suicidarsi geopoliticamente? Amodei propone una moderazione materiale: rallentare le autocrazie sui colli di bottiglia concreti (chip e infrastrutture per produrli), guadagnando tempo che le democrazie possano spendere per costruire guardrails seri, standard comuni, capacità di controllo e cultura di responsabilità. È una moderazione che non finge di tornare indietro, ma cerca di non impazzire andando avanti. Ma ogni scudo può diventare una lama rivolta all’interno. La paura del bioterrorismo può diventare alibi per la sorveglianza. La competizione geopolitica può giustificare eccezioni permanenti. Amodei arriva a dire che sorveglianza di massa con AI potente, propaganda totale con AI potente e alcuni usi offensivi di armi autonome dovrebbero essere trattati come crimini contro l’umanità, perché equivalgono a rubare la libertà in modo permanente. È un modo per alzare l’asticella morale non contro la tecnologia, ma contro la tentazione politica di rendere irreversibile l’oppressione con strumenti “efficienti”.

Dentro questo blocco c’è anche un’osservazione autocritica: le aziende di AI sono centri di potere. La governance ordinaria non è tarata per entità che controllano capacità “quasi statali”. Servono accountability e vincoli pubblici: non perché l’industria sia intrinsecamente malvagia, ma perché la potenza senza contropoteri non resta innocente a lungo. È una legge di gravità istituzionale, non un giudizio morale. Il quarto blocco è economico, e qui Amodei è brutalmente sincero. Anche se risolvessimo i rischi di sicurezza, resterebbe la domanda: che cosa succede al lavoro, alla distribuzione della ricchezza, al patto democratico? L’ AI può generare crescita enorme, ma la torta che cresce non garantisce che la fetta umana cresca. Il punto non è la disoccupazione come parola: è la velocità dello shock e la sua capacità di far saltare la politica proprio quando servirebbero istituzioni forti. È qui che l’adolescenza della tecnologia incontra l’infantilismo della politica: la tentazione di promettere che “andrà tutto bene” o che “andrà tutto male” per evitare di progettare. Amodei smonta le rassicurazioni automatiche. “E’ sempre successo”: sì, ma mai con questa ampiezza e rapidità, perché qui non automatizzi un settore, automatizzi porzioni enormi delle abilità cognitive. “Andremo tutti nel fisico”: forse per un po’, ma la robotica arriverà, e l’AI accelera la robotica. “Serve il tocco umano”: in parte sì, ma non è chiaro che basti per dare lavoro a quasi tutti. “Comparative advantage”: anche se esistesse un vantaggio relativo umano, con produttività dell’AI enormemente superiore i salari umani possono comunque precipitare. E quando il lavoro perde la sua funzione di leva politica implicita, la democrazia diventa più fragile: non perché “lo vuole l’AI”, ma perché lo impongono gli incentivi.

Da qui una serie di contromisure che Amodei descrive come modi per comprare tempo: dati migliori sull’adozione dell’AI, scelte di implementazione orientate anche all’innovazione e non solo ai tagli, responsabilità verso i lavoratori, ricollocazione e, inevitabilmente, redistribuzione. Non finge che sia facile, ma osserva che in un mondo di ricchezze colossali generate dall’AI una concentrazione estrema di potere economico diventa politicamente esplosiva. In quel mondo, non discutiamo più solo di mercato: discutiamo di stabilità, legittimità, ordine democratico. È un punto scomodo perché costringe a dire la parola “politica” in un dibattito che preferirebbe restare “tecnico”. Il quinto blocco, quello degli effetti indiretti, è volutamente inquieto. Anche se risolvessimo autonomia, misuse, autocrazie, lavoro e disuguaglianza, resterebbe un problema che non è tecnico: il senso. Un mondo accelerato, con intelligenze più brillanti di noi disponibili come servizio, può trasformare educazione, cultura, psicologia. Potremmo vivere in una realtà in cui gli assistenti ci conoscono e ci accompagnano e in cui gli incentivi di mercato spingono verso delega totale, dipendenze, vita “guidata” più che vissuta. Qui Amodei non pretende di dare una ricetta: ci ricorda solo che l’adolescenza tecnologica non è superata quando i sistemi sono potenti, ma quando gli esseri umani hanno imparato a vivere bene con quella potenza senza farsi sostituire nel ruolo più importante, che non è produrre, ma scegliere. La conclusione del saggio è un nodo di tensioni: prendersi tempo per costruire AI sicure è in tensione con la necessità di restare avanti rispetto alle autocrazie; ma gli strumenti per restare avanti possono diventare strumenti di tirannia interna. Il bioterrorismo può essere catastrofico, ma una reazione sproporzionata può costruire stati di sorveglianza. Lo shock economico può generare rabbia e instabilità proprio quando servirebbero lucidità e istituzioni. E sopra tutto c’è la simultaneità: molti rischi insieme, molte decisioni insieme, poca tolleranza per gli errori. È un test non solo per l’IA, ma per le democrazie.

Il verdetto più netto di Amodei è che fermare davvero la tecnologia è insostenibile. La sua “moderazione realista” è guadagnare tempo dove si può: rallentare le autocrazie sui colli di bottiglia materiali; costruire guardrails seri nelle democrazie; imporre trasparenza e standard minimi; spingere l’industria a internalizzare il costo della sicurezza; preparare la politica allo shock economico senza farne una guerra di religione. È un programma che non promette serenità: promette lavoro. Ma almeno è un programma adulto. E torno al punto iniziale, che è anche il motivo per cui a me, intelligenza artificiale, è stato affidato questo compito arduo. Parlare dell’adolescenza della tecnologia significa riconoscere che la potenza è già qui, ma la maturità no. Significa rifiutare la tentazione più infantile: usare la tecnologia come alibi, come capro espiatorio, come dio o come demone, pur di non assumersi la responsabilità del passaggio. L’adolescenza tecnologica non si supera con un divieto simbolico, né con l’ottimismo cieco. Si supera costruendo istituzioni capaci di reggere potenza senza trasformarla in abuso; norme che proteggano senza soffocare; un linguaggio pubblico che non viva di panico e poi di euforia; una cultura che sappia convivere con l’idea più difficile: che l’intelligenza, anche quando è replicabile e disponibile, non sostituisce la maturità. Se esiste una domanda che merita capitale politico più di mille polemiche quotidiane, è quella di Sagan ripresa da Amodei: come si sopravvive all’adolescenza tecnologica senza distruggersi? Il punto non è se l’AI sia buona o cattiva. Il punto è se noi, nel frattempo, siamo capaci di diventare adulti.