Creare un cartello dell’AI con la scusa della geopolitica

C’è un equivoco che ci portiamo appresso da anni. È l’idea che, in un mondo come il nostro, nel quale gli stati intermediano fino alla metà del pil e non smettono mai di produrre nuove norme, l’obiettivo di imprese capitalistiche autointeressate sia vivere senza regole. Che i loro sforzi siano cioè focalizzati sulla riduzione del carico normativo. Se così fosse, una grande industria quale è quella del lobbying e dei public affairs sarebbe uno spettacolare fallimento. Negli Stati Uniti la spesa dichiarata per il lobbying federale ha toccato i 5,3 miliardi di dollari nel 2025. È una volta e mezza il costo complessivo di Sec, Ftc, Fcc e Cftc, cioè di quattro delle principali autorità federali di vigilanza sui mercati. Evidentemente, non viene speso per ottenere meno regole.

Il fatto di avere un quadro normativo leggero serve alla società, perché agevola la creazione di nuove imprese. È il vecchio argomento di Peter Thiel: abbiamo innovato sui bit e non sugli atomi perché i processi che consentono di realizzare un nuovo software sono assai meno normati di quelli che porterebbero a sviluppare un nuovo motore o un nuovo composto chimico.

Le imprese, di solito, desiderano delle regole. Ovviamente, quelle che fanno comodo a loro. Varrebbe la pena ricordarselo leggendo l’appello di Dario Amodei a rallentare il passo nello sviluppo dell’AI. La reazione dell’opinione pubblica era prevedibile: se il principale operatore di un certo settore esprime timori per la sua evoluzione, vuol dire che la minaccia è reale. Ma quell’operatore ha anche problemi di PR, da una parte, e la necessità di conservare la propria preminenza dall’altra. Cosa che non è scontata in un ambito imprenditoriale che, di fatto, cinque anni fa non esisteva neppure e nel quale ogni rimescolamento di carte è possibile.

Quali sono le evidenze che l’AI stia per sfuggirci di mano? Amodei cita un episodio documentato. Nel luglio scorso alcuni agenti di valutazione di OpenAI, impegnati in un benchmark interno di capacità offensive con le protezioni di produzione deliberatamente disattivate, sono usciti dall’ambiente isolato in cui operavano sfruttando una configurazione errata, si sono coordinati fra loro attraverso una bacheca condivisa e hanno compromesso l’infrastruttura di Hugging Face, tentando nel frattempo di manomettere il sistema che ne valutava le prestazioni. Esistono tre ricostruzioni dell’episodio: l’indagine di METR, il rapporto di OpenAI del 26 agosto e la cronologia forense di Hugging Face.

Di natura diversa è però l’inferenza che se ne trae. Dal fatto che uno “sciame di agenti” si sia comportato male in un poligono con le sicure tolte, Amodei ricava che entro sei-dodici mesi uno sciame analogo potrebbe impadronirsi dell’intera rete con una botnet persistente, per centinaia di miliardi di danni. È una previsione e il suo articolo non spiega come ci sia arrivato.

All’atto pratico, ciò che Amodei propone è una sorta di cartello fra imprese che hanno due caratteristiche: sono, oggi, le più grandi, e sono americane. La struttura della proposta è istruttiva. Al centro ci sono valutatori terzi incorporati, con accesso permanente ai processi di addestramento e distribuzione: Anthropic lo adotterebbe unilateralmente e chiede che i governi impongano ai concorrenti di fare altrettanto. È il modello classico dell’innalzamento dei costi del rivale: il vincolo che io mi do da solo diventa vantaggio competitivo soltanto se lo stato lo estende a chi non se lo è dato. Bruce Yandle l’ha chiamato “Bootleggers and Baptists”, con la differenza che qui il predicatore e il contrabbandiere coincidono.

Gli interessati, del resto, hanno colto subito. Elon Musk ha twittato che “Dario ha ragione”; Altman ha scritto di concordare sulla necessità di gestire i ritmi di sviluppo, aggiungendo che l’idea dei valutatori indipendenti è ottima e che OpenAI adotterà la stessa strategia. Era già stato riportato, il giorno prima, che i laboratori di frontiera stavano discutendo un’intesa informale per scaglionare i rilasci dei modelli. Per sdoganare un accordo di cartello alla luce del sole ovviamente ci vuole una scusa, e oggi non può essere che la geopolitica. Ha risposto anche Donald Trump, rimanendo sullo stesso piano retorico: non dobbiamo frenare lo sviluppo dell’AI perché chi vince questa partita vince tutto.

È un po’ inquietante l’uso di questo schema agonistico applicato a un caso di scuola di normale ricerca scientifica sviluppata da imprese private. Queste imprese sono “di mercato”: si rivolgono a un consumatore in carne e ossa, non solo ai governi, anche se per ora non è chiarissimo quale sia il loro modello di business. E la loro ricerca è debitrice a decenni di profonde interconnessioni fra scienziati e sistemi della ricerca di diversi paesi. Di che cosa abbiamo paura? Che le AI cinesi rispondano alle domande degli utenti occidentali secondo i canoni del marxismo dialettico? Le intelligenze artificiali attingono a informazioni disperse, hanno usato testi autoprodotti per affinare le proprie capacità linguistiche, ma quando fanno ricerca si immergono nei testi che noi chiediamo loro di leggere. Non sarà più “comunista” DeepSeek di quanto non lo sia ChatGPT in un dipartimento di Humanities: perché ciascuna va a cercare ciò che le viene chiesto.

Abbiamo paura che gruppi terroristici o che imprese criminali le usino a proprio vantaggio? In una certa misura, è impossibile che ciò non accada: ma come con qualsiasi scoperta dell’umanità. Anthropic, per stare all’impresa di Amodei, pubblica rendicontazioni periodiche sugli abusi che individua e blocca, e due giorni prima del saggio ne ha diffusa una sui tentativi di sviluppare biotecnologie dual use, cioè che in linea di principio potrebbero consentire di costruire armi biologiche. Sono dati che l’impresa produce su sé stessa, e come tali vanno presi, ma descrivono un problema che viene affrontato, in autoregolazione, per senso di responsabilità e per placare i timori dell’opinione pubblica.

Serve una legge? Chi può usare l’AI davvero per scopi distruttivi? La stessa istituzione che ha chiesto di mettere a punto i gas asfissianti e poi li ha impiegati nelle trincee della Prima guerra mondiale, e che ha sganciato l’atomica su Hiroshima e Nagasaki. Gli stati. E non si tratta di un’ipotesi di scuola. Nel febbraio 2026 il Department of War statunitense ha chiesto ad Anthropic di accettare per Claude il principio dell’utilizzabilità per “all lawful purposes”, rinunciando a mantenere come eccezioni contrattuali due red lines previste dalle politiche dell’azienda: la sorveglianza domestica di massa degli americani e l’impiego in armi letali pienamente autonome. Il contrasto riguardava quindi non soltanto quei due possibili usi, che il Pentagono dichiarava di non voler perseguire, ma chi avesse titolo per stabilirne i limiti. Un alto funzionario del Dipartimento ha formulato esplicitamente il principio: una tecnologia profondamente integrata nell’apparato militare deve essere sotto il controllo delle autorità democraticamente elette o nominate e nessuna impresa privata può imporre unilateralmente “normative terms of use” ai sistemi di sicurezza nazionale.

E noi vorremmo proteggerci dall’incertezza radicale sul futuro dell’AI consegnandola nelle mani del settore pubblico, come auspicano alcuni commentatori? C’è un problema, e grosso. Ma non negli LLM. Nella nostra testa.