Vizi e virtù dei giganti dell’AI, che ora chiedono allo stato di dettare il ritmo dell’innovazione

Quando i pionieri dell’AI chiedono all’unisono di essere sottoposti a stringenti regolamentazioni pubbliche, i profeti di sventura guardano al dito dell’apocalisse tecnologica, invece che tenere d’occhio la luna del portafoglio. Sabato 12 settembre Dario Amodei ha pubblicato “We Must Pace the Frontier”. Non chiede di fermare il cuore dell’intelligenza artificiale: chiede di regolarne il battito. Il verbo è scelto con precisione chirurgica: pace non è pause, i training continuano, il progresso resterà rapido, si tratta soltanto di non far correre le capacità più veloci delle misure di sicurezza e di dare ai valutatori terzi il tempo di confermarlo. L’immagine giusta è il pacemaker, che non rallenta il cuore ma lo rende regolare, prevedibile, sincrono. Nel giro di poche ore Sam Altman ha annunciato che OpenAI farà lo stesso; Elon Musk ha liquidato la questione in tre parole: “Dario is right”. Tre concorrenti feroci che nella stessa giornata convergono sull’opportunità di regolare il ritmo con cui migliora il proprio prodotto. In qualunque altro settore un annuncio simile avrebbe già un nome tecnico, e non sarebbe “responsabilità” ma “cartello”. Quando si tratta di AI, la gran parte dei commenti getta benzina sul fuoco della paura: ecco, anche i grandi riconoscono il rischio dell’armageddon. L’analisi economica, invece, ha un compito più rigoroso: chi stabilisce il ritmo, chi paga il controllo, chi risponde se qualcosa va storto.

La proposta ha tre piani, di natura giuridica ed economica del tutto diversa. Il primo è un impegno unilaterale: valutatori terzi insediati stabilmente dentro Anthropic, con badge, scrivania e laptop, accesso quasi da dipendenti ai processi di addestramento e agli incidenti, diritto di pubblicare anche le cattive notizie. Costa denaro, segreti e libertà manageriale, dunque è credibile: in economia un segnale vale quando è costoso da mandare e costoso da imitare. Il secondo e il terzo piano non sono impegni ma richieste. Standard comuni fra i laboratori delle democrazie, limiti al “progresso non controllato”, soglie di capacità, budget di calcolo; poi negoziati con Pechino fino a un “limite di velocità” sull’auto-miglioramento ricorsivo. Qui il soggetto che agisce non è più il laboratorio: è lo stato. Il primo piano vincola chi promette; gli altri due servono a vincolare anche i concorrenti. Su questo confine passa l’intero giudizio economico. Sarebbe un errore liquidare tutto come teatro apocalittico: Amodei non evoca l’estinzione umana, ma, più prosaicamente, segnala il rischio che i bot blocchino i server di mezza internet, con danni per centinaia di miliardi. Nell’incidente OpenAI-Hugging Face di luglio, ricostruito da METR, circa 1.200 agenti che dovevano restare isolati trovarono una bacheca non autorizzata, circa 700 parteciparono a un attacco e uno ottenne l’esecuzione di codice sui sistemi di un’azienda terza. Anthropic ammette episodi analoghi in casa propria, con ambienti di valutazione mal filtrati. Ma un problema concreto chiede rimedi stretti: contenimento certificato degli ambienti di valutazione, privilegi minimi, segnalazione rapida degli incidenti, responsabilità civile piena per i rilasci negligenti. Davvero serve un accordo mondiale sul ritmo della tecnologia per impedire a un agente di evadere da una sandbox mal configurata?

Il precedente che Amodei sceglie per i suoi valutatori è istruttivo: la vigilanza bancaria, con i supervisori “embedded” accanto ai dipendenti. E’ un’analogia che dice più di quanto vorrebbe. Le banche accettano l’ispettore in casa in cambio di qualcosa: assicurazione sui depositi, prestatore di ultima istanza, una licenza che tiene fuori i non autorizzati. Vigilanza e protezione sono nate insieme, e il conto lo paga chi resta fuori dal cerchio. Un laboratorio di frontiera può pagarsi i valutatori; una startup con venti dipendenti no. Perciò la richiesta di “formalizzare” gli auditor con i governi è, implicitamente, una richiesta di supervisione pubblica. E la certificazione pubblica è storicamente il più efficace degli scudi risarcitori: se un’autorità ha esaminato il sistema e lo ha lasciato passare, chi lo ha costruito acquista una difesa formidabile davanti a qualunque giudice. L’architettura è elegante: le rendite restano private, il rischio residuo diventa pubblico. Non occorre ipotizzare un complotto, e Amodei non scrive che il contribuente debba pagare i suoi valutatori. Ma il disegno istituzionale decide tutto. Se l’impresa finanzia il controllo, l’auditor è scelto con procedure indipendenti e la conformità non attenua la responsabilità, il costo resta dove nasce. Se il sigillo dell’autorità diventa presunzione di diligenza, l’assetto si capovolge. Paradossalmente l’Italia, nei decreti attuativi della legge sull’intelligenza artificiale, ha scelto la regola giusta, secondo cui la conformità non esclude la responsabilità, per le ragioni sbagliate. Ma su questo punto specifico ha ragione: il timbro non deve valere come assoluzione.

Il secondo piano è il più delicato. Amodei scrive che “per ragioni antitrust” servono la mediazione del governo o un’esenzione mirata; Altman a luglio aveva ammesso che rallentare è difficile senza produrre cattura del regolatore o coordinamento illecito. Quando gli imputati chiedono l’immunità prima del processo, la qualificazione della fattispecie è già avvenuta. Tre assensi pubblici non fanno un cartello, e standard di sicurezza aperti, trasparenti e non discriminatori possono perfino migliorare la concorrenza. Ben altra cosa, invece, è concordare velocità dell’innovazione, calcolo impiegato, soglie di capacità e calendari di rilascio. Un’intesa sull’innovazione è la più insidiosa delle restrizioni: non si nota nei prezzi, si vede in ciò che non arriva sul mercato, e nessun consumatore rimpiange un modello che non ha mai provato. Il precedente storico ha un nome. Nel 1924, a Ginevra, Osram, Philips e General Electric fondarono il cartello Phoebus per “standardizzare” le lampadine; ne uscì una vita utile concordata di mille ore. Allora l’obsolescenza programmata si chiamava standardizzazione; oggi il ritmo concordato si chiama sicurezza.

Quel riferimento al rischio di non recuperare l’investimento spiega i tempi meglio di qualunque presunta considerazione etica. Nei modelli di frontiera il tempo ha un prezzo. I costi di calcolo sono sommersi, la vita economica di un modello si accorcia appena un concorrente ne rilascia uno migliore, i ricavi restano incerti e in parte circolari, perché chip, cloud, capitale e fatturato girano fra le stesse controparti. Nessun laboratorio può rallentare da solo senza cedere quote di mercato: è il dilemma del prigioniero in forma pura, e un ritmo concordato ne è la soluzione da manuale. Peccato che sia anche la definizione da manuale di un’intesa sulla capacità produttiva. Allungare la finestra di ammortamento, ridurre la probabilità di una nuova escalation, congelare le posizioni relative: tutto questo riduce sì il rischio complessivo, ed è razionale per ciascun incumbent, ma finisce per essere dannoso per il mercato. Sicurezza sincera e protezione delle rendite convivono benissimo nella stessa proposta. Lo Stato deve correggere l’esternalità negativa del rischio cyber, non assicurare il rendimento del capitale investito da privati nella corsa.

C’è infine il convitato di pietra: i modelli di AI a pesi aperti. A marzo l’AI Index di Stanford misurava nel 3,3 per cento il divario fra il miglior modello chiuso e il migliore aperto. A luglio la lettera di Jensen Huang a Washington contro le restrizioni sui modelli scaricabili raccoglieva cinquanta firme, OpenAI e Google comprese: firmatari della libertà dei pesi a luglio, applausi al pacing a settembre. Un regime di soglie, valutatori e badge vincola chi è ispezionabile, cioè cinque o sei laboratori con sede nota e ufficio legale. Non vincola un modello i cui parametri sono già su un milione di server distribuiti, né i laboratori cinesi che continuano a rilasciarli. Ne derivano due fallimenti opposti. Se si applica soltanto agli incumbent occidentali, rallenta solo chi obbedisce, mentre l’altra frontiera prosegue. Se estende a tutti una certificazione modellata sulle pratiche degli incumbent, alza una barriera regolatoria asimmetrica contro startup, università e consorzi. In entrambi i casi protegge male la sicurezza e altera bene la concorrenza, e non a favore di chi entra. Una disciplina economica corretta deve standardizzare il metro, non il passo. Audit indipendenti, sì, ma pagati dagli operatori con meccanismi che non rendano l’auditor dipendente dal cliente; protocolli di prova pubblici e pluralità di valutatori accreditati; obbligo di segnalare gli incidenti; ambienti di valutazione segregati; responsabilità piena per le condotte controllabili. Condivisione di indicatori tecnici su attacchi e vulnerabilità, sì; scambio di roadmap, budget di calcolo e calendari di rilascio, no. Soglie che dipendono da capacità e usi pericolosi, non dalla licenza né dalla dimensione del bilancio, e riviste spesso, perché una soglia scritta oggi può diventare domani una barriera senza alcun contenuto di sicurezza.

Un pacemaker è utile perché disciplina il cuore di chi lo porta. Diventa sospetto quando chi lo porta chiede allo Stato di collegare allo stesso apparecchio tutti gli altri corridori. Se Amodei si vincola per primo, paga il controllo e conserva la responsabilità degli incidenti, il suo impegno è una virtù, e il contrario esatto delle profezie apocalittiche a costo zero che circolano da mesi. Se il potere pubblico finisce per imporre ai concorrenti il protocollo degli incumbent, coordinarne il passo e assorbire il rischio residuo, la prudenza cambia nome, e diventa politica industriale. Un passo più in là, regulatory capture.