Lo scontro fra Amodei e Hegseth è ormai sui fondamenti dell'AI

Una pagina di comunicato, dritto al punto. Le intenzioni di un neurodivergente non sono sempre facili da spiegare razionalmente, ma quelle di Dario Amodei sembrano non solo ambire a costruire un halo effect intorno al brand di Anthropic, ma a costruire delle vere linee guida etiche intoccabili intorno agli sviluppi dell’AI di oggi e domani.

La lettera del ceo dell’azienda che pare destinata a soppiantare OpenAI come guida dello sviluppo degli LLM mondiali è uno schiaffo in faccia apertissimo al dipartimento della Difesa – pardon, della Guerra – trumpiano. Nel riconfermare le priorità di Anthropic, Amodei accusa infatti Washington di trascurare aspetti che rischiano di essere esiziali già oggi. Non parliamo  di scenari alla “Black Mirror”, ma di rischi concreti e sensibili.

Leggi anche:

l'analisi

Quando “fare i bravi” costa caro: Anthropic e l'ultimatum del Pentagono

Andrea Trapani

Amodei è fermo e disponibile a perdere il suo più grande cliente, se non vengono risolte due questioni fondamentali: la sorveglianza di massa domestica e le armi totalmente autonome. Spesso, nella narrazione della Casa Bianca, si sostiene che l’Amministrazione possa – e in qualche misura debba – concedersi un approccio più leggero rispetto alle barriere di protezione fondamentali suggerite dagli esperti di settore, oltre che dal buonsenso, in funzione di uno spauracchio principale: il fatto che la Cina – che si stima questi cavilli etici non se li stia ponendo – ci arrivi prima. E’ in nome della competizione che riprende i toni epici di una certa Hollywood degli anni Ottanta che a Washington invocano un approccio pragmatico alla corsa all’AI, che badi al sodo senza curarsi di lacci e limitazioni che si autoinfliggono paesi percepiti più burocratizzati. Serve allora che gli scrupoli che Trump non si pone se li ponga qualcun altro. Succede di rado, perché gli altri fornitori del settore (in primis la Palantir di Alex Karp) considerano un argomento woke le questioni etiche – un  fattore che spesso ha   ripercussioni anche molto pragmatiche.

Nella sua lettera Amodei non usa toni antagonisti: dice anzi di essere favorevole all’uso dell’AI per l’intelligence e controspionaggio all’estero, purché questo rientri nel perimetro della legalità. Ciò a cui si oppone è invece  la sorveglianza di massa dentro i confini, che Amodei considera incompatibile con valori democratici perché introduce rischi nuovi per le libertà fondamentali. Il punto tecnico-politico è questo: oggi lo stato può comprare da fonti “pubbliche” (data broker ecc.) dati molto dettagliati su spostamenti, navigazione web e relazioni degli americani senza mandato. Finché la legge lo consente, e solo perché non ha ancora incorporato la nuova potenza dell’AI. Con modelli avanzati, dati frammentari e apparentemente innocui diventano un profilo totale della vita di chiunque, in automatico e su scala enorme.

Sull’altro punto dirimente, Amodei riconosce che armi parzialmente autonome (come quelle già impiegate in Ucraina) possano essere importanti per la difesa. Ammette inoltre che, in teoria, armi pienamente autonome potrebbero diventare cruciali per la difesa nazionale. Però sostiene che oggi i sistemi di frontiera non sono abbastanza affidabili per togliere davvero l’umano dal ciclo decisionale: a oggi sarebbe un rischio per militari e civili, ed è su questo che chiude alla discussione, sostenendo esplicitamente che non fornirebbe mai in maniera consapevole un prodotto del genere. Amodei aggiunge infine che ha proposto al dipartimento alla Difesa di lavorare insieme su ricerca e sviluppo per aumentare l’affidabilità dei sistema, ma l’offerta non è stata accolta.

Da europei, fa bene al nostro spesso bistrattato morale leggere che le priorità di Amodei sono anche quelle fondative dell’AI Act, che reputa l’uso di tecnologie così come pare vorrebbero adottare a Washington un “rischio intollerabile”. Nel gioco delle parti che spesso ci dipinge come il vaso di coccio tra le grandi superpotenze, i meccanismi farraginosi della burocrazia europea potrebbero rivelarsi più efficaci di quanto certe caricature suggeriscano, per evitare, almeno sul nostro suolo e per nostra mano, disastri al momento difficilmente immaginabili.