L’AI può smascherare gli errori scientifici. O renderli più difficili da contestare

Nel 2025 il governo di Donald Trump incaricò cinque esperti, tutti conosciuti per le loro posizioni critiche nei confronti delle conclusioni prevalenti della climatologia, di preparare un rapporto scientifico sugli effetti del cambiamento climatico. Durante la stesura, uno di loro ebbe un'idea apparentemente eccellente: sottoporre il documento a un'intelligenza artificiale, chiedendole di valutarne l'accuratezza scientifica e di cercare eventuali pregiudizi. La risposta fu piuttosto imbarazzante. Il sistema individuò una selezione tendenziosa delle prove, l'omissione di studi importanti e una presentazione dei risultati orientata a minimizzare i danni del riscaldamento globale. Ancora più interessante fu ciò che accadde dopo, quando gli autori cominciarono a utilizzare quelle critiche per migliorare la propria difesa dalle obiezioni che avrebbero ricevuto.

La storia è stata ricostruita da Jessica McKenzie sul Bulletin of the Atomic Scientists, grazie a una vasta corrispondenza privata resa pubblica in seguito a un procedimento giudiziario. È un caso particolarmente istruttivo per comprendere come l'intelligenza artificiale possa modificare il funzionamento della ricerca scientifica, perché mostra direttamente ciò che accade quando uno strumento capace di individuare le debolezze di un lavoro viene utilizzato dalle stesse persone che hanno interesse a difenderne le conclusioni.

Il rapporto era stato commissionato dal segretario americano all'Energia Chris Wright e affidato a John Christy, Judith Curry, Steven Koonin, Ross McKitrick e Roy Spencer, studiosi con competenze scientifiche effettive, scelti per produrre una revisione critica delle conoscenze sul cambiamento climatico. Pubblicato dal Department of Energy nel luglio 2025, il documento sosteneva che numerose conseguenze negative dell'aumento della CO₂ fossero state esagerate, mentre i possibili benefici erano stati sottovalutati. La posta politica era notevole, perché quelle conclusioni potevano contribuire a giustificare l'abbandono delle regolamentazioni federali sulle emissioni di gas serra.

Una causa promossa dall'Environmental Defense Fund e dalla Union of Concerned Scientists portò alla scoperta che il gruppo era stato costituito violando le norme federali sulla trasparenza e sull'equilibrio dei comitati consultivi. Nel gennaio 2026 un giudice riconobbe la violazione e ordinò la consegna dei documenti, consentendo la pubblicazione di oltre centomila pagine di materiali, comprese le comunicazioni tra gli autori.

Da queste emerge che Steven Koonin, fisico ed ex responsabile scientifico della BP, aveva cominciato a sperimentare Microsoft Copilot come assistente nella preparazione del rapporto. Dopo averlo utilizzato per riassumere e riformulare alcuni passaggi, gli chiese una vera valutazione critica. Copilot osservò che le pubblicazioni citate, pur essendo spesso autentiche e scientificamente valide, non rappresentavano adeguatamente l'insieme delle conoscenze disponibili. Per esempio, gli effetti benefici della CO₂ sulla crescita delle piante venivano discussi trascurando i limiti posti dalla disponibilità d'acqua e nutrienti. Il sistema segnalò inoltre un ricorso sproporzionato alle pubblicazioni degli stessi autori del rapporto e di altri ricercatori con posizioni analoghe, accompagnato da un linguaggio che tradiva un orientamento polemico.

La conclusione di Copilot era esplicita: le prove venivano selezionate per sostenere una rappresentazione favorevole degli effetti della CO₂. Questa è una delle distorsioni più insidiose nella comunicazione scientifica, perché permette di costruire una conclusione ingannevole utilizzando risultati veri. È sufficiente escludere sistematicamente le pubblicazioni che contraddicono la tesi desiderata, conservando quelle compatibili. Per scoprire il problema occorre conoscere anche gli studi che l'autore ha deciso di non citare, un compito nel quale l'intelligenza artificiale può essere particolarmente utile.

La reazione dei ricercatori fu inizialmente entusiastica. Judith Curry scrisse che il risultato era sorprendente, persino migliore di quello che si sarebbe potuto ottenere da scienziati reali. Koonin si dichiarò altrettanto impressionato. I due riconobbero quindi il valore dello strumento, ma dalla corrispondenza emerge soprattutto il tentativo di individuare le espressioni che avrebbero potuto far apparire il rapporto pregiudizialmente ostile alla climatologia prevalente. Koonin chiese inoltre a Copilot di scrivere un articolo contrario al documento, per anticipare gli argomenti dei critici e introdurre formulazioni preventive nella versione finale.

Il passaggio è fondamentale. Gli autori avevano ricevuto una contestazione relativa alla scelta delle prove scientifiche, ma la documentazione disponibile mostra che dedicarono particolare attenzione a rendere il testo meno attaccabile. Questo non dimostra che ignorarono tutte le osservazioni sostanziali, né che abbiano affidato all'intelligenza artificiale la stesura del rapporto, circostanza che hanno esplicitamente negato. Mostra però quanto facilmente una revisione critica possa trasformarsi in un esercizio di preparazione alla controversia, nel quale si cerca soprattutto di prevedere e neutralizzare le obiezioni.

Le critiche di Copilot, naturalmente, avrebbero avuto scarso valore se fossero rimaste semplici giudizi di una macchina. La loro fondatezza deve essere stabilita attraverso il controllo indipendente delle affermazioni. Nel settembre 2025 oltre 85 esperti, coordinati da Andrew Dessler e Robert Kopp, pubblicarono un'ampia revisione del rapporto governativo, documentando numerosi esempi di citazioni selettive e rappresentazioni scorrette delle conoscenze disponibili (Climate Experts' Review of the DOE Climate Working Group Report, 2025). In seguito Benjamin Santer e altri quattro climatologi mostrarono su Earth's Future come il rapporto avesse rappresentato erroneamente importanti osservazioni relative alle temperature della stratosfera, utilizzandole per mettere in dubbio una delle prove dell'influenza umana sul clima. Esaminarono inoltre un grafico successivamente presentato in pubblico da Koonin, nel quale comparivano dati osservativi errati, che gli autori del rapporto attribuirono poi a un errore di programmazione (Misrepresentation of Human Climate Fingerprint in DOE Report, 2026).

Il fatto che l'intelligenza artificiale avesse riconosciuto una parte delle distorsioni presenti nel documento non significa che le sue valutazioni fossero sempre corrette. In un passaggio, per esempio, Copilot accettò l'argomento secondo cui sarebbe improprio parlare di acidificazione degli oceani, dato che l'acqua marina rimane alcalina. Si tratta di un errore chimico elementare, perché acidificazione significa diminuzione del pH, indipendentemente dal fatto che il valore finale rimanga superiore a 7. L'assorbimento di CO₂ determina proprio questa diminuzione, come mostrano le osservazioni raccolte dalla National Oceanic and Atmospheric Administration. L'episodio dimostra quanto sia necessario verificare le risposte dei modelli, anche quando altre loro osservazioni si rivelano fondate.

Le comunicazioni successive tra gli autori mostrano poi una crescente insofferenza verso la tendenza dei modelli linguistici a privilegiare la letteratura scientifica prevalente. John Christy osservò che un sistema addestrato su un'enorme quantità di materiale mediocre avrebbe inevitabilmente attribuito troppo valore a quel materiale. Roy Spencer suggerì di insistere con le domande, facendo notare che, con sufficiente perseveranza, talvolta si riesce persino a far cambiare idea a un modello. È un'osservazione corretta sul funzionamento di questi sistemi, che sono sensibili alla formulazione delle richieste; diventa però problematica quando l'obiettivo è ottenere un giudizio più favorevole alle proprie conclusioni.

Arriviamo così al significato generale della vicenda. L'intelligenza artificiale introduce nella produzione scientifica una possibilità straordinaria: sottoporre rapidamente un lavoro a un esame critico esteso, capace di confrontare le affermazioni con una grande quantità di letteratura e di individuare possibili omissioni. La qualità di questa analisi dipende naturalmente dall'accesso effettivo alle fonti e dalla capacità del sistema di interpretarle correttamente. Tuttavia, una volta individuati i punti deboli del documento, lo stesso strumento può essere impiegato per costruire risposte persuasive alle obiezioni senza intervenire sulle cause che le hanno generate.

Le conseguenze rischiano di essere molto serie. Già oggi possiamo produrre testi scientificamente fragili, ma estremamente difficili da contestare sul piano argomentativo, perché ogni critica prevedibile può essere anticipata e accompagnata da una risposta apparentemente competente. Con il miglioramento dei modelli, questa possibilità crescerà ulteriormente. La revisione scientifica rischia così di diventare una competizione tra strumenti automatici impiegati per individuare gli errori e strumenti altrettanto potenti impiegati per difenderli, imponendo ai revisori umani un carico di lavoro sempre maggiore.

Per questo l'intelligenza artificiale potrà migliorare davvero l'integrità scientifica soltanto se il suo impiego critico verrà accompagnato da procedure che rendano documentabili le contestazioni e verificabili le risposte. Un'obiezione fondata dovrebbe lasciare una traccia controllabile, insieme alle fonti che la sostengono e alle modifiche eventualmente apportate al lavoro. Sarebbe così possibile distinguere una correzione scientifica effettiva da una semplice riformulazione che rende meno evidente il problema. La verifica indipendente, inoltre, deve poter accedere a questo processo, perché lasciare interamente agli autori la gestione delle critiche significa consentire loro di selezionare anche quelle che intendono prendere sul serio.