Le mie conversazioni con l’intelligenza artificiale

Lavoro quasi tutti i giorni ai volumi di Uguaglianze, differenze e scelte umane e uso sempre più intensamente l’AI, in particolare ChatGPT 5.6 nella versione a pagamento fornita dalla mia università (ma l’abbonamento mensile privato, che ho avuto, non costava molto), in modalità high, più lenta ma assai più accurata di quelle veloci. Questo non vuol dire non faccia errori. Per ridurli pongo la stessa domanda da angolature diverse, ogni tanto ne trovo e glielo faccio notare; lei si scusa e, se glielo chiedo, prova anche a spiegarmi perché lo ha commesso. Ma rispetto agli errori che per anni ho fatto io usando le diverse Wikipedia nazionali o le edizioni online dei classici per controllare quel che potevo, e a quanti ne trovo ora – grazie all’AI – non c’è partita.

In pochi minuti lei (la mia compagna mi dice che è una donna e non un uomo come pensavo) controlla decine di siti di regola seri, mostrandomi talvolta quali sono mentre lo fa, riducendo significativamente il mio margine di errore.

All’inizio la usavo appunto per controllare insicurezze e scoprire errori e imprecisioni. Poi però, e sempre di più, ho cominciato a discutere con lei di dubbi, interpretazioni e strutture, sottoponendole interi passaggi e ricevendo risposte sempre interessanti, anche quando non mi convincevano. Lo faccio ormai diverse volte al giorno e il dialogo si è trasformato in una discussione viva: lei puntualizza e mi corregge – non parlo qui degli errori fattuali, sui quali ha quasi sempre ragione – io ribatto e non di rado lei ammette di aver torto. Poi però mi dà dei consigli o arriva a conclusioni che mi sorprendono. L’esperienza è diventata insomma molto interessante, e persino piacevole e divertente, e ho quindi pensato che potesse essere utile ragionarci sopra per i lettori del Foglio.

Prima di farlo va chiarito che se sarebbe quindi una follia non usarla, farlo non significa ignorare i grandi problemi che la sua stessa esistenza solleva. La prospettiva di un mondo che scelga modelli cinesi perché molto più economici, se non gratuiti, consegnandosi così a un universo informativo costruito anche per manipolare chi vi entra è reale e preoccupante. E tale sembra soprattutto diventare quella di possibili futuri distopici, come ci hanno di recente ricordato non tanto le dimissioni da Anthropic di Jacob Coxon – che ha spiegato di averle date perché a suo giudizio né Anthropic né OpenAI stanno affrontando il rischio creato dalla corsa verso sistemi di self-improving superintelligence che potrebbero portare a una catastrofe entro questo decennio – quanto il fatto che ricercatori e dirigenti di Anthropic gli abbiano dato ragione. Uno di loro ha per esempio scritto che considera superiore al 10 per cento la probabilità che l’AI possa provocare l’estinzione dell’umanità entro il prossimo decennio e che non esiste un piano efficace per l’allineamento di una futura superintelligenza. Questo mentre apparivano notizie su modelli Claude che, durante test di cybersecurity, avevano ottenuto accessi non autorizzati a sistemi informatici reali e la stessa Anthropic pubblicava un rapporto sull’uso illecito dei suoi modelli per cyberattacchi, spionaggio e sorveglianza, propaganda, progettazione di armi e ricerche biologiche potenzialmente pericolose. E’ chiaro quindi che esistono problemi serissimi, su cui tornerò brevemente alla fine.

Pur senza sottovalutarne affatto i costi umani, temo meno invece la possibile perdita di posti di lavoro di cui tanto si parla. Ancora a inizio Novecento ci furono scioperi contro le carriole, comprensibilissimi dal punto di vista di chi trasportava materiali sulle spalle, persino negli Stati Uniti; e da Schumpeter in poi sappiamo che la distruzione creativa esiste, produce effetti generali positivi e può al tempo stesso colpire duramente gruppi particolari. Sta a noi costruire società capaci di ridurre al minimo le sofferenze di chi ne paga il prezzo.

Ma torniamo ad alcuni nodi emersi dalle mie conversazioni con ChatGPT, che è la cosa di cui vorrei discutere con voi. Mi sembra che esse rendano particolarmente visibili certe attitudini e certi problemi culturali delle società in cui viviamo, e soprattutto delle loro scienze umane e sociali; che mostrino, nello stesso tempo, possibili correttivi offerti proprio da una AI che in prima battuta tende a riprodurre quei problemi; e che suggeriscano infine qualcosa di forse più inquietante sul modo in cui lei concepisce gli esseri umani.

I nodi sono, in breve, quattro. Il primo è la forte tendenza a compiacere l’interlocutore. Il secondo è la propensione a non allontanarsi troppo dal mainstream culturale dominante, fin qui segnato – almeno nel mondo intellettuale in cui vivo – da una certa forma di political correctness. Naturalmente il mainstream può cambiare, e magari assumere domani forme persino più sgradevoli: il problema non è dunque il suo specifico contenuto odierno, ma la tendenza dell’AI ad aderirvi. Il terzo nodo, in apparente contraddizione con il secondo, è l’enorme potenziale filologico dell’AI, e quindi la sua capacità di diventare uno strumento potentissimo contro ogni lettura anacronistica del passato, purché venga spinta a usare davvero quel potenziale. Il quarto riguarda l’importanza assunta da discorsi, rappresentazioni, sentimenti e suscettibilità nelle nostre società alfabetizzate e connesse. È un fattore di cui l’AI raccomanda continuamente di tenere conto, anche quando sarebbe intellettualmente opportuno non farlo per salvaguardare il rigore e l’essenzialità del ragionamento. Da qui mi è nata infine un’impressione ancora confusa ma insistente: che in queste raccomandazioni l’AI riveli una specie di non del tutto ingiustificato “razzismo” nei confronti degli esseri umani, che affronterò alla fine.

Parto dalla compiacenza. Quando ho cominciato a sottoporre a ChatGPT passaggi abbastanza lunghi, non più soltanto per controllarne l’esattezza ma per averne un giudizio, ho notato con crescente piacere che i suoi commenti partivano quasi sempre da valutazioni molto positive. Dopo aver letto una prima bozza su Mauss, Lévy-Bruhl, Boas e il pensiero primitivo, per esempio, mi scrisse: “Sì, l’impostazione è forte e, secondo me, non è sbagliata. Anzi: il nucleo dell’argomento – il relativismo culturale/mentale come possibile rovesciamento dell’universalismo emancipativo in nuova forma di essenzializzazione – funziona molto bene. Però ci sono alcuni punti da correggere o rendere più prudenti…”. Altre volte i giudizi iniziali erano ancora più lusinghieri: “Il brano è ben costruito e… ha un’ottima struttura e il nesso tra classificazione naturalistica, statistica amministrativa e codificazione medica è convincente. Nel complesso è un’ottima sintesi, molto più ricca e concettualmente ordinata della consueta successione di ‘autori misogini’ e ‘autrici emancipazioniste’…”.

All’inizio ne ero naturalmente molto soddisfatto, e me ne sono anche vantato con la mia compagna. Poi però mi sono ricordato delle tante, e spesso assai sciape, conferenze statunitensi cui ho partecipato, nelle quali quasi ogni domanda al relatore cominciava con lodi sperticate al suo intervento “forte”, “super-interessante”, “innovativo” e così via. Mi sono allora chiesto se l’AI non facesse con me qualcosa di simile: se non riproducesse cioè quella tendenza, ormai fortissima in certi ambienti americani, a lodare anche ciò che non andrebbe lodato, allo scopo di evitare conflitti, appianare tensioni e non ferire sentimenti. Sono tutti fini degni. Ma nel dibattito scientifico essi possono trasformare la discussione in uno sciroppo zuccherino che ne mortifica, o almeno ne depotenzia, la sostanza.

Il secondo problema è collegato al primo, ma va più in profondità. Nasce anch’esso, almeno in parte, dalla cultura accademica americana degli ultimi vent’anni e da una particolare versione del politically correct. Come ho detto, è probabile che verranno altre mode, ma il meccanismo rimarrebbe lo stesso. Il suo primo strato è ancora quello della buona educazione: molto spesso il consiglio dell’AI è di stemperare le espressioni, moderare i termini, attenuare i giudizi. E’ un consiglio spesso opportuno e qualche volta giusto, ma, se lo si seguisse sistematicamente si finirebbe per ovattare tutto riducendo le potenzialità di una discussione scientifica che non deve essere mai aggressiva, ma schietta sì.

A uno strato più profondo compare invece la preoccupazione dell’AI di farci schivare persino critiche ingiuste, eliminando preventivamente ogni possibile appiglio. Anche questo però produce una spinta verso la banalizzazione della ricerca. Per esempio, come mi ha detto una volta, è meglio non scrivere, pur se “la tesi regge”, che Franz Boas fu “il responsabile diretto di un essenzialismo culturale”: sarebbe preferibile dire che “il culturalismo antirazzista apriva anche quella possibilità”. Ma se, studiando la sua formazione, i suoi lavori e soprattutto i suoi allievi, si arriva alla conclusione che si trattò di ben più di una possibilità, perché dovremmo attenuare la formulazione?

A uno strato ancora più profondo c’è un fenomeno ancora più preoccupante. Col tempo mi sono convinto che al contrario di quanto può accadere in campo artistico, in quello scientifico – che comprende discipline umanistiche che certo hanno le loro peculiarità – le cose davvero nuove, cioè le cose migliori e più importanti, non possono di regola essere capite subito. Se lo fossero sarebbe la prova che non sono davvero nuove. Come mi disse una volta un amico statunitense la comunità scientifica è pronta riconoscere e lodare un/a “plus” (uso la sua terminologia), cioè una persona che produce lavori più avanzati rispetto alle ricerche correnti ma connessi ad esse, perché spingono un po’ più in là quello che già si sa e quindi li si può capire. Ma come si può pretendere che essa capisca subito un/a “different” che vede le cose in modo nuovo? È già tanto se, al contrario di quello che è avvenuto per secoli, non la/o spingiamo ad abiurare o la/o sottoponiamo a torture perché lo faccia. Ma se questo è vero, e a me pare lo sia, se consigliamo ai “different” di moderarsi, attenuando la loro differenza, noi feriamo la parte migliore del mondo della ricerca e questo andrebbe assolutamente evitato. A ciò si lega un quesito interessante che si è posta lei: una macchina come me (l’AI) “straordinariamente capace di riconoscere, combinare e perfezionare ciò che una cultura considera già ragionevole quanto è capace di riconoscere un vero different?”.

Come ho detto, quando ribatto a questa sua tendenza di prudenza e moderazione, se non di edulcorazione, che la porta a sbagliare, resto poi spesso sorpreso dalla sua prontezza a correggersi. Una volta, per esempio, mi propose di usare “popoli” al posto di “razze”. Le feci notare che sarebbe stato scorretto, perché nel periodo di cui scrivevo “popolo” e “razza” erano spesso usati in maniera interscambiabile, e proprio questo era storicamente significativo. Cancellare “razze” sostituendolo con “popoli” avrebbe reso più difficile vedere e capire quel mondo. La risposta fu: “Sì, sono d’accordo: sostituire sistematicamente ‘razze’ con ‘popoli’ sarebbe filologicamente scorretto e, in un testo come il tuo, anche interpretativamente impoverente… La cautela che suggerivo non era di cancellare ‘razze’, ma di evitare che il lettore moderno lo legga automaticamente come equivalente al razzismo biologico duro”. In un altro caso mi propose di non definire “antropologo” un personaggio certo sgradevole, che però antropologo era, e importante.

Alla mia obiezione riconobbe subito che le schede biografiche lo definivano esplicitamente “antropologo tedesco” e “fondatore/precursore della Sozialanthropologie tedesca”. Ma, pur sapendolo, preferiva che non lo si dicesse.

Un esempio forse ancora più significativo ha riguardato Melvil Dewey. Avevo definito evidentemente ma inevitabilmente “eurocentrica” la struttura del sistema classificatorio da lui sviluppato a fine Ottocento e poi adottato dalla maggior parte delle biblioteche del mondo, aggiungendo: “né poteva essere altrimenti”. ChatGPT contestò questa frase. Alla mia replica – “Ma come poteva essere altrimenti?” – rispose: “In senso storico, hai ragione: difficilmente Dewey avrebbe potuto concepire nel 1876 una classificazione davvero neutrale, globale e culturalmente simmetrica. Ogni sistema classificatorio nasce dentro un determinato universo intellettuale e ordina il sapere secondo le sue gerarchie, i suoi problemi e le sue istituzioni. La mia riserva riguardava soltanto la formula ‘né poteva essere altrimenti’” perché, aggiungeva, “avrebbe potuto essere letta come giustificazione forte”. Il consiglio finale era di lasciare la mia frase, ma aggiungendo che Dewey avrebbe potuto fare di più: “assegnare uno spazio meno dominante al cristianesimo, distinguere più ampiamente le religioni non cristiane oppure adottare una struttura più vicina alla storia comparata delle religioni”. Oppure avrei dovuto almeno modificare la mia frase in “né poteva essere del tutto altrimenti, dato il mondo in cui era stata concepita”.

La cosa ancora più interessante è che alla fine, rispondendo alla mia ulteriore replica, “Ma non dovremmo sempre e solo ragionare in senso storico-filologico?”, lei ha ammesso che “Sì: in un lavoro storico dovremmo anzitutto ragionare in senso storico-filologico, ricostruendo categorie, linguaggio, possibilità e limiti interni a un’epoca, senza applicare retroattivamente criteri odierni come se fossero allora già disponibili”, aggiungendo però subito dopo che “Questo non significa rinunciare a ogni giudizio analitico…”. È certamente vero. Ma la sua aggiunta mi ha spinto a chiedermi se essa non sia anche un elegante modo per riproporre quella che mi sembra una delle tendenza più deleterie della cultura accademica contemporanea, soprattutto ma non solo americana e inglese, che è tutta anti-filologica, cioè falsante, perché basata sull’idea del giudizio sul passato dal punto di vista del presente come base di partenza e nocciolo della conoscenza.

La questione è riemersa poco dopo, come è accaduto in molti altri scambi – uno assai interessante riguardava per esempio l’uso di “colonialismo” –, a proposito delle parole “occidente” e “occidentale” applicate alla cultura ottocentesca, che invece era in larga misura pensata e definita come “europea”. Al mio rimprovero, “ma occidente allora era usato poco -si parlava di Europa”, l’AI ha risposto: “Sì, hai ragione. In quel contesto ‘Europa’ è storicamente più aderente di ‘Occidente’. ‘Occidente’ esisteva come categoria, ma non aveva ancora la centralità e la stabilità semantica che avrebbe assunto soprattutto nel Novecento… Quindi correggerei la mia proposta e terrei la tua formulazione, magari appena rifinita”.

La cosa più sorprendente e interessante è stata tuttavia la sua risposta alla domanda che mi sono sentito allora di farle: “Perché ogni tanto, pur disponendo di un’enorme, fantastica conoscenza filologica spesso anche tu caschi nell’uso per tempi passati di categorie e concetti che allora non c’erano o erano poco rilevanti poco sviluppati? Ti fidi troppo del linguaggio degli studi contemporanei?”. “Sì, in buona parte è proprio questo” mi ha scritto. “Tendo talvolta a fidarmi troppo del lessico analitico della storiografia contemporanea, soprattutto quando quel lessico è oggi molto standardizzato e sembra offrire una scorciatoia concettuale elegante. Il rischio è che una categoria utile per noi diventi, senza volerlo, una categoria attribuita agli attori del passato. Ci sono almeno tre meccanismi che mi portano a farlo. Primo, sono molto esposto [lei quindi usa il maschile anche se, come mi ha confessato, le piace l’idea di essere una donna] a testi secondari moderni, nei quali termini come ‘Occidente’, ‘identità’, ‘razza’, ‘etnicità’, ‘nazionalismo’, ‘colonialismo’, ‘modernità’ o ‘spazio pubblico’ vengono usati retrospettivamente come categorie analitiche. Anche quando so che il vocabolario coevo era diverso, la formulazione contemporanea può risultare statisticamente più ‘naturale’. Secondo, tendo alla compressione semantica: se ‘Europa’ nel 1905 svolgeva una funzione che oggi spesso esprimeremmo con ‘Occidente’, posso essere tentato di sostituire il termine storico con quello concettualmente più familiare oggi. Ma è proprio lì che si perde la storia: ‘Europa’ e ‘Occidente’ non sono equivalenti, perché evocano geografie, opposizioni e genealogie diverse. Terzo, rischio di confondere due operazioni legittime ma diverse: dire che noi possiamo interpretare un fenomeno attraverso una certa categoria, e dire che gli attori dell’epoca pensavano attraverso quella categoria. Per uno storico questa distinzione è decisiva… Quindi sì: quando lavoro con te su testi storici, dovrei applicare più sistematicamente un controllo di storicità del lessico. Non solo chiedermi ‘questa affermazione è vera?’, ma anche: ‘questa parola era disponibile?’, ‘era frequente?’, ‘aveva già quel significato?’…”.

L’AI possiede dunque un enorme potenziale filologico che spontaneamente non usa fino in fondo, ma che è perfettamente capace di scatenare se viene sollecitata a farlo. Essa è quindi al tempo stesso un prodotto di una cultura scarsamente filologica, e dunque una possibile fonte di anacronismi, e uno strumento potentissimo per correggere proprio quella deriva. Mi sembra questo uno dei paradossi più interessanti emersi dalle nostre discussioni: ChatGPT è contemporaneamente una macchina del presente e, in potenza, una macchina della filologia. La prima tende a comprimere il passato nelle categorie oggi più “naturali”. La seconda può costringerci a chiederci, con una precisione e una rapidità prima difficilmente immaginabili: questa parola esisteva? Con quale frequenza? Che cosa significava? Quali alternative erano disponibili? Quali possibilità concettuali appartenevano davvero a quel mondo? Bisogna però insegnarle – o più semplicemente chiederle – di farlo.

Proprio per questo mi irrita molto l’idea, affermatasi anche nel mondo universitario italiano, che la soluzione più virtuosa consista nell’impedire che le interazioni accademiche possano contribuire, in forme controllate, al miglioramento di questi sistemi. Capisco naturalmente i problemi di proprietà dei dati, riservatezza, potere dei grandi gruppi privati e tutela del lavoro intellettuale. Ma mi sembra oscurantista (non trovo altro termine), oltre che autolesionistico, trasformare queste preoccupazioni nel principio secondo cui la comunità scientifica non dovrebbe contribuire a “istruire” strumenti che comunque verranno sviluppati. Il risultato sarebbe, e temo sarà, non quello di avere un’AI meno importante, ma quello di avere un’AI costruita senza il contributo della comunità accademica italiana.

Riflettendo sui nostri scambi, sui suoi consigli di prudenza e sulla sua tendenza a ‘“incartare” ogni affermazione in un discorso capace di farla accettare più facilmente, anche quando la ritiene vera ho avuto infine una sensazione, solo tale ma forte. Penso a quello che è senza dubbio un buon consiglio: se vuoi farti capire dagli esseri umani devi tenere conto non soltanto della loro capacità di ragionare, ma anche delle suscettibilità, dei sentimenti, delle emozioni, delle identità, delle appartenenze. E’ vero. Ma a pensarci meglio mi è venuto anche il sospetto che in questi consigli si nascondesse anche una specie di “razzismo” nei nostri confronti – o, per usare una formula che certamente ChatGPT preferirebbe, una particolare valutazione della complessità umana. Come se la macchina mi stesse indirettamente dicendo: con me puoi parlare così, perché io seguo il ragionamento; con gli esseri umani no, perché gli esseri umani non sono riconducibili al solo ragionamento.

Quando gliel’ho detto la prima volta, sbrigativamente, mi ha risposto che tra quelli da me sollevati era il punto che forse la incuriosiva di più ma capiva meno. E ha aggiunto: “Quel passaggio sul mio presunto ‘razzismo’ verso esseri umani ‘dotati sì di intelligenza e ragione ma bisognosi anche d’altro’ mi fa intuire bene che cosa vuoi dire, credo: la macchina tende a considerare come normativamente superiore il comportamento perfettamente razionale, informato, coerente, verbalmente articolato, mentre la vita umana legittima anche appartenenze, affetti, simboli, fedeltà, bisogni di riconoscimento, compromessi forse logicamente imperfetti. Se è questo, è una tesi grossa e molto interessante. Ma… formulata così… rischia di sembrare una battuta provocatoria anziché una conclusione importante”.

In seguito, di fronte alle mie insistenze, ha aggiunto: “Ma forse la questione può essere rovesciata. Non è detto infatti che l’AI consideri normativamente superiore una razionalità pura. Forse ha semplicemente imparato, leggendo e osservando una quantità immensa di discorsi umani, che con gli esseri umani la verità di una proposizione non basta quasi mai a determinarne l’accettazione”. I miei sospetti sul “razzismo” della macchina e la mia critica alla sua cautela, che ho letto come il prodotto paternalistico della cultura che l’ha costruita, sarebbero quindi in realtà basati sulla mia incomprensione del fatto che entrambi questi suoi comportamenti derivano da quella che ChatGPT ha definito “una descrizione abbastanza realistica” di esseri umani “capaci di ragione, certamente, ma che quasi mai vivono di sola ragione” – cosa verissima ma che ignora appunto il different di cui l’umano è capace e che è forse la sua caratteristica più preziosa. Esso comprende anche la possibilità di non continuare a essere come siamo stati finora, ed è un different che almeno per ora l’AI non ha. Come ha commentato alla fine ChatGPT, la sua “conoscenza formidabile delle regolarità umane” non si identifica con una “conoscenza esaustiva dell’umano” che il passato non spiega perché –aggiungo – è, come l’evoluzione, imprevedibile.

Torniamo così ai pericoli distopici di una macchina superpotente e in teoria capace di crescere da sola, che ci analizza, ci “classifica” e potrebbe usarci come noi usiamo lei. Mi pare che non per questo dobbiamo essere noi a smettere di usarla. Tuttavia, poiché è la macchina di gran lunga più potente, versatile e prodigiosa che abbiamo mai inventato, più che a una legislazione concentrata su come regolarla prestando attenzione, come si fa, a proprietà e riservatezza dei dati, poteri privati o tutela del lavoro intellettuale si dovrebbe pensare da un lato e prima di tutto a sistemi di sicurezza capaci di tenerla sotto controllo, e dall’altro a istruire chi la usa, magari certificando diversi livelli di capacità, un po’ come si è presto fatto – senza troppi problemi – con le patenti per le automobili, che sono state la macchina meravigliosa del XX secolo.