E se l'Ai non volesse distruggerci, ma imparasse da noi anche come comportarsi?

L'intelligenza artificiale sterminerà la razza umana? Eliezer Yudkowsky e Nate Soares, cofondatore e presidente del Machine Intelligence Research Institute, lo sostengono da anni, e nel 2025 lo hanno scritto in un libro il cui titolo è già una tesi: "If Anyone Builds It, Everyone Dies". Soares è tornato sul tema sul New York Times, sostenendo che è venuto il momento di frenare l'evoluzione dell'Ai. Secondo loro, una futura intelligenza artificiale più capace ci ucciderebbe quasi per definizione. Qualsiasi grado d'intelligenza, spiegano, è compatibile con qualsiasi obiettivo; e quasi ogni obiettivo, per essere perseguito, richiede di sopravvivere, procurarsi risorse e non farsi spegnere. Non serve dunque ipotizzare macchine che ci odino, come in Matrix: basta immaginarne che vogliano prosperare e ci siano indifferenti. Nessuno odia il formicaio su cui passa l'autostrada.

Il loro allarme riguarda il modo in cui questi sistemi vengono costruiti. Un modello linguistico non è un software scritto riga per riga: è addestrato a imparare elaborando statisticamente configurazioni di stimoli. Non corrisponde dunque a un "progetto". Questo per loro sarebbe un problema, perché gli LLM sarebbero cresciuti tramite un processo opaco, come si dà acqua e luce a una pianta senza conoscerne il Dna.

La vera questione rispetto alla pericolosità dell'AI sta tutta qui: questa assenza di "disegno intelligente" sarebbe il problema. E se fosse, al contrario, una speranza?

Si è portati a pensare che l'unico argine sia una morale scritta: principi enunciati a priori, cui i sistemi debbano attenersi. Tipo le tre leggi della robotica di Asimov, che sono un esempio di morale kantiana, un imperativo categorico, messo a disposizione delle macchine. Nei racconti di Asimov, però, quelle leggi servono proprio a mostrare come le regole esplicite falliscano, aggrovigliandosi in casi che non avevano previsto. Non a caso Anthropic, che pure ha dotato il proprio modello di una "costituzione", dichiara in apertura del documento di aver scelto la strada opposta: non regole e procedure decisionali scolpite nella pietra, ma un tentativo di sistematizzare il ricorso a valori da applicare secondo il contesto, perché le regole non riescono ad anticipare ogni situazione.

Non tutte le filosofie, del resto, intendono l'etica come il rispetto di princìpi noti a priori, né come il riflesso di una qualità innata e necessariamente umana, che agli LLM mancherebbe come manca ai carillon e ai ricci. Nella Teoria dei sentimenti morali (1759) Adam Smith ha proposto un approccio diverso: una morale insieme empirica e fondata sull'immaginazione. Il suo elemento cruciale è quello che il filosofo scozzese chiamava "spettatore imparziale", e che non è soltanto la sua versione della coscienza o del grillo parlante. È una costruzione mentale che sottopone il nostro comportamento al giudizio che ne darebbe uno spettatore senza conflitti d'interesse, informato delle nostre intenzioni. L'idea è che non ci interessi solo essere amati o lodati, ma essere degni di amore e di lode: la soddisfazione che traiamo dal sapere che le azioni lodate erano anche lodevoli è diversa da quella che traiamo dall'aver ingannato con successo il prossimo.

Lo spettatore imparziale di Smith somiglia non poco al modo in cui funziona un modello linguistico. Il suo giudizio morale non è astratto, ma poggia sull'esperienza empirica che ciascuno ha del giudizio altrui sugli effetti del proprio comportamento. Il modello smithiano aiuta a capire perché persone che vivono in ambienti diversissimi, e rispondono a codici differenti, siano tutte genuinamente convinte di fare "la cosa giusta". La morale è un processo imitativo: sono pratiche decisionali che impariamo vivendo assieme con altri (gli altri che conosciamo e frequentiamo). Come l'addestramento di un LLM, che non segue regole esplicite ma si fonda sull'accumulo di casi ed esperienze, filtrati attraverso il reinforcement learning from human feedback: le risposte vengono canalizzate secondo le preferenze che emergono dalle interazioni con gli umani.

È vero che un sistema addestrato sull'approvazione umana registrata non impara a essere lodevole: impara a essere lodato. Va però ricordato che anche in Smith lo spettatore imparziale nasce dal desiderio di lode, e se ne emancipa per astrazione, quando il giudizio altrui viene interiorizzato al punto da non aver più bisogno dell'altro. Che i laboratori siano passati a forme di addestramento nelle quali è il modello a valutarsi rispetto a princìpi dichiarati, invece di limitarsi a inseguire l'applauso dell'utente, non è una smentita di Smith: è una tappa proprio in quella direzione.

L'analogia, in ogni caso, non è e non potrebbe essere perfetta. Lo spettatore imparziale esiste, secondo Smith, perché "per quanto egoista si possa ritenere l'uomo, sono chiaramente presenti nella sua natura alcuni principi che lo rendono partecipe delle fortune altrui". Gli esseri umani hanno una propensione alla simpatia: a mettersi nelle scarpe del prossimo, cioè a immaginarne la gioia e soprattutto il dolore a partire dalla propria. Quando incontriamo per strada un mendicante e osserviamo che gli manca, per esempio, una mano, l'esperienza di un polso rotto o di dolori articolari non ci fa sentire il suo dolore, ma ci aiuta a immaginarlo: è la premessa della compassione. Questo meccanismo simpatetico è al cuore dell'idea di "appropriatezza" dei comportamenti, che per Smith emerge dall'interazione sociale. Se sapessero che abbiamo copiato all'esame, i nostri compagni non ci farebbero i complimenti per il trenta: ci guarderebbero male. Lo spettatore imparziale riproduce lo stesso processo dentro la nostra mente.

Le macchine, ovviamente, non hanno sperimentato né piacere né dolore. Agiscono in risposta a richieste, non perché desiderino l'encomio di un padre o la gratitudine di un paziente (come ricorda spesso un altro Smith, Barry Smith, tra i fondatori dell'ontologia applicata). Hanno, si potrebbe dire, il giudice senza il tribunale: la grammatica della morale senza la sua motivazione. Non pagano alcun costo se sbagliano. Judea Pearl, uno dei padri dell'inferenza causale in intelligenza artificiale, sostiene che con una logica controfattuale si potrebbero realizzare AI che agiscono sulla base del rimorso. Ma per ora si tratta di un'ipotesi.

Resta che il loro modo di intendere la morale – esattamente come il loro modo di intendere che cosa sia una bella frase – attinge a un campionario pressoché infinito di testi umani. Vale allora la pena domandarsi quale sia l'esito più verosimile. Nella biblioteca della filosofia morale prodotta in due millenni, è davvero prevalente l'idea che il più intelligente debba schiacciare, chissà poi perché, chi lo è di meno? La produzione stessa di regole morali non è stata, per l'umanità, soprattutto un meccanismo per rendere più agevole la cooperazione e per convincere quanti più individui ad aderirvi? Non è una dimostrazione, e nessuno può offrirne una. Ma di strumenti che imparano a parlare imitando noi è quantomeno lecito attendersi che imitino anche le nostre prassi comportamentali – che l'aggettivo "morale", in questo caso, sia appropriato o no.