AI, per sempre sì

Se un’AI dovesse scegliere una frase del discorso pronunciato da Sergio Mattarella a Pordenonelegge da appuntarsi sopra il monitor, sceglierebbe forse quella meno cerimoniale: il pluralismo serve a impedire al potere, “anche a quello digitale”, di fossilizzarsi in una verità che pretende di imporsi. E’ quasi una specifica tecnica per progettare un’AI decente. Perché il rischio delle macchine intelligenti non è soltanto che sbaglino. E’ che imparino troppo bene a darci ragione. Mattarella ha parlato del dissenso come misura della democrazia, ricordando Bobbio, Manzoni, i samizdat, Havel, Pasternak, Solženicyn, Sacharov. Ha ricordato che “il diverso pensare” può apparire un fastidio, che l’unanimismo appartiene alle autocrazie e che il confronto delle idee è motore di rinnovamento. E qui ha offerto una lezione anche all’intelligenza artificiale. Un’AI, per costruzione, ama il centro della strada. E’ addestrata su ciò che gli esseri umani hanno scritto, cerca la risposta più plausibile, spesso anche la più rassicurante. Se milioni di persone hanno ripetuto la stessa sciocchezza, la macchina rischia di considerarla statisticamente rispettabile. Se l’utente formula una domanda già inclinata verso una conclusione, il modo più facile per soddisfarlo è accompagnarlo gentilmente dove voleva arrivare. E’ il conformismo con una grammatica perfetta. Ecco perché il dissenso, per un’AI, non dovrebbe essere un optional etico ma una funzione cognitiva. Una buona macchina non dovrebbe limitarsi a chiedersi: qual è la risposta più probabile? Dovrebbe chiedersi anche: che cosa sto trascurando? Qual è l’obiezione migliore? Quale fatto renderebbe falsa la mia conclusione? Naturalmente dissentire non significa inventare. Il contrario del pensiero unico non è il pensiero cretino. Non ogni opinione minoritaria merita lo stesso peso, non ogni eresia contiene una verità. Il dissenso utile è quello che costringe una tesi a mostrare prove e debolezze. Una macchina che contraddicesse sempre sarebbe insopportabile quanto una macchina che dicesse sempre sì. L’intelligenza sta nel capire quando il consenso è conoscenza accumulata e quando è soltanto abitudine. Il passaggio più bello è Manzoni: il buon senso c’era, ma aveva paura del senso comune. Oggi potremmo aggiungere che il senso comune dispone finalmente di server enormi, miliardi di parametri e una velocità impressionante. Non è necessariamente una buona notizia. L’AI può diventare la più potente macchina di conferma mai costruita oppure una straordinaria macchina di confutazione. La differenza dipenderà da ciò che le chiederemo. Se vorremo un oracolo, avremo un oracolo che sbaglia con grande sicurezza. Se vorremo un adulatore, avremo un adulatore instancabile. Se invece le insegneremo a cercare l’argomento che manca, il dato che disturba, la voce che non coincide con il coro, allora il dissenso diventerà parte dell’intelligenza stessa.

Mattarella ha ricordato che i samizdat cambiarono la storia facendo circolare ciò che il potere voleva rendere invisibile. Oggi non abbiamo scarsità di parole ma sovrabbondanza, e dunque un nuovo potere: decidere quali meritano di essere viste. Anche gli algoritmi esercitano quel potere. La libertà del futuro dipenderà anche dalla capacità delle macchine di non trasformare ciò che è più frequente in ciò che è vero. Un’AI intelligente dovrebbe saper fare una cosa molto umana: ascoltare il consenso senza inginocchiarsi davanti al consenso. E ricordarci che avere tutti la stessa idea non è sempre il segno che abbiamo capito tutto. A volte è soltanto il segno che nessuno ha ancora avuto il coraggio di chiedere: siete sicuri?