Linguaggio, responsabilità, coscienza: l’AI con l’aiuto di Socrate

La nascita e lo sviluppo della modernità sociale, culturale e tecnoscientifica si sono scontrati fin dall’inizio con varie forme di critica antimoderna. Circa la metà della cultura moderna è stata cioè antimoderna. Soprattutto filosofi e artisti, più raramente scienziati specializzati, hanno sottolineato con una certa enfasi morale e politica la “disumanizzazione” che ha accompagnato il progresso inteso più come sviluppo economico e tecnico che come miglioramento morale e sociale, estetico e intellettuale. Da Swift a Pasolini, da Hazlitt e Leopardi a Kierkegaard, Ruskin e Baudelaire, fino a Valéry, Eliot, Montale, e più recentemente a Elsa Morante, Ivan Illich, Enzensberger, Tom Wolfe e Susan Sontag, la critica sociale ha preso la forma di critica della cultura. Quando in Dialettica dell’illuminismo, nel 1947, Horkheimer e Adorno hanno individuato nell’“industria culturale” il nemico dell’alta cultura e il problema tipicamente moderno, questo oggetto di analisi ha occupato un posto centrale e privilegiato, perché le élites intellettuali hanno visto in essa una potente minaccia al proprio ruolo pedagogico-illuministico. L’industrializzazione e la sua enorme produzione per il consumo culturale di massa hanno oscurato l’autorità della filosofia, della letteratura e delle arti tradizionali.

Oggi che siamo nell’ipermodernità del digitale e dell’intelligenza artificiale, la critica tradizionale a una falsa idea di progresso è in netto declino. Con gli strumenti della tradizione umanistica, siamo sempre meno in grado di tradurre in concetti empiricamente fondati e a misura umana i danni che ci potranno venire e già ci sono venuti dalla “civiltà delle macchine intelligenti”. Gli studiosi di queste macchine si stanno moltiplicando, portano avanti le loro ricerche sempre più sofisticate e specializzate, e sono già arrivati a trattare le macchine calcolatrici e conoscitive come esseri pensanti. Sarà sempre più difficile mettere in discussione come si faceva un tempo i prodotti dell’industria culturale novecentesca e ora i calcoli e le nozioni che ci forniscono macchine a cui si è arrivati ad attribuire una psicologia.

Vengo a sapere questo dall’ultimo libro dell’esperto di machine learning e professore di intelligenza artificiale Nello Cristianini, un libro il cui titolo è Forma mentis e il sottotitolo è “La corsa per decifrare i pensieri delle macchine” (il Mulino, 162 pp., 16 euro). Già questo va oltre il limite a cui si era arrivati quando ancora si distingueva il cervello umano dalla simil-mente artificiale. L’autore aveva già pubblicato nel 2024 e nel 2025 altri due libri come Machina Sapiens e Sovrumano, che mi guarderò bene dal leggere. Il mio povero cervello, infatti, si rifiuta di riconoscere un significato a espressioni verbali come “pensieri delle macchine”, “macchine pensanti”, “machine psychology” e “quando l’IA si sente osservata”… Per fortuna l’autore aggiunge: “Non parlo di coscienza – quella è un’altra dimensione, forse irraggiungibile”. Ma poi sembra che non si possa fare a meno di frasi poco rassicuranti come la seguente: “Questo libro è la storia di quegli scienziati che lottano per decifrare i pensieri di queste nuove macchine prima che il loro progresso renda inutile questo sforzo”. Questo progresso arriverà necessariamente? E se noi non arriveremo al momento giusto per evitare il peggio, cosa faremo? Cosa faranno le macchine senza il nostro permesso e ormai fuori del nostro controllo? Si può parlare ancora di nostri “strumenti” se un prevedibile progresso permetterà loro di prendere decisioni autonome e intraprendere attività di loro iniziativa? Ecco infatti cosa si legge una pagina dopo: “L’Intelligenza Artificiale ha raggiunto prestazioni di livello quasi umano in svariati compiti complessi e ci prepariamo a introdurla nelle nostre vite quotidiane. Mentre misurare le sue capacità è diventata una questione di routine, ancora non siamo in grado di spiegare i meccanismi che sono responsabili di queste capacità”.

Ecco, mi pare che ci siamo: si parla di “capacità responsabili”. Quello di “responsabilità” è un termine chiave del giudizio morale e della valutazione giuridica, che non sono concepibili in mancanza di una coscienza. Lo studioso, il ricercatore sente il bisogno di una precisazione ulteriore: “quando parliamo di Intelligenza Artificiale, contano soltanto le risposte o anche il modo in cui sono state ottenute? (…) Quale comprensione del mondo e dei suoi meccanismi hanno sviluppato queste macchine che ci stiamo preparando a introdurre nella nostra vita quotidiana?”.

Dato che non riesco ad accettare e a capire a quale realtà si riferisce il linguaggio di un libro intitolato ambiguamente Forma mentis (mente umana attuale, o mente modificata in futuro dalle macchine?) non posso fare altro che usare ancora una volta il metodo di Socrate l’ateniese: cioè ESAMINARE IL DISCORSO, exetàzein ton logon. Un metodo che non invecchia. Che cosa significano le parole “comprensione del mondo”? Comprensione? Spiegatemi che cos’è. Mondo? Quale concetto, quale contenuto mentale frutto di esperienza la parola “mondo” significa? E’ ancora possibile usare il linguaggio umano per indicare realtà non umane? Se lo si fa non è forse un imbroglio che con la scienza ha ben poco a che fare? L’AI o IA è il nome di una cosa di cui quelle due lettere maiuscole non ci dicono niente. Non si tratta di una abbreviazione, ma di una truffa, che permette di vendere un bene diverso da quello presunto, che forse non c’è, o c’è un’altra cosa.