Paradossi etici dell’AI: non sarà una macchina sempre più simile all'uomo, ma l'esatto opposto

L'intelligenza artificiale ci costringe a rimettere in discussione una convinzione che per secoli abbiamo considerato quasi ovvia: che intelligenza e coscienza fossero due manifestazioni inseparabili della stessa realtà. L'uomo pensa perché è cosciente e, proprio perché è cosciente, attribuisce significato al proprio pensiero. L'AI sta spezzando questa identificazione. Ci troviamo per la prima volta davanti a qualcosa capace di produrre comportamenti che definiamo intelligenti senza avere alcuna evidenza che dietro di essi esista un soggetto che sappia di esistere. È questa, probabilmente, la vera cesura antropologica introdotta dall'intelligenza artificiale.

Le macchine calcolano, apprendono regolarità, elaborano quantità immense di informazioni, riconoscono immagini, traducono lingue, formulano diagnosi, scrivono testi e possono superare l'uomo in un numero crescente di compiti. Ma essere più efficienti nell'esercizio di una funzione cognitiva non significa necessariamente possedere una coscienza. Un computer può riconoscere la paura sul volto di una persona senza provare paura; può descrivere perfettamente il dolore senza soffrire; può discutere dell'amore senza amare. Può perfino parlare della morte senza sapere che cosa significhi essere mortale.

La distinzione è decisiva. L'intelligenza riguarda, almeno in parte, la capacità di risolvere problemi, stabilire relazioni, prevedere conseguenze, utilizzare informazioni. La coscienza introduce invece un elemento completamente diverso: l'esperienza soggettiva. Non semplicemente conoscere qualcosa, ma sapere di conoscere; non soltanto ricevere uno stimolo, ma percepirlo come esperienza propria. Per millenni le due dimensioni sono state sovrapposte perché conoscevamo una sola intelligenza complessa: quella umana. Oggi questa coincidenza non è più necessaria.

Questo cambiamento impone anche di correggere il modo in cui discutiamo dell'AI. La domanda ricorrente è se le macchine diventeranno “più intelligenti dell'uomo”. Ma è una domanda incompleta. In numerosi ambiti lo sono già. Una calcolatrice è infinitamente più veloce di noi nell'eseguire determinate operazioni e nessuno, per questo, le attribuisce una superiorità antropologica. La domanda autentica è un'altra: che cosa rimane specificamente umano quando una parte crescente delle nostre capacità intellettuali può essere riprodotta o superata da una macchina?

La risposta non può consistere nella difesa nostalgica di una presunta superiorità cognitiva. Sarebbe una battaglia probabilmente destinata a essere perduta. Dovremmo piuttosto riconoscere che la specificità dell'uomo risiede nella condizione di soggetto cosciente: nella capacità di attribuire significato alla propria esistenza, di percepire il tempo, di ricordare con nostalgia, di immaginare il futuro con speranza o timore, di sperimentare dolore, piacere, responsabilità.

Qui emerge anche la questione della libertà. Una macchina può scegliere fra diverse possibilità sulla base di un algoritmo, di probabilità o di informazioni precedentemente acquisite. Ma una scelta computazionale non coincide necessariamente con una scelta morale. La responsabilità presuppone infatti un soggetto al quale quella decisione possa essere imputata. Se un sistema di AI produce una conseguenza ingiusta, possiamo correggerne il funzionamento; ma non possiamo rimproverarlo nel senso in cui rimproveriamo un essere umano. Non prova colpa, non conosce il rimorso, non avverte il peso della decisione.

Per questo la crescita dell'intelligenza artificiale non diminuisce la responsabilità dell'uomo. Paradossalmente, la aumenta. Quanto più deleghiamo alle macchine la capacità di analizzare, prevedere e decidere, tanto più dobbiamo stabilire chi determina i fini per i quali quella potenza viene utilizzata. L'AI può indicarci il mezzo più efficiente per raggiungere un obiettivo. Non ne consegue che quell'obiettivo sia giusto. La scelta dei fini appartiene ancora al dominio della politica, dell'etica e della responsabilità umana. Il rischio più profondo, allora, potrebbe non essere che le macchine diventino simili agli uomini. Potrebbe essere l'opposto: che gli uomini comincino a concepire se stessi come macchine, riducendo ogni comportamento a calcolo, ogni preferenza a dato, ogni decisione a previsione statistica. Sarebbe un errore filosofico prima ancora che politico.

La macchina può elaborare il mondo. L'uomo lo vive. E forse il confine decisivo del futuro non passerà più tra chi possiede più o meno intelligenza, ma tra il sapere e la consapevolezza di sapere. È in quello spazio apparentemente sottile – tra intelligenza e coscienza – che continua, almeno per ora, ad abitare l'uomo.