Il vero pericolo dell'intelligenza artificiale è solo uno, ma può stravolgere l'umanità

In una conferenza di pochi mesi fa, Sam Altman, il co-fondatore di OpenAI, rispondendo alla domanda di un giornalista su quali fossero secondo lui i rischi principali che potrebbero derivare dall’intelligenza artificiale, ne elencava tre. I primi due scenari sono un po’ da fantascienza, e in un modo o nell’altro li abbiamo visti in qualche decina di film negli ultimi anni. In uno, un supercattivo si impossessa del controllo di un avanzatissimo livello di AI e la rivolge contro l’umanità, generando una qualche forma di apocalisse. Nell’altro, che potremmo definire “scenario Skynet”, come il sistema di difesa atomica in Terminator 2, l’AI rifiuta di rispondere ai comandi dei suoi creatori, diviene autocosciente e non vuole disattivarsi, finendo per rivolgersi contro il proprio creatore. 

Per quanto sempre seducenti, questi due scenari appaiono sfumati di fantasia. Il terzo scenario, quello a cui infatti Altman dedica più tempo, è il più interessante, convincente e anche inquietante. E’ una possibilità che, senza alcun tipo di apocalittismo, può stravolgere l’umanità e la sua relazione con la libertà. In sintesi, il terzo scenario è quello in cui avviene un’integrazione talmente profonda tra AI e meccanismo decisionale umano da condurre spontaneamente gli uomini a scegliere in base a un criterio di deliberazione “razionale” che non può non passare attraverso l’AI. Ossia, nel momento in cui l’AI è completamente integrata nelle nostre vite attraverso lo smartphone, e in futuro direttamente con il nostro cervello attraverso sistemi come Neuralink, le nostre decisioni potrebbero essere continuamente filtrate attraverso una continua consultazione dell’AI, che sarebbe interamente integrata nel nostro processo decisionale. 

Del resto, perché scegliere da soli se attraverso l’AI potremo massimizzare le nostre decisioni? L’AI, contenendo praticamente tutta l’informazione disponibile sarebbe certamente in grado di scegliere per noi nel modo migliore. Prenderebbe, infatti, una decisione razionale basata su una enormemente maggiore quantità di informazione. Conoscendoci, o almeno conoscendo teoricamente tutte le nostre preferenze, sarebbe in grado di dirci quale sarebbe la scelta più corretta, più adatta, più efficiente e più performante per noi. Ma dove finirebbe, allora, la libertà umana, ossia la capacità di scegliere e decidere autonomamente, in maniera anche indipendente rispetto a ciò che è più corretto? Saremmo ancora in grado di sbagliare, ossia di non sottrarci a quel processo di “trial and error”, di tentativi ed errori che è alla base del nostro stesso processo conoscitivo?  Si capisce come questo scenario sia non solo possibile ma addirittura probabile. Sarebbe, però, uno stravolgimento totale dell’esistenza umana. Ci si potrebbe chiedere anche se una tale esistenza sarebbe ancora effettivamente umana. E ciò non tanto e non solo perché la libertà di decidere sia fondamentalmente tutt’uno con l’esperienza umana individuale, ma per un motivo ancora più radicale, ossia perché la natura umana ha strutturalmente a che fare con l’imprevedibile. L’imprevedibile è, infatti, l’elemento stesso da cui tutti siamo generati: la nascita. Il fatto che nasciamo, e che a nostra volta facciamo nascere, diamo vita, costituisce l’imprevedibilità assoluta. 

Il fatto di essere nati, e l’atto di generare altri uomini, ossia l’atto di iniziare è precisamente ciò che le macchine non hanno. Le macchine sono incapaci dell’imprevedibile. Ma l’imprevedibile è proprio dell’uomo, ciò che vi è in lui di più autentico. La nascita implica non sapere chi ci verrà incontro come nostro massimo simile biologico e genetico (nostro figlio), ma non necessariamente come nostro massimo simile spirituale (quanti amici possono esserci spiritualmente più prossimi di un figlio – o di un genitore? quanti sconosciuti, persino, ma che leggiamo o ascoltiamo, possono esserci più prossimi spiritualmente?). Potremo forse programmare tutto, in futuro, del figlio che nascerà: capelli, tratti somatici, occhi, e chissà cos’altro. Ma non potremo mai programmare come lui si adatterà all’ambiente, come lui si relazionerà con noi e con i suoi simili, ciò che sarà in grado di inventare, di creare, o se semplicemente gli cadrà una tegola in testa (o se sarà, invece, la famosa mela di Newton a cadergli in testa dandogli l’idea di come risolvere il dilemma della gravità quantistica). L’imprevidibilità della nascita è ancora la garanzia della libertà.  

Il problema, allora, non sta forse nella minaccia tecnologica in sé, ma nel fatto che noi, come uomini, ci stiamo trasformando in “macchine celibi”, come dal titolo di un interessante libro di Mauro Magatti e Chiara Giaccardi di recente uscito per il Mulino. Generare, cosa che non facciamo più, i dati demografici sono plateali in questo senso, ha a che fare con l’accettazione del rischio massimo, ossia di accogliere l’imprevedibile nel più intimo delle nostre vite (cosa c’è di più intimo di un figlio?). E questo rischio assoluto ed entusiasmante, in un’epoca in cui il rischio è perlopiù una postura giocosa, un simulacro, una forma di intrattenimento, appare inaccettabile. E’ in questo senso che diveniamo macchine celibi per le quali, allora, il determinismo autoindotto attraverso un’intelligenza artificiale perennemente collegata che ci dica sempre cosa è più corretto fare, e che ci sgravi dal peso e dal rischio dell’imprevedibile, diviene una “scelta” quasi inevitabile.