I tradimenti del genio. La parabola di von Neumann

Nel 1738 l’inventore francese Jacques de Vaucanson mise a punto la sua “anatra digeritrice”, un automa in grado di mangiare chicchi di grano, digerirli e defecarli. Fu questo il primo modello dei cosiddetti “gastrobot”, robot dotati di apparato digerente di tutto punto, quindi capaci di trarre il loro fabbisogno energetico da cibo reale. Il vantaggio inestimabile di questi automi è che producono energia in modo meccanico, a partire dalle risorse naturali disponibili, senza supervisione umana. Ebbene, queste macchine organate incutono in noi esseri umani assai poco timore: sono costruite per essere come noi, per ricalcare i nostri bisogni primari, persino nelle debolezze e nelle meno nobili attività di espulsione dei residui non assorbiti dall’intestino. Ma, più di ogni cosa, ci piace la toccante docilità con cui accettano di sostituirci nell’espletamento di compiti pesanti e ingenerosi. Di contro, destano assai più allarme altre e più temibili macchine, quelle intelligenze artificiali che sanno riprodurre le virtù umane più nobili, relative al pensiero e alla libera scelta. Dispositivi guidati da algoritmi, che pretendono competere con le nostre facoltà deliberative, perché, dinanzi a una vasta serie di alternative, sanno individuare l’opzione più vantaggiosa. E lo sanno fare molto meglio di noi, perché mettono a frutto una duplice facoltà, in cui gli umani mostrano evidenti carenze: non solo sanno valutare tutti i possibili esiti di tutte le possibili alternative nel tempo di poche frazioni di secondo, ma apprendono dalle esperienze passate a non ripetere gli errori commessi – cosa a quanto pare impossibile per gli esseri umani. Per giunta, queste macchine intelligenti non sono appesantite da quella nutrita serie di limiti, tipici della natura umana, che “corrompono” la razionalità delle nostre scelte, quali la paura, l’orgoglio, la titubanza, l’improntitudine, il capriccio e molti altri.

Che negli ultimi decenni il timore di un superamento di fatto da parte delle intelligenze artificiali sia sempre più vivo lo dimostra, tra le molte cose, la nutrita quantità di scritti e opere sul tema, sia nel campo più ristretto della riflessione teorica sia in quello più ampio della letteratura e del cinema – dal Cacciatore di androidi di Philip K. Dick a Macchine come me di Ian McEwan, da Blade Runner di Ridley Scott a Her di Spike Jonze. Libri e film che si proiettano nel futuro e cercano di figurarsi traiettorie di sviluppo per una convivenza che si ritiene difficile se non rovinosa, considerato il grado di progressiva autonomizzazione delle macchine pensanti. Un recente libro dello scrittore cileno Benjamín Labatut, Maniac (Adelphi 2023), si proietta invece nel passato e cerca di rintracciare le origini di un dramma innescato, a suo giudizio, a inizio Novecento, avvolto nelle spire di eventi che, ad avviso dell’autore, non potevano che condurci all’attuale disastro. Maniac è il ritratto di una follia a briglia sciolta, di un destino – quello nostro – segnato dal desiderio di superare il limite inscritto nella nostra umanità e di proiettare sulle macchine un incurabile delirio di eternità e onnipotenza. Dacché rappresentano a mio avviso la chiave di lettura, del libro vorrei innanzitutto richiamare le scene di avvio e di chiusura. Si apre con l’omicidio-suicidio di Paul Ehrenfest, uno dei decani della fisica del primo Novecento, che nel settembre 1933, in preda ai tormenti psico-emotivi indotti dagli eventi politici occorsi in Germania, uccide il suo figlio più giovane e quindi finisce sé stesso. Si chiude con un affaccio sul mondo di oggi: il racconto di come l’intelligenza artificiale, dotata di tecniche di apprendimento automatico, riesca a infliggere mortificanti sconfitte ai più noti campioni di go, un raffinatissimo e sofisticato gioco da tavolo concepito in Cina più di due millenni fa e ancor oggi molto diffuso in Asia orientale e altrove. Questi il capo e la coda di una trama che, nella sua più ampia parte, ricostruisce la vita e l’ingegno di John von Neumann, nato János Lajos Neumann, sommo matematico ungherese che segnò alcune delle più decisive innovazioni culturali e belliche di metà Novecento. 

Come nello stile di Labatut, il resoconto, costituto dalle testimonianze dirette di colleghi, amici e affetti di von Neumann, è perlopiù l’esito dell’immaginazione dello scrittore cileno, che trae libera ispirazione da varie fonti storiche e biografiche, assieme ad alcuni lavori dello scienziato ungherese. Maniac, dunque, non è tanto la cronaca puntuale di un crocevia della storia, in cui si decise il corso dei giorni attuali, quanto la raffigurazione icastica di come il genio umano tenda a sfidare i limiti della propria natura con una leggerezza e un cinismo di cui prima o poi sarà chiamato a rendere conto. Nell’immaginario di Labatut, von Neumann incarna l’esito disperato di quell’impulso folle e senza ritorno per il quale l’essere umano auspica liberarsi della propria umanità e lasciare il mondo nelle mani più oneste e integre di enti nonumani davvero e pienamente razionali. Il matematico del Novecento che più di ogni altro scienziato seppe attraversare ogni campo della conoscenza (dalla fisica alla tattica militare, dall’economia all’informatica), rifiuta, all’opposto di quanto fa Ehrenfest, di riconoscere l’esistenza di un limite alle potenzialità della scienza e della tecnologia, e tenta di spingersi là dove solo Dio poté spingersi: la creazione di un’intelligenza autonoma, capace di effettuare scelte e compiere azioni libere. Per comprendere come, secondo Labatut, si sia giunti a una situazione tanto delicata, sarà utile offrire una breve sintesi delle varie scene istoriate nel libro. Von Neumann è sin da bambino un prodigio che lambisce il miracoloso, tanto grande lo stupore che desta nei suoi famigliari e insegnanti. Da studente imberbe non fa professione di modestia, e anzi è spavaldo e ambizioso al punto tale da voler proseguire il lavoro sui fondamenti della matematica del suo supervisore a Gottinga, il tedesco David Hilbert. Tra i matematici più eminenti del primo Novecento, oltreché mentore di alcune delle figure più brillanti della scienza coeva, Hilbert ha in animo di dimostrare la coerenza, la completezza e l’auto-fondatezza della matematica: un’oasi di razionalità cristallina, in cui non c’è alcuno spazio per fraintendimenti e contraddizioni.

A frantumare però il sogno comune di Hilbert e von Neumann giungono le intuizioni di un’altra punta di diamante della matematica novecentesca, Kurt Gödel, che dimostra come nessun sistema, matematico o di altro tipo, sia in grado di dare una piena giustificazione di sé stesso. Nel 1930, Gödel dimostra una duplice conclusione: per un verso, almeno alcune proposizioni di un dato sistema risulteranno sì vere, ma non comprovabili all’interno dei confini di quel sistema; per l’altro, se un sistema riesce a spiegare la sua piena e totale coerenza interna, ciò significa che contiene una qualche contraddizione, che lo rende di fatto inaffidabile.La fine dei sogni di fondazione ultima della matematica è uno dei due eventi che cambia il corso della vita di von Neumann. L’incontro con Gödel lo induce ad abbandonare i problemi di teoria fondamentale della matematica e a dedicarsi piuttosto alle numerosissime e più concrete sue applicazioni. Il secondo evento che segna l’odierna e discussa fama dello scienziato ungherese è la necessità di abbandonare l’Europa (data la sua ascendenza ebraica) e di trasferirsi negli Usa, dove sin da subito impiega la sua connaturata inclinazione a trarre da complicatissimi calcoli formali conseguenze pratiche di impareggiabile utilità ed efficacia. Nei laboratori di Los Alamos, in cui si va mettendo a punto la bomba atomica, von Neumann diviene rapidamente un’ingombrante celebrità, sia per le sue capacità, che lasciano stupiti più che irritati, sia per le maniere e i consumi mondani in cui indulge senza parsimonia né riserbo. Si afferma così quale punto di riferimento in molti campi strategici del tempo: la costruzione dell’ordigno nucleare (al quale volle assicurare la più vasta letalità possibile), progetti di elaborazione di armi atomiche più potenti, l’elaborazione matematica delle strategie militari da utilizzarsi nell’ambito della neonata Guerra fredda, e la teoria del comportamento razionale (quella che in qualsiasi campo illustra come effettuare scelte che massimizzino i vantaggi e minimizzino le perdite). Insomma, in quegli anni frenetici e cruciali, von Neumann dà sfogo alle sue capacità con la degnazione tipica di chi pensa che l’essere umano sia una specie di ibrido mal riuscito, un ente di scarsa o nulla utilità, da depurare con la forza del calcolo e per mezzo degli strumenti tecnologici che la matematica consente di ideare. 

Sulla scia di tale perversione, la sua idea fissa diventa l’architettonica di intelligenze capaci di concretare la piena e compiuta razionalità del puro calcolo. Contribuisce più di ogni altro alla realizzazione di Maniac (acronimo che sta per mathematical analyzer, numerator, integrator, and computer), un elaboratore elettronico di prima generazione, perfezionato nel 1957. Se la scelta dell’acronimo lascia intravvedere evidenti venature di auto-ironia, per Labatut sintetizza invece il destino amaro di ogni genio che intenda superare il limite divisorio tra l’essere umano e la macchina. L’autore cileno ci restituisce l’immagine di un prodigioso scienziato che s’incarognisce nell’uso assiduo e prolungato di questa primissima (e per noi rudimentale) macchina pensante, la gelosia per la quale lo spinge a far allontanare da Los Alamos alcuni colleghi che avevano contribuito a concepirla e costruirla. L’aspirazione a fare di questo computer antidiluviano un essere del tutto autonomo consuma von Neumann in modo persino più vorace del tumore alle ossa che nel febbraio 1957 lo porta alla morte. In effetti, il sogno proibito di von Neumann, tanto incalzante da tramutarsi in allucinazione, era la costruzione di una macchina che non si limitasse a computare, ma che sapesse compiere scelte ponderate, apprendere dall’esperienza e persino autoreplicarsi. E questo sogno, secondo Labatut, va oggi assumendo i connotati dell’incubo, perché queste intelligenze sintetiche eccellono proprio là dove si pensa che una macchina non sia in grado, ossia nell’accumulo dell’esperienza su cui fondare scelte ponderate. In breve, automi che sanno unire il calcolo alla riflessione. Per illustrare i sintomi ancora sottopelle di questa angoscia crescente, il racconto di Labatut, quando guarda all’oggi, insiste sui traumi di personalità di genio, campioni mondiali negli scacchi o nel go, che non si capacitano delle abilità dell’intelligenza artificiale. Anzi, sospettano che ci sia un inganno, squadre di campioni avversari coalizzati e nascosti dalle sembianze di un macchinario fasullo, oppure altri tipi di intrighi che conferiscono alla macchina l’inverosimile facoltà di sembrare al contempo umana e più che umana. 

Non c’è spazio né modo di descrivere tutte le persone e tutti gli eventi del ricco panorama affrescato da Labatut, ma varrà la pena trarre una qualche conclusione. Maniac sembra la radiografia di una mente, quella umana, che non resiste al proprio impulso di auto-trascendimento, in ogni campo. Come se i totalitarismi del primo Novecento, la corsa all’atomica di metà secolo e, più di recente, la consegna mani e piedi a intelligenze che a breve non sapremo fronteggiare fossero manifestazioni di un medesimo istinto patologico: l’affidarsi umano alle scienze dure, che nella loro indifferenza morale non fanno altro che da reagenti per la crudeltà e il cinismo innati nell’essere umano. Il filo invisibile che lega i turbamenti di Ehrenfest alla frustrazione dei campioni di go è il nostro indomito desiderio di sparizione, se possibile per nostra stessa mano. Ne emerge un quadro tutt’altro che confortante, perché – vuol dirci Labatut – la stura al processo autodistruttivo fu data a inizio del secolo scorso, con la completa matematizzazione delle scienze della natura e della vita e l’espulsione di ogni considerazione in termini di opportunità e di morale. Pensare di arrestare il declino richiederebbe la rifondazione dell’umanità, prima che l’estinzione delle macchine. In questo scenario di fine programmata, John von Neumann incarna al meglio la nostra inconsapevole repulsione per noi stessi e la corsa verso forme di perfezione più organizzate e serie, anche a costo di una totale distruzione dell’umano genere. Insomma, Labatut ci consegna un finale irrisolto e inquieto, in cui emerge uno scenario che chiama a decisioni responsabili. Mi chiedo quindi se, per rallentare il disastro, non sia meglio procurarci una solida alleanza con quelle macchine meno brillanti e tuttavia di grande utilità, discendenti dell’anatra di Vaucanson, che vogliono assomigliarci di più, nel bene e nel male, e non intendono iscriversi ad alcun torneo di giochi da tavolo. D’altra parte, temo che l’esautorazione delle intelligenze artificiali farebbe la disperazione di alcuni miei studenti, i cui scritti, chissà come, da qualche tempo in qua sono migliorati notevolmente nello stile, nel gusto e nella capacità di costruire un pensiero. Insomma, noi umani siamo dinanzi a un bivio, dinanzi a una scelta difficile, che, senza l’ausilio di un computatore elettronico, sapremo di nuovo fallire, con quel grado di professionismo nell’errore che ci caratterizza più di ogni altro essere, pensante o meno.