Se non vogliamo che i robot prendano il sopravvento, leggiamo loro le nostre storie

Due ricercatori della School of Interactive Computing al Georgia Institute of Technology hanno elaborato un sistema che insegna alla macchina a comportarsi come il protagonista buono di una favola, anziché a caso o come l'antagonista. E’ la risposta moderna alla domanda dell’Eneide: da cosa si riparte per sopravvivere e costruire ancora? Dalle storie.
Se non vogliamo che i robot prendano il sopravvento, leggiamo loro le nostre storie

Foto LaPresse

“Ciò che oggi è dimostrato, un tempo fu solo immaginato”, aveva già intuito William Blake. E aveva ragione. Gli appassionati di fantascienza ricordano la perfida risata, magari segretamente isterica, che veniva loro strappata da un brevissimo racconto, quasi una storiella zen, del grande Fredric Brown. Quello in cui uno scienziato del prossimo futuro si accinge ad abbassare “la leva che avrebbe collegato, in un colpo solo, tutte le gigantesche calcolatrici elettroniche di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscita la supercalcolatrice, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie”. L’operazione ha esito felice, e finalmente l’equipe può testare il nuovo computer universale. “’Sarà una domanda cui nessuna macchina cibernetica ha potuto, da sola, rispondere». Tornò a voltarsi verso la macchina. ‘C’è Dio?’ L’immensa voce rispose senza esitazione, senza il minimo crepitìo di valvole o condensatori. ‘Sì: adesso, Dio c’è’. Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro di comando. Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto”. Si ridacchia, certo, ma magari si lancia anche un’occhiata fugace al portatile, che per la prima volta pare un grosso gatto scuro, raccolto sul tavolo.

 

Oppure leggiamo del “Timoniere” dei romanzi di R. K. Morgan, enorme ragno-granchio di luci e cavi, rivolgersi così a un guerriero del futuro e alla sua tecnologia: “E come hai fatto di preciso a trovare quel piccolo portatore di morte?”. Per poi educatamente correggere l’umano che stava rispondendo. “Ecco, a dire il vero stavo parlando alla spada”. Fa sempre impressione ricordarsi che un tempo che i “computer” eravamo noi, che c’era proprio chi svolgeva questa professione, e che lo si possa trovare in vecchie foto d’archivio, cercandolo su Google. Facendolo cercare a Google, appunto. Proprio in questi giorni esce “Al posto tuo” di Riccardo Staglianò (Einaudi), che ammonisce “Se vi fa stare più tranquilli fate pure una piccola tara del tempo che servirà prima che il robot-oncologo di Watson dallo Sloan Kettering Memorial Hospital arrivi nelle nostre corsie o che il software-giornalista di Narrative Science da Chicago sbarchi nelle nostre redazioni, ma non ingannatevi. Si tratterà di un décalage sempre più breve. Stanno arrivando. Sono tra noi […]. Il bussolotto che mi istruisce a ‘inserire la carta di credito’ è uno di loro. Perché le macchine, dopo aver sostituito i colletti blu, i lavori di fatica che generalmente (crisi permettendo) non rimpiangiamo, rimpiazzano anche i colletti bianchi, i mestieri intellettuali che volentieri terremmo per noi. Ieri erano in grado solo di fare le braccia, oggi anche il cervello”.

 

Un cervello che sarà sempre più coinvolto in quel paesaggio misterioso che si chiama morale. Lo scrittore e studioso di neuroscienze Sam Harris ha sollevato spesso il problema che potrebbe porsi ad una macchina col pilota automatico che si trovi improvvisamente a schivare un bambino scappato in strada. Cosa fare? Investire i due anziani seduti al tavolino del caffè? E se ci fosse un secondo bambino al caffè? O una donna incinta? Per incredibile che possa sembrare, la risposta potrebbe non essere un codice di regole (come le celeberrime leggi della robotica di Asimov), ma un bagaglio di storie, con le loro sfumature, e persino con i loro misteri. Proprio come per noi esseri umani.

 

[**Video_box_2**]E’ la proposta di “Quixote” un sistema elaborato dai ricercatori Mark Riedl e Brent Harrison della School of Interactive Computing al Georgia Institute of Technology, e che insegna alla macchina a comportarsi come il protagonista di una storia, anziché a caso o come l'antagonista: il campo era già stato seminato dal loro precedente “Sherazade” – la principessa sopravvissuta narrando i racconti delle “Mille e una notte” – che seleziona comportamenti corretti a partire da un crowdsourcing su internet. “Le raccolte di storie di differenti culture insegnano ai bambini come comportarsi in modi socialmente accettabili, grazie agli esempi di comportamenti appropriati o no nelle fiabe, nei romanzi e altra letteratura”, ha spiegato Reidl. “Crediamo che la comprensione di una storia nei robot possa eliminare comportamenti d’aspetto psicotico e rafforzare scelte che non danneggino gli umani e riescano comunque a ottenere lo scopo prefisso”. Così “Quixote” premia ad esempio la scelta della macchina che decida di aspettare pazientemente in fila in farmacia, e non derubare il farmacista e scappare. “Dando ai robot la capacità di leggere e comprendere le nostre storie potrebbe essere il mezzo più utile in assenza d'un umano che lo usi manualmente”.

 

Rispondendo all’antico quesito della “Eneide” virgiliana – quando tutto brucia, quando tutto crolla, da cosa si riparte per sopravvivere e costruire ancora? – Cormac McCarthy ne “La Strada”, con le sue città desolate dall’apocalisse, con i suoi cannibali e profeti, non aveva dubbi: si riparte della “storie dei buoni”, quelle che permettono di non diventare dei mostri, e magari di correggere le proprie incoerenze: “Quelle storie non sono vere”, obbietta il ragazzino, e alla risposta dell’adulto – “Non devono essere per forza vere. Sono storie” – ribatte tenace: “Sì. Ma nelle storie aiutiamo sempre qualcuno, mentre in realtà non aiutiamo nessuno”. I racconti hanno funzionato, eccome, se hanno fatto maturare questo livello di autocritica. Siamo davvero “mitopatici”, come diceva Tolkien, plasmati dai racconti che abbiamo amato, e che abbiamo deciso di trasmettere. Una responsabilità che si allarga e approfondisce, visto che a quanto pare la domanda “Che storie vogliamo lasciare ai nostri figli?” va persino ampliata. Ai nostri figli e ai nostri computer. Del resto, è proprio vero che ogni nostra soluzione apre altri due problemi, e che ogni nuova risorsa cela nuove inquietudini. E’ stato sempre Sam Harris a chiederci di immaginare cosa sarebbe in grado di fare, quale livello di invadenza e spietata persecuzione potrebbe dispiegare un’Intelligenza artificiale elaborata da una tirannia teocratica, che possa controllare dall'alto quali donne non vadano velate in strada, o che battute blasfeme ci si possa scambiare su WhatsApp. Speriamo di consegnare sempre anche le lacrime di Achille col nemico Priamo, e l'irrefrenabile indulgenza di Falstaff per le nostre gloriose debolezze. A tutti. L’antico ammonimento “Temo l’uomo di un solo libro” va, a sua volta, ampliato. Potrebbe non riguardare più solo un Torquemada di carne e sangue.

Lascia il tuo commento

Condividi le tue opinioni su Il Foglio

Caratteri rimanenti: 1000

Servizi