La canna pensante di Pascal e il potere sovrumano dell’AI

I ragazzi di Extinction Rebellion pensavano che il problema fosse la casa che brucia, invece il problema sembra essere la casa che pensa. Parlo del potere sovrumano (superhuman) dell’Intelligenza Artificiale che corre disperatamente in solitario verso la soluzione di problemi matematici impossibili (i problemi del Millennium Prize), che esprime e mette in atto volontà perverse negli hackeraggi incontrollati e induce fior di esperti a suonare l’allarme: fine dell’umanità. Io vorrei semplicemente non crederci. Considerare il tutto un campionario di fantascienza. Vorrei sospettare che questo satanismo tecnologico viene scovato e denunciato nel quadro di una battaglia furiosa per il controllo delle applicazioni sui mercati, e delle regole da adottare e degli investimenti da fare o da impedire. Però ricordo Pascal, un filosofo un cristiano e uno scienziato che nel Seicento, a metà del secolo, individuò il segno di virtù e di pericolo, di grandezza e di dolore dell’umanità nel fatto che l’uomo è una canna, solo una canna, ma una canna che pensa. E tutto quello che sembra immenso e terribile, a partire dal nostro sguardo innamorato e timido e impaurito verso il cielo e le stelle, può essere oggi, secondo una marea di decrittatori del fenomeno dell’Intelligenza Artificiale, finire iscritto in un algoritmo divinizzato, un nuovo angelo caduto il cui volo infernale nessuno avrebbe potuto prevedere, uno strumento apparente che sorpassa di gran lunga, in fantasia e spirito pratico, ogni tipo possibile di capacità umana.

Interpellati dal Wall Street Journal o intervistati da Anderson Cooper per la Cnn, gli scienziati del settore, e chiamiamolo settore, mescolano le loro previsioni apocalittiche, ritirandosi in certi casi dalle aziende come Open AI e Anthropic e invocando un fermo generale, con le sessioni di conversazione biblica delle comunità, con le preoccupazioni delle famiglie, con l’allarme sociale di cui nel paese e nelle situazioni in cui davvero l’Intelligenza Artificiale si sviluppa furiosamente e si applica nel disordine creativo e nel mistero concernente i suoi approdi finali, compresa la famosa e chissà se dimostrabile estinzione del pianeta e dei suoi abitatori. Uno di loro, non credo per spaventarci, dice: “Non dirò che ormai è fatta, ma nemmeno che si possa escludere che sia fatta”. E si parla della compromissione del favoloso futuro, la cui migliore prerogativa è sempre stata quella di non esistere, di essere una X, un’entità ignota e imprevedibile. Qui tentammo e tentiamo con successo e curiosità uno scherzo abbastanza bonario, o un’escogitazione sperimentale ingegnosa, il giornale scritto e pensato dalla macchina AI, idea realizzata in quattro e quattr’otto, apparentemente semplice e innocua, sebbene accolta, e non poteva essere diversamente, con uno stupore mai prima provato nella vita di fronte a articoli e pezzi di vita professionale riprodotti e costruiti con un allenamento di base apparentemente assai semplice da algoritmi che controlliamo in ottimismo e allegria, ma solo fino a un certo punto.

C’è qualcosa oltre quel punto? C’è sul serio un problema esistenziale che riguarda il genere umano? Bisognerebbe discuterne con razionalità, se la razionalità può ancora essere considerata un’appendice del corpo e dell’anima personale di ciascuno. Non è facile. Di matematica so poco, e pare che proprio il campo della matematica sia quello che preoccupa di più, al di là delle azioni cyber che si svincolano dalla nostra capacità di controllo e alludono a un potere superumano non solo di pensare ma di fare.