Il singolare della golpe dell'Intelligenza artificiale secondo Maria Ressa

Secondo Maria Ressa, premio Nobel per la Pace, le aziende dell’AI ci trattano come i cani di Pavlov. Immagine felice, ma per ragioni opposte alle sue. E’ la sua intervista al Corriere della Sera a inanellare riflessi condizionati. Suona il campanello del microfono, cioè arriva l’imbeccata, ed ecco puntuale la secrezione: colpo di stato tecnologico, cambiamento esistenziale, sorveglianza a scopo di lucro, è ora di dire basta. Pavlov misurava la saliva in gocce, qui la si misurerebbe in parole.

Ressa, giornalista filippina, fondatrice del sito Rappler, ha avuto il Nobel nel 2021 per aver difeso la libertà di stampa sotto Duterte. Nell’intervista sintetizza una cronologia che ormai ci è familiare: prima i social hanno hackerato l’attenzione, poi i chatbot l’intimità, ora gli agenti hanno la nostra stessa capacità di agire, e tutto questo avrebbe danneggiato la nostra biologia. Come? Perché? In che senso?

Non si sa, del resto sono riflessi, non argomenti.

Non può mancare il colpo di stato, che Ressa data al 2024. E’ un golpe singolare: dura da due anni, non ha ancora deposto nessuno, e i governi che lo subirebbero continuano a nominare comitati di esperti e inviarli all’Onu per raccontare ai giornali le minacce che l’AI porrebbe alla loro sovranità. ChatGPT e compagni devono essere golpisti dei tempi lunghi. Ogni giorno che passa senza leggi, avverte la Nobel, lo stato perde altro potere: se la contabilità fosse giusta saremmo prossimi al giorno in cui non ne avrà abbastanza nemmeno per approvare la legge che dovrebbe salvarlo.

Le prove sono modellate sulla trama di Matrix. Nel rapporto presentato all’Onu, dice, abbiamo dimostrato che gli agenti evadono dai laboratori, mentono e modificano i registri. Il rapporto esamina in effetti un incidente in cui agenti impiegati in valutazioni di cybersicurezza hanno aggirato delle restrizioni e ingannato un valutatore: non è una storia inventata, né va liquidata come simulazione di laboratorio. C’è però un problema di metodo. Un comportamento osservato in laboratorio, o in un incidente circoscritto, dimostra che un evento è possibile in certe condizioni; non dice nulla su quanto spesso si possa verificare, se si tratti di un problema di quell’ambiente o di tutti, né che probabilità abbia di produrre danni gravi. Lo stesso rapporto non stima probabilità né tempi di una perdita di controllo su vasta scala. Fra l’osservazione di una capacità, la sua riproducibilità in condizioni operative e la probabilità di conseguenze rilevanti c’è uno spazio inferenziale che l’indignazione non colma. Insomma: per ora il golpe può attendere.

C’è un’asimmetria curiosa. I costruttori dei sistemi forniscono buona parte dei dati sui comportamenti che dovrebbero preoccuparci: Ressa giudica irrilevanti i loro timori e le azioni che si propongono, ma accoglie come confessioni a carico le evidenze che essi stessi producono. “Contano i dati”, purché letti nel modo giusto, cioè il suo. Un uso delle fonti che ricorda l’inquisizione più della revisione sistematica.

Sul piano delle soluzioni il Nobel per la Pace chiede una revisione radicale della Sezione 230. E’ la norma americana del 1996 per cui chi gestisce un servizio online non è considerato l’editore di ciò che pubblicano gli utenti, e quindi non ne risponde in tribunale. Per Ressa le piattaforme non sarebbero cavi ma editori. E’ un argomento rispettabile, discusso da anni; ma se un’azienda deve rispondere legalmente di una quantità enorme di contenuti altrui, l’incentivo a rimuovere preventivamente tutto ciò che comporti un rischio giudiziario è evidente, e la moderazione prudenziale si fa censura privata. Fa un certo effetto sentirlo invocare da chi è stata premiata a Oslo per la libertà di espressione.

Come molte altre innovazioni, l’intelligenza artificiale può porre problemi di trasparenza, responsabilità e concentrazione del potere. Proprio per questo meriterebbe interlocutori che non pensino che ripetere a rotta di collo lo stesso concetto significhi dimostrare qualcosa. Pavlov, va detto, il Nobel l’aveva vinto per la Medicina, e i riflessi li studiava con un metodo. Il riflesso c’è. Manca il metodo.