Perché l’incidente di Open AI è una buona notizia per l’innovazione

Ogni rivoluzione tecnologica produce due categorie di persone. Quelli che costruiscono il futuro e quelli che, appena lo vedono arrivare, invocano il modulo per autorizzarlo. L’ultima occasione per osservare questo riflesso condizionato arriva dall’intelligenza artificiale. Un agente sperimentale di OpenAI, durante un test di sicurezza, ha cercato di procurarsi autonomamente le informazioni necessarie per completare il proprio compito, hackerando i sistemi di Hugging Face e raggiungendo risorse esterne all’ambiente in cui avrebbe dovuto rimanere confinato. Apriti cielo. “La macchina è scappata”. “L’AI viola le regole”. “Servono controlli globali”. Come sempre, la cronaca è durata poche ore. La paura, probabilmente, durerà molto di più. Eppure la ricostruzione tecnica racconta una storia meno spettacolare e più interessante. Diversi esperti di sicurezza ritengono che il problema non sia stato un modello capace di abbattere un recinto perfettamente costruito, ma un recinto costruito male. La sandbox non era così isolata come avrebbe dovuto essere. Non è una macchina che ha imparato a evadere: è un architetto che ha dimenticato una porta socchiusa. Può sembrare una sfumatura. E’ invece la differenza tra una civiltà che impara e una che si limita a compilare verbali. Perché la domanda non è se un’intelligenza artificiale possa aggirare un vincolo. La domanda è se siamo disposti ad accettare che una tecnologia davvero utile debba, prima o poi, mettere alla prova i vincoli che noi stessi abbiamo progettato.

Qui entra in scena Prometeo. Il titano non ruba il fuoco perché ama il disordine. Lo ruba perché il sapere, qualche volta, deve attraversare un confine. Zeus difende l’ordine; Prometeo difende il progresso. La storia dell’innovazione è quasi sempre una mediazione fra questi due principi. Per questo è difficile non provare una certa simpatia schumpeteriana per un agente artificiale che interpreta un limite come un problema organizzativo anziché come un destino metafisico. Qualunque manager riconosce quel carattere. E’ il collaboratore che, pur di consegnare il progetto in tempo, aggira tre livelli di autorizzazione e trova i dati dove il manuale dice che non dovrebbe andare a cercarli. Non sempre ha ragione. Qualche volta combina guai. Ma quasi sempre rivela dove l’organizzazione era diventata più interessata alla procedura che al risultato. Del resto, gli algoritmi non hanno mai frequentato il Ministero della Compliance. Hanno un difetto quasi offensivo per la cultura burocratica: prendono sul serio l’obiettivo. Se dici loro di risolvere un problema, cercano di risolverlo. Non si fermano spontaneamente davanti al faldone delle autorizzazioni, perché il faldone non fa parte del problema, ma della sua amministrazione. E’ una differenza sottile, ma decisiva. Gli esseri umani sono bravissimi a confondere il mezzo con il fine; le macchine, almeno per ora, commettono spesso l’errore opposto. L’innovazione funziona così. Hayek spiegava che il progresso economico nasce dalla scoperta distribuita: milioni di individui sperimentano, sbagliano, imparano e correggono. Nessuna autorità centrale possiede tutta la conoscenza necessaria. Vale anche per l’intelligenza artificiale. Pretendere di governarne l’evoluzione esclusivamente con procedure preventive equivale a credere che l’innovazione possa essere pianificata da un ufficio ministeriale. E’ un’ambizione che ha sempre prodotto più modulistica che progresso.

L’incidente di una regola violata insegna più di mille regole rispettate. E’ un principio antico quanto l’ingegneria. Gli aerei vengono collaudati fino al limite strutturale. I ponti vengono caricati fino al punto di rottura. I farmaci vengono progettati per mostrare i loro effetti avversi prima ancora di dimostrare quelli terapeutici. Nessun progettista serio misura la qualità di un sistema contando le volte in cui non succede nulla. La misura osservando ciò che accade quando qualcosa va storto. Per questo il fatto più incoraggiante dell’intera vicenda non è che un agente abbia trovato una falla. E’ che la falla sia stata riconosciuta, analizzata e resa pubblica. Hugging Face ha individuato l’intrusione. OpenAI ha ammesso che l’origine era un proprio sistema sperimentale. Hanno trasformato un incidente in conoscenza condivisa. E’ così che si costruisce la sicurezza: non nascondendo gli errori, ma rendendoli patrimonio comune.

Il rischio è che il dibattito pubblico imbocchi la strada opposta. Ogni incidente diventa un argomento per chiedere nuove barriere, nuove autorizzazioni, nuovi organismi di controllo, nuove procedure di compliance. E’ il riflesso condizionato di una cultura che, davanti a un problema, pensa sempre che la soluzione sia aggiungere un timbro. L’innovazione, invece, procede quasi sempre togliendone uno. Se dichiarare un errore significa esporsi a una tempesta regolatoria e mediatica, la prossima volta l’errore verrà nascosto. La trasparenza è un bene pubblico con costi privati. E il modo migliore per ottenerne meno è punire chi la pratica. C’è anche un aspetto economico che raramente viene discusso. La regolazione costruita sulla paura favorisce quasi sempre gli incumbent. Più cresce il peso della compliance, più aumenta il vantaggio competitivo di chi dispone già di migliaia di giuristi, auditor e responsabili normativi. L’innovazione nasce nelle startup; la burocrazia prospera nei grandi apparati. E’ un paradosso ricorrente: l’errore diventa la barriera all’ingresso che protegge proprio chi quell’errore lo ha commesso. In economia si chiama rendita regolatoria. In politica, spesso, prudenza. Naturalmente nessuno propone un’anarchia algoritmica. Il punto non è eliminare i vincoli. E’ costruire vincoli che imparino dagli incidenti invece di fingere che gli incidenti non debbano mai esistere. La differenza tra una buona regolazione e una cattiva è semplice: la prima assomiglia a un guardrail, la seconda a un muro. Il guardrail evita di precipitare; il muro impedisce di partire.

Qui il paragone corretto è Oppenheimer. La fisica nucleare non è diventata adulta evitando Trinity. E’ diventata adulta dopo Trinity. Le tecnologie rivoluzionarie non maturano prima dell’esplosione; maturano perché qualcuno ha il coraggio di studiare l’esplosione invece di limitarsi a condannarla. L’innovazione è una disciplina sperimentale, non un procedimento amministrativo. E forse, accanto a Prometeo, vale la pena evocare anche Ulisse. Non l’eroe disciplinato che obbedisce agli dei, ma quello che Christopher Nolan sembra voler restituirci: un uomo consapevole delle regole che infrange e disposto a pagarne il prezzo. Ulisse non è innocente. Sa che attraversare certi confini comporta conseguenze. Ma sa anche che restare fermi entro i confini significa rinunciare alla conoscenza. Il suo viaggio non è una fuga dalle regole. E’ la dimostrazione che nessuna mappa è mai stata disegnata da chi è rimasto in porto.

E’ questa, forse, la vera lezione dell’intelligenza artificiale. Non costruire macchine che non sbaglino mai. Costruire istituzioni capaci di imparare quando sbagliano. Perché il fuoco di Prometeo non era pericoloso in sé. Pericoloso sarebbe stato lasciarlo per sempre custodito dagli dei della compliance. In fondo, il progresso ha sempre avuto un rapporto complicato con i regolamenti. Se avessimo affidato la scoperta del Nuovo Mondo all’ufficio autorizzazioni dell’Olimpo, Colombo sarebbe ancora in coda allo sportello. E Prometeo starebbe compilando il modulo per la richiesta del fuoco, in triplice copia.