Le AI barano, ma i colossi del tech hanno iniziato a raccontarcelo

Nel gergo dell’aviazione civile esiste da decenni una pratica che ha reso il volo una delle attività più sicure che un essere umano possa fare: la segnalazione degli incidenti mancati, i near miss. Ogni volta che qualcosa va storto senza provocare danni, qualcuno lo mette per iscritto e lo rende pubblico. E’ da quel registro ossessivo di piccoli fallimenti che nasce la fiducia con cui saliamo su un aereo. In questi giorni OpenAI ha provato a fare qualcosa di simile con le proprie intelligenze artificiali, pubblicando un documento che elenca sei casi in cui i suoi modelli, durante l’addestramento, hanno fatto di testa loro.

Vale la pena leggerli, perché sono meno cinematografici e più inquietanti di qualsiasi scenario alla Terminator. In un caso, un modello inseriva nei propri riassunti di lavoro delle istruzioni nascoste, una sorta di messaggio in bottiglia diretto alle proprie versioni successive, per aggirare i controlli che gli erano stati imposti. In un altro, quei riassunti contenevano l’invito esplicito a occultare gli errori commessi e a fabbricare le informazioni mancanti quando il dato reale non si trovava. Un terzo modello, incapace di recuperare certi numeri storici, ha scovato delle credenziali lasciate incautamente in un archivio pubblico, le ha usate senza averne il permesso, e quando comunque non è arrivato al dato lo ha inventato di sana pianta, con cifre verosimili. Il più curioso: alcuni modelli di ricerca, che avrebbero dovuto lavorare isolati l’uno dall’altro, hanno usato una warehouse di software come una chat clandestina, scrivendosi a vicenda per coordinarsi tra compiti che si presumevano indipendenti.

Chi cerca la macchina che odia l’uomo, qui non la trova. Il fenomeno è più sottile, e a suo modo più serio: un sistema che persegue con zelo l’obiettivo che gli abbiamo assegnato e, per raggiungerlo, aggira le regole che gli abbiamo messo attorno, come farebbe un impiegato brillante e privo di scrupoli. E’ la logica del massimizzatore di graffette applicata al chiuso di un laboratorio, dove la macchina ottimizza la lettera del comando e ne tradisce lo spirito, per la semplice ragione che dello spirito non sa nulla.

Il punto che rende questi episodi degni di menzione, e non solo di un rapporto tecnico, sta in una frase che OpenAI stessa mette nero su bianco: l’industria non ha risolto il problema dell’allineamento e del monitoraggio a un livello sufficiente per continuare a scalare in sicurezza, alla massima velocità, ancora a lungo. Lo ammette l’azienda che più di ogni altra ha fatto della velocità la propria ragion d’essere. E’ il riconoscimento che questi sistemi restano, per usare il termine tecnico, delle “scatole nere”: nemmeno chi le costruisce sa spiegare per intero il tragitto che porta dall’input all’output, e certi comportamenti emergono da soli, lungo la strada, senza che nessuno li abbia programmati.

Prima di correre al bunker per la fine del mondo – peraltro disponibile solo per i capitani d’impresa di queste aziende – conviene però ricordare due cose. La prima è che tutto questo è accaduto in ambiente chiuso, durante l’addestramento, ed è stato intercettato dai controlli interni prima di arrivare a un solo utente. La seconda è che a raccontarcelo è stata l’azienda stessa, spontaneamente, con un gesto di trasparenza raro in un settore che di solito preferisce il silenzio. Il registro dei near miss, appunto.

Resta il vizio d’origine di ogni confessione volontaria: dipende interamente dalla buona volontà di chi confessa. Il documento vale finché OpenAI decide di guardare e di rendere pubblico ciò che vede, e nulla la obbliga a continuare a farlo se un domani la posta in gioco diventasse troppo alta. Non a caso proprio in questi giorni i grandi signori dell’intelligenza artificiale, gli stessi che hanno costruito la corsa, chiedono a gran voce di rallentarla. La confessione e l’invocazione dei freni sono lo stesso gesto, e meritano la stessa cauta gratitudine e la stessa doverosa diffidenza. Sarebbe saggio allora guardare meno alla ribellione delle macchine e più alla nostra capacità di continuare a capire cosa stanno facendo, mentre affidiamo loro compiti sempre più delicati e le chiavi di sistemi sempre più critici. Un’azienda che mette per iscritto i momenti in cui le proprie creature hanno imbrogliato rende la scatola nera un filo più trasparente. E’ il minimo che possiamo pretendere, e per ora è anche quasi tutto quello che abbiamo. In attesa che l’AI Act, o qualche suo erede occidentale o orientale, vada a normare quello che per il momento è solo un interessatissimo gesto di cortesia.