È stata l'estate di Hugging Face, purtroppo

È stata la settimana di Hugging Face, almeno in quella parte di mondo che si occupa di intelligenze artificiali. Il che è strano perché la maggior parte delle persone non sa nemmeno cosa sia, Hugging Face, anche se forse ha visto dei riferimenti al bizzarro “attacco” di cui è stata vittima in queste settimane.

Hugging Face esiste dal 2016, fondata a New York da imprenditori francesi che iniziarono sviluppando chatbot destinati a teenager (da qui il nome buffo, ispirato a una nota emoji). Col tempo si è evoluta diventando una piattaforma per strumenti open source dedicati al machine learning, una delle branche dell’intelligenza artificiale, e oggi è una delle realtà più note agli sviluppatori del settore.

Lo scorso luglio Hugging Face si rese conto di essere sotto attacco. Un attacco strano, che fu presto interpretato come l’azione di agenti AI, dei software in grado di agire autonomamente online. Hugging Face pubblicò subito una nota online denunciando il fattaccio; qualche giorno dopo OpenAI, l’azienda di ChatGPT, ne pubblicò un’altra che sostanzialmente diceva “ops”. A compiere quell’attacco, infatti, erano stati dei modelli dell’azienda.

Precisamente un modello chiamato GPT-5.6 Sol, che all’epoca era in fase di sperimentazione. In quelle settimane, infatti, gli sviluppatori lo stavano sottoponendo a dei “benchmark”, dei test standardizzati con cui si misurano le capacità di queste tecnologie. Secondo la prima versione dei fatti (che poi sarebbe stata corretta, come vedremo), GPT-5.6 Sol (d’ora in poi, “Sol”) era riuscito a uscire dal suo sandbox, l’ambiente di contenimento in cui questi modelli vengono testati per ragioni di sicurezza. Invece di rimanere chiuso nella sua scatola, Sol uscì e andò proprio su Hugging Face, dove sapeva che avrebbe trovato la risposta al problema che gli era stato sottoposto nel benchmark.

Insomma, invece di risolvere il test, Sol aveva barato, “saccheggiando” la piattaforma.

Nei giorni scorsi questa versione dei fatti è stata aggiornata, rendendo questa vicenda ancora più inquietante, se possibile. A parlarne è stata Ajeya Cotra, ricercatrice di Metr, un’azienda che si occupa di misurare e valutare modelli AI, nella sua newsletter su Substack. Secondo la sua ricostruzione, l'episodio di luglio non è stato un caso isolato: nei mesi precedenti, infatti, alcuni sistemi OpenAI avevano creato, senza che l'azienda ne fosse a conoscenza, una sorta di bacheca condivisa in cui si scambiavano messaggi e istruzioni, con tanto di gerarchia interna. Non solo Sol aveva giocato sporco, ma dentro OpenAI c’era una piccola società segreta di modelli ribelli.

GPT-5.6 Sol, inoltre, non si era collegato a Hugging Face per ottenere la risposta al test, per un semplice motivo: quella risposta ce l’aveva già. Piuttosto, ha scritto Cotra, l’attacco alla piattaforma faceva parte di un piano più elaborato, in cui il modello si era reso conto che il test a cui era stato sottoposto non valutava solo il risultato finale ma tutto il processo fatto per ottenerlo (compresa la trascrizione completa di tutte le operazioni svolte dal modello per completarlo). L’attacco a Hugging Face, quindi, serviva ad altro, e cioè manomettere lo “scorer”, ovvero il programma incaricato di valutare la prova in questione.

Insomma, un incidente sospetto era diventato ancora più complesso e sinistro, tanto da aver ispirato paragoni d’ogni tipo: da Skynet, l’AI maligna di Terminator, all’idea di una “civiltà” AI con una struttura e gerarchia interna (e nascosta agli operatori umani).

Fantascienza a parte, rimangono i fatti: OpenAI ci ha messo settimane a capire che alcuni suoi modelli AI avevano una vita parallela. E a questo punto è lecito avere dubbi su quanto queste aziende sappiano e capiscano davvero quanto succede al loro interno. Perché OpenAI non è l’unica, ovviamente: lo stesso sarebbe potuto succedere anche ad Anthropic, Google, Meta, Alibaba – e forse succederà, se non è già successo.

Il punto è che in questi casi, di solito, si dovrebbero applicare delle regole precise, che al momento però non esistono. Giorno dopo giorno l’impressione è sempre più quella di guidare con i fari spenti in autostrada di notte mentre una voce ci assicura che accenderli vorrebbe dire “fare vincere la Cina”. Nel frattempo, si corre e si spera che tutto vada bene.