Caine Prize, un software accusa il vincitore di aver usato l’AI. Ma un algoritmo non può produrre condanne

L’intelligenza artificiale prometteva di aiutarci a riconoscere ciò che è falso. Sta invece producendo un problema più sottile: che cosa succede quando affidiamo a un’altra intelligenza artificiale il potere di stabilire chi ha imbrogliato? Il caso di Simbarashe Kundizeza è perfetto. Il 6 ottobre lo scrittore zimbabwese ha vinto il Caine Prize for African Writing con il racconto The Blue Fighter. Cinque giorni dopo Vauhini Vara ha raccontato sull’Atlantic di aver sottoposto il testo a Pangram, un software di rilevazione dell’AI: il racconto risultava quasi interamente generato artificialmente. Kundizeza ha negato categoricamente, sostenendo di avere una storia documentabile del lavoro e di essersi ispirato a esperienze familiari. Il Caine Prize ha aperto una verifica, senza revocare il premio. Il problema non è decidere se credere allo scrittore o al detector, ma capire quale tipo di prova siamo disposti ad accettare.

Un detector può segnalare anomalie e somiglianze statistiche. Ma un segnale non è una sentenza. Anche sistemi molto accurati producono falsi positivi, e la scrittura umana non è una sostanza chimica con una formula immutabile: uno scrittore cambia tono, imita, peggiora, migliora. Trasformare tutto questo in una percentuale di colpevolezza significa confondere uno strumento investigativo con un giudice. Ellah Wakatama, che presiede il premio, ha posto la questione nel modo corretto: servono prove che non provengano soltanto da una macchina. Bozze, cronologie delle revisioni, appunti, mail, testimonianze degli editor. Non sono infallibili, ma permettono di ricostruire un processo invece di contemplare un verdetto algoritmico. È una lezione anche per il giornalismo: un detector può dire che vale la pena verificare, non può essere la verifica. Nel primo caso l’algoritmo apre una domanda, nel secondo la chiude. C’è poi un secondo rischio. Scrivi troppo bene? AI. Troppo male? AI. Usi metafore? AI. Cambi stile? AI. Uno strumento costruito per difendere l’autenticità può finire per imporre un’idea rigida di come dovrebbe scrivere un essere umano. Il problema esiste, certo: premi, università e giornali devono darsi regole sull’uso dei modelli generativi.

Ma proprio perché è serio non possiamo affidarlo a una scorciatoia. Il garantismo dell’era dell’AI comincia qui: non nel rifiuto degli strumenti automatici, ma nel rifiuto di considerarli oracoli. Tra il sospetto e l’accusa pubblica deve restare qualcosa di molto antico e molto umano: la prova. La vicenda Kundizeza non ci dice ancora come sia stato scritto The Blue Fighter. Ci dice però come non dovremmo giudicarlo: premendo un pulsante e trasformando la risposta di una macchina in una condanna.