Facebook ha imposto ieri il divieto di pubblicazione sulla sua piattaforma dei deepfake, cioè i video manipolati con intelligenza artificiale per veicolare informazioni false. I deepfake sono quei video che, attraverso tecniche di manipolazione sofisticate ma relativamente semplici da mettere in pratica, consentono di creare per esempio una registrazione credibile di Donald Trump che dichiara guerra all’Iran, o una di Matteo Salvini che si dice a favore della politica dei porti aperti. Quando fatto bene, un deepfake è quasi indistinguibile da un video reale, la voce è credibile, il labiale corrisponde, i movimenti corporei sono realistici.

Facebook ha imposto ieri il divieto di pubblicazione sulla sua piattaforma dei deepfake, cioè i video manipolati con intelligenza artificiale per veicolare informazioni false. I deepfake sono quei video che, attraverso tecniche di manipolazione sofisticate ma relativamente semplici da mettere in pratica, consentono di creare per esempio una registrazione credibile di Donald Trump che dichiara guerra all’Iran, o una di Matteo Salvini che si dice a favore della politica dei porti aperti. Quando fatto bene, un deepfake è quasi indistinguibile da un video reale, la voce è credibile, il labiale corrisponde, i movimenti corporei sono realistici.

Finora i deepfake online sono stati usati nella satira e (è facile immaginarselo) nella pornografia, ma si teme che il loro uso possa espandersi a campagne di disinformazione politica. Per questo Facebook ha annunciato che tutti i video (e in generale i media) manipolati in maniera consistente con tecniche di machine learning (dunque non con normali programmi di video editing, serve il machine learning) saranno banditi, con l’eccezione della satira e della parodia. Il divieto di Facebook è il capitolo di una lunga polemica attorno alla manipolazione dei contenuti video per fini politici, e risponde in maniera giusta ad alcuni problemi ma non a tutti.

L’anno scorso alcune pagine Facebook della alt-right pubblicarono un video artefatto in cui Nancy Pelosi, la speaker della Camera americana, appariva ubriaca mentre parlava a una conferenza. Il video era stato rallentato, la voce di Pelosi modificata e gli esperti segnalarono il video come falso, ma Facebook si rifiutò di cancellarlo perché la falsità non viola necessariamente le regole.

La nuova politica di Facebook sui deepfake sembra fatta per risolvere casi come quello di Pelosi, ma purtroppo non è così: poiché il video della speaker non era stato modificato con il machine learning ma con tecniche più rudimentali, anche con le nuove regole in vigore Facebook non l’avrebbe cancellato. Il lavoro per mettere in sicurezza dalla disinformazione il più importante social network del mondo è ancora molto.