Sora 2 è in grado di creare video fake iper realistici. La scommessa di OpenAI

Martedì scorso OpenAI ha lanciato Sora 2, un'app di video simile a TikTok (ribattezzata già la "versione AI di TikTok") che consente agli utenti di creare video con l'intelligenza artificiale ad alta definizione lunghi fino a 20 secondi a partire da semplici prompt di testo. E' la seconda generazione del modello di OpenAI – la prima era stata lanciata per gli utenti americani a dicembre – e in pochi giorni è salita in cima in classifica nella categoria foto e video dell'App Store, nonostante sia ancora disponibile solo su invito. Sora sarà infatti disponibile in tutto il mondo tranne che – almeno per ora – in Europa e nel Regno Unito a causa delle leggi europee sulla privacy. La differenza sostanziale con il primo modello è che Sora 2 consente agli utenti di creare video con dialoghi ed effetti sonori coordinati, e a pochi giorni dal lancio il risultato è impressionante. 

La funzione "Cameo"

E' molto simile a TikTok e Instagram anche per l'interfaccia "Per te"  nel feed e la funzione che sta spopolando è "Cameo", con cui è possibile utilizzare un breve video del proprio volto (è necessaria per la verifica dell'identità) che, una volta elaborato dall'app, può essere utilizzato da Sora per inserirsi  nei video generati dall'intelligenza artificiale.  Gli utenti possono tenere il cameo per sé, consentire anche agli amici di utilizzarlo o persino scegliere di consentire a qualsiasi utente Sora di generare video con il proprio volto. "Solo tu decidi chi può usare il tuo cameo e puoi revocare l'accesso o rimuovere qualsiasi video che lo includa in qualsiasi momento", dice il team di OpenAI.  

Il copyright

OpenAI ammette che Sora presenta ancora notevoli limiti: "Spesso genera una fisica irrealistica e ha difficoltà a gestire azioni complesse per lunghi periodi", si legge in un post sul blog. Un portavoce dell'azienda ha affermato che le regole  vietano impersonificazione, truffe e frodi, e avrebbe aggiunto ulteriori misure di sicurezza all'app quando persone reali compaiono nei video, per bloccare nudità e violenza esplicita. Per quanto riguarda il copyright, OpenAI ha già detto che bloccherà tutti i personaggi protetti da copyright se i titolari dei diritti ne chiederanno la rimozione, ma sembra che già nei primi giorni questa regola non sia stata rispettata. L'azienda sta già affrontando diverse cause legali che la accusano di aver utilizzato impropriamente testi tratti da libri, articoli di giornale e altre fonti per addestrare i sistemi di intelligenza artificiale. 

Il rischio disinformazione

Secondo gli esperti, i video fake ma estremamente realistici di Sora potrebbero rappresentare un ulteriore pericolo per la disinformazione sui social media: tra i video diffusi in questi giorni, ci sono il video di un uomo che infilava le schede elettorali in una cassetta della posta, video modificati delle rivolte al Campidoglio del 6 gennaio 2021, un video dello stesso ceo di OpenAI Sam Altman che ruba i chip di Nvidia Corp. da un negozio. 

Nell'ultimo anno, i contenuti generati dall'intelligenza artificiale sono diventati sempre più comuni e popolari su piattaforme come TikTok e YouTube, sono sempre più utilizzati anche dal presidente americano Donald Trump, che questa settimana, prima dello shutdown, ha pubblicato diversi deepfake dei leader democratici Hakeem Jeffries e Chuck Schumer con sombrero e baffi e pronunciano discorsi inventati o cantano canzoni mariachi. "La capacità di Sora 2 di generare video e audio iperrealistici solleva importanti preoccupazioni in merito a somiglianza, uso improprio e inganno", ha scritto OpenAI in un documento che accompagna il debutto dell'app. "Come già accennato, stiamo adottando un approccio ponderato nell'implementazione per ridurre al minimo questi potenziali rischi".

Le altre app di video AI

Soltanto la scorsa settimana Meta AI aveva aggiunto una funzionalità chiamata Vibes alla sua app di intelligenza artificiale, che consente agli utenti di creare e condividere video basati sull'intelligenza artificiale, mentre Google ha già sviluppato il terzo modello di Veo, in grado di creare video di 8 secondi ad alta qualità su Gemini – finora era considerato il migliore. Sora 3 potrebbe batterlo.