LinkedIn e Substack contro lo slop

Quasi la metà dei post lunghi pubblicati su LinkedIn è generata con l'intelligenza artificiale, secondo un recente studio condotto da Pangram, azienda che sviluppa software di “AI detection”, cioè sistemi in grado di distinguere testi generati da un modello da testi scritti da una persona. Nelle scorse settimane, il capo di Cloudflare, servizio che si occupa di difendere i siti web da attacchi informatici, ha detto che ormai più della metà del traffico web è costituita da bot e crawler. In pratica, la metà di quello che succede online è in realtà opera di programmi automatici, creati in particolare per sviluppare e far funzionare i servizi di intelligenza artificiale.

Sarà per questo che nelle ultime settimane due social network, LinkedIn e Substack, hanno presentato delle iniziative per ridurre la quantità di contenuti generati con le AI. LinkedIn ha creato un pulsante con cui gli utenti possono segnalare post, commenti e altri contenuti “sospetti”, e così ha fatto anche Substack – la piattaforma di newsletter –, che collaborerà proprio con Pangram per migliorare l’esperienza degli utenti. O quantomeno provarci.

Tuttavia, a dispetto delle aspettative, non tutti gli utenti del servizio l’hanno presa bene. Sam Illingworth, autore della newsletter Slow AI, ha definito la scelta di Substack "una caccia alle streghe", osservando come l’azienda abbia scelto di affidare a una macchina il giudizio sull'umanità di un contenuto.

Quanto a Pangram, si definisce sul suo sito "un rilevatore di AI che funziona davvero”, un modo sornione di dire che il resto di questi “AI detector” non fa il loro dovere. Sono fuffa. Distinguere un testo generato dalle AI da un testo scritto da un essere umano non è sempre facile, del resto. Tutti i software di questo tipo hanno un grosso problema di “falsi positivi”, ovvero tendono a segnalare come “sintetici” anche i contenuti scritti dagli esseri umani – e viceversa, inevitabilmente. Insomma, sono sistemi fallibili e imperfetti, motivo per cui molti non si fidano del loro giudizio.

Ma allora, perché LinkedIn e Substack hanno deciso all’improvviso di annunciare questa svolta contro lo “slop”, termine con cui si indica la marmaglia di contenuti generati in massa dalle AI? O meglio, perché proprio adesso?

I social network, del resto, sono pieni di questo tipo di contenuti da ormai anni, e chi gestisce le piattaforme lo sa e lo ha di fatto permesso – perché combattere lo slop è difficile e costoso, o perché non gliene importa granché. Forse, verrebbe da dire, LinkedIn e Substack hanno agito tardi perché ora finalmente Pangram consente un controllo di qualità anti-slop. Come visto, però, nemmeno Pangram può garantire una verifica dell’umanità dei contenuti senza errori e sviste. Quindi deve trattarsi di qualcos’altro: ad esempio, una sorta di posizionamento di mercato.

In questa fase così scarsamente umana del web, lo slop viene dato per certo, inevitabile, e quindi piattaforme come Substack e LinkedIn hanno tutto da guadagnare dal presentarsi come “senza slop” (o con percentuali ridotte di contenuti sintetici). Del resto, si tratta di servizi strettamente legati al mondo del lavoro, la cui autorevolezza potrebbe essere scalfita da report come quello di Pangram, che ha rivelato quanto LinkedIn sia in preda alle AI.

Al tempo stesso, altri social network, peraltro i più grandi, sembrano aver fatto la scelta opposta. Non vedremo Facebook impegnarsi in crociate contro lo slop, anche perché sarebbe una battaglia impossibile, per un social network in tale stato. Ogni tanto YouTube fa qualche timido movimento in questa direzione, cercando di limitare i contenuti generati, ma in tutti i casi il cortocircuito è inevitabile: come possono Meta (Facebook) e Alphabet (l’azienda di Google e YouTube) dirsi “anti-slop” se stanno spendendo migliaia di miliardi di dollari in AI e data center?

Certo, il pignolo potrebbe dire che Microsoft, altro “hyperscaler” delle AI, è il proprietario di LinkedIn, e quindi una via anti-slop per Big Tech è ancora possibile. Ma la scelta di LinkedIn avrà un impatto – se ce l’avrà – all’interno di LinkedIn, non per tutto il gruppo Microsoft, né tantomeno per il resto del web, che continuerà a essere terreno di conquista per i bot delle aziende di AI. È quindi a questo che ambiscono queste piattaforme: proporsi come un’oasi di contenuti “umani”, in un mondo fatto di slop.