I dati del nostro cervello diventano una risorsa per l’intelligenza artificiale

Una fascia indossata per dormire meglio, meditare o misurare la concentrazione registra l'attività elettrica del cervello e restituisce indicazioni sul telefono. Chi la compra pensa di aver acquistato un servizio. Può invece avere contribuito, senza esserne stato informato adeguatamente, a costruire un patrimonio industriale di dati cerebrali destinato all'addestramento di intelligenze artificiali. Lo documenta un'inchiesta durata un anno, firmata da Jonathan Moens su Science. La vicenda rivela quanto sia pericoloso affidare al mercato, senza un controllo pubblico effettivo, la raccolta e lo sfruttamento di informazioni che provengono direttamente dall'organo da cui emergono percezioni, emozioni, memoria e pensiero, e delle quali non sappiamo ancora quanto diventerà possibile conoscere attraverso gli sviluppi dell'intelligenza artificiale.

Questi dispositivi utilizzano l'elettroencefalografia, o EEG: elettrodi sul cuoio capelluto registrano variazioni di potenziale elettrico prodotte dall'attività di grandi popolazioni di neuroni. Le fasce commerciali forniscono segnali molto meno dettagliati degli apparecchi clinici e non leggono liberamente pensieri o ricordi. Possono però alimentare algoritmi capaci di riconoscere caratteristiche del sonno o stimare alcuni stati cognitivi. La sensibilità di quelle registrazioni dipende anche da ciò che algoritmi futuri sapranno estrarne.

Moens ha esaminato le informative di 57 imprese che commercializzano queste neurotecnologie. Quattro non ne avevano alcuna e undici disponevano soltanto di dichiarazioni riferite ai visitatori del sito, senza spiegare il trattamento dei segnali cerebrali. Fra le società dotate di informative, tutte tranne una consentivano qualche forma di condivisione con terzi di dati aggregati o privati degli identificativi personali, senza chiarire sempre se fossero inclusi i tracciati EEG. Soltanto sei escludevano espressamente la vendita di dati cerebrali. Non prova vendite effettive, ma documenta quanto fosse indefinito il destino di informazioni delicate.

Interaxon, l'azienda canadese produttrice della fascia Muse, ha dichiarato a Science di aver addestrato un modello su circa 50.000 ore di EEG, per la maggior parte provenienti dagli utilizzatori del prodotto. Secondo l'impresa, dalle registrazioni erano stati eliminati nomi e indirizzi email. L'informativa non spiegava però esplicitamente che i segnali sarebbero stati impiegati per addestrare un modello generale del cervello. Dopo le domande del giornalista, Interaxon l'ha modificata, riconoscendo la necessità di informare gli utenti. Un passaggio essenziale del rapporto commerciale è stato chiarito soltanto dopo un'inchiesta indipendente, ad addestramento avvenuto.

Anche Emotiv ha spiegato di utilizzare per il proprio Large Brain Model parte delle registrazioni provenienti dagli utenti di dispositivi avanzati, insieme ad altre fonti. Dopo le richieste di Science ha aggiornato le condizioni, prevedendo il consenso esplicito per l'addestramento con dati neurali pseudonimizzati. Il cambiamento conferma che utilizzare un apparecchio e contribuire allo sviluppo di un prodotto commerciale di AI sono finalità differenti. L'utente deve poterne autorizzare una senza essere obbligato ad accettare l'altra.

Per capire il valore economico dell'operazione bisogna considerare i "modelli fondazionali" del cervello. Sono sistemi addestrati su grandi quantità di registrazioni per apprendere regolarità statistiche e venire poi adattati a problemi specifici, dalla classificazione delle fasi del sonno al riconoscimento di alcune anomalie neurologiche. Il vantaggio competitivo deriva anche dal possesso esclusivo di collezioni di segnali difficili da riprodurre. I produttori possono costruirle attraverso dispositivi pagati dai consumatori, i quali spesso ignorano che l'uso quotidiano contribuisce a creare una risorsa industriale trasferibile e monetizzabile.

La rimozione del nome dal file non elimina automaticamente il problema. Pseudonimizzare significa separare un dato dagli identificativi diretti; anonimizzare significa renderne non ragionevolmente possibile la riconduzione alla persona. Sono condizioni diverse. I tracciati EEG contengono caratteristiche individuali che vengono studiate anche come possibili strumenti biometrici di identificazione. Un algoritmo può inoltre ricavare informazioni su stati cognitivi e altre caratteristiche sensibili. Patrick Magee, Marcello Ienca e Nita Farahany hanno spiegato su Neuron che la riservatezza mentale richiede di considerare anche le inferenze prodotte a partire dai dati, oltre alle registrazioni originarie. La semplice rimozione di nome e cognome non offre dunque garanzie sufficienti.

Esiste poi un'asimmetria tecnica. Cancellare una registrazione da un archivio è un'operazione identificabile; eliminare il contributo che essa ha dato all'addestramento di una rete neurale è assai più difficile e non sempre verificabile. Il diritto di ritirare il consenso rischia dunque di essere esercitato quando l'impresa ha già incorporato nel prodotto il risultato dell'utilizzo dei dati. Chi smette di usare il dispositivo può comunque aver contribuito a un modello ancora sfruttabile.

Il problema emerge in una forma ancora più grave nel lavoro. Una seconda inchiesta di Science racconta l'impiego di caschi e altri dispositivi EEG per rilevare la stanchezza di operai e conducenti, soprattutto in Cina. Prevenire gli incidenti è uno scopo legittimo, ma il consenso prestato da un dipendente sottoposto alla sorveglianza aziendale non ha la libertà di quello di un consumatore che può rinunciare a un accessorio. Se la registrazione viene associata all'identità del lavoratore e trasmessa a superiori o autorità, la valutazione della fatica può diventare controllo permanente della persona. Anche gli errori dell'algoritmo possono avere conseguenze professionali.

L'Europa dispone del regolamento generale sulla protezione dei dati, che impone finalità determinate, trasparenza e garanzie speciali per i dati sanitari e biometrici quando ricorrono le condizioni previste dalla legge. Non ogni EEG rientra automaticamente nella stessa categoria giuridica, e il problema richiede verifiche specifiche sulle pratiche di raccolta e riutilizzo. Negli Stati Uniti, Colorado e California hanno già ampliato le protezioni legislative dei dati neurali. Le protezioni generali richiedono dunque un'applicazione specifica.

Le autorità dovrebbero esigere una descrizione verificabile dei dati conservati e delle loro destinazioni; un consenso distinto, revocabile e non necessario per usufruire delle funzioni di base quando si tratta di addestramento commerciale; audit indipendenti sui database di addestramento e sui trasferimenti tra imprese. Nei luoghi di lavoro servono limiti più stringenti, perché il diritto di rifiutare ha poco significato quando entra in gioco la dipendenza economica. La provenienza dei dati utilizzati dai modelli deve inoltre essere verificabile.

La questione decisiva è la distribuzione del potere. Le imprese possono trasformare dati raccolti per uno scopo circoscritto in beni strategici, valorizzabili persino quando l'azienda cambia proprietario, mentre chi li ha generati non conosce la portata dell'operazione. Il mercato remunera l'accumulazione di dati e il successo dei modelli, ma non contabilizza automaticamente il costo delle future intrusioni nella vita mentale degli individui. Affidare alle aziende anche la definizione dei confini di ciò che possono raccogliere significa permettere a chi trae profitto da questa espansione di determinarne le regole. La ricerca sul cervello può svilupparsi con dati raccolti legalmente e controlli indipendenti. Quella che Science ha documentato è invece una sottrazione di decisioni agli interessati, resa possibile dalla debolezza della sorveglianza pubblica. Ed è precisamente questo che non può essere lasciato al mercato.