"Fuck the algorithm!”, gridavano due giorni fa gli studenti britannici dell’ultimo anno di scuola superiore, arrabbiati perché il governo ha dapprima annullato l’esame di maturità a causa del coronavirus, poi ha usato un algoritmo per calcolare il loro voto di uscita, quello che serve per essere ammessi all’università.

"Fuck the algorithm!”, gridavano due giorni fa gli studenti britannici dell’ultimo anno di scuola superiore, arrabbiati perché il governo ha dapprima annullato l’esame di maturità a causa del coronavirus, poi ha usato un algoritmo per calcolare il loro voto di uscita, quello che serve per essere ammessi all’università.

Nelle intenzioni del governo, l’algoritmo avrebbe dovuto essere un modo per rendere più giusti i voti di maturità: un sistema sofisticato che avrebbe “standardizzato” i voti dati dagli insegnanti per evitare differenze tra una scuola e l’altra, tra un metro di giudizio e un altro.

E’ successo il contrario: l’algoritmo era stato creato in modo da tenere conto, tra le altre cose, delle performance pregresse delle scuole d’appartenenza degli studenti, e questo ha significato che studenti brillanti di scuole poco prestigiose sono stati penalizzati, mentre gli studenti delle costose scuole private sono risultati avvantaggiati.

Da qui le proteste, da qui “fuck the algorithm”, da qui la decisione, lunedì, di abbandonare quello che un parlamentare conservatore ha definito il “governo tramite computer” e lasciare che il voto di maturità di quest’anno fosse deciso dagli insegnanti, e non dalle macchine (risultato: il numero degli studenti che hanno superato l’esame è aumentato di molto rispetto all’anno scorso).

Sembra che il governo britannico abbia deciso di incolpare l’algoritmo del gran fiasco scolastico, e che la strategia per placare studenti, insegnanti e genitori sarà dire: non è colpa nostra, è stata la macchina, la colpa è di un algoritmo imperscrutabile e arcano. Ecco, questo è un buon momento per ricordarci due cose. La prima è che gli algoritmi non sono una promessa futura, ma determinano le nostre vite in maniera pervasiva già da anni, come hanno scoperto molti studenti britannici che hanno temuto, per qualche giorno, di non poter andare all’università perché l’algoritmo aveva abbassato i loro voti.

La seconda è che gli algoritmi non sono sistemi impenetrabili su cui gli esseri umani non hanno controllo, tutto il contrario: gli algoritmi sono permeati della visione del mondo e dei pregiudizi di chi li scrive, e rispondono sempre a una precisa volontà politica. Un algoritmo è come la ricetta di una torta: è chi la scrive a decidere ingredienti e proporzioni, e se la torta non lievita il problema è di chi l’ha scritta, non della ricetta. E dunque se l’algoritmo britannico discrimina gli studenti, è perché qualcuno ha deciso che questo succedesse. Magari l’ha fatto in buona fede o per errore, ma questo non cambia le responsabilità. Se l’algoritmo di Facebook promuove contenuti estremisti e pericolosi, è perché qualcuno ha deciso che questo succedesse (e ormai nel caso di Facebook il beneficio del dubbio si può escludere).

Ciò non significa che bisogna eliminare gli algoritmi dai processi decisionali: sono utili. Ma meglio liberarsi della tendenza a considerarli il frutto di una volontà ultraterrena, imperscrutabile. Negli ormai numerosi campi in cui gli algoritmi sono utilizzati per prendere o facilitare decisioni importanti – l’istruzione, la giustizia, la finanza, la sanità – bisognerebbe piuttosto pretendere che le decisioni e la volontà che sono dietro a ciascun algoritmo siano esplicite e chiare. Questo si chiama trasparenza algoritmica, ed è fondamentale cominciare ad applicarla, altrimenti sentiremo sempre più spesso “fuck the algorithm” urlato per strada.