L’AI è ancora controllabile, ma non lo sarà per sempre. Parla Benioff (Salesforce)

Nel nostro mondo, cose che fino a pochissimo tempo fa ritenevamo fantascienza stanno diventando realtà quotidiana. Anzi, lo sono già diventate”. Seduto a margine della cena di gala della Terza Rome conference for AI, ethics and governance, Marc Benioff, cofondatore, chairman e Ceo di Salesforce, non ha l’aria di chi vuole cedere all’entusiasmo tecnologico senza porsi domande.

Salesforce è una delle principali aziende globali del cloud computing e ha costruito una delle piattaforme Crm più diffuse al mondo, oggi sempre più integrata con l’intelligenza artificiale. Ha appena annunciato un miliardo di investimenti in Italia. Per il suo ruolo strategico, ragiona Benioff, chi costruisce questi sistemi ha oggi una responsabilità in più: “È il momento in cui dobbiamo unirci e chiederci che cosa vogliamo davvero. Quali sono i valori che ci guidano, come persone e come aziende? Perché quei valori inevitabilmente genereranno potere”. Per Benioff, la rivoluzione in corso non è solo tecnologica. È, prima di tutto, una questione spirituale, quasi religiosa. “Con l’intelligenza artificiale la domanda è ancora più radicale: ci avvicina a Dio o ce ne allontana? Ci rende più uniti o ci sta separando? Questo è il cuore della discussione”, insiste. E tuttavia, al fondo, resta una convinzione: “La tecnologia in sé non è né buona né cattiva. È ciò che facciamo noi con la tecnologia che può essere buono o cattivo. È questo che conta. Ed è, ancora, una decisione umana. Per questo dico che l’intelligenza artificiale è tuttora decisamente sotto il nostro controllo”.

Se è ancora controllabile, allora la vera domanda è se stiamo imparando dagli errori già commessi. Il paragone che Benioff propone è quello con i social network, tema che – racconta – ha affrontato pochi giorni fa anche al G7 in Francia. “Quando guardiamo ai social media, che possiamo considerare un “riscaldamento” rispetto a quello che l’AI porterà, non abbiamo mostrato il nostro lato migliore. Quella tecnologia è stata usata in modo aggressivo, senza sufficiente responsabilità”.

La metafora che usa da anni è quella delle “nuove sigarette”. “Da dieci anni ripeto che i social media sono, sotto molti aspetti, le nuove sigarette. Creano dipendenza, non fanno bene ai nostri figli, e le aziende che li producono sono alle calcagna dei bambini. Dovremmo fermarci e chiederci seriamente che cosa stiamo proponendo loro”. Il cambio di passo normativo, però, è arrivato tardi: “Solo da pochissimo tempo sento appelli davvero universali per vietare l’uso dei social media ai minori sotto una certa età. Siamo in ritardo. Ecco perché faccio il parallelismo con l’intelligenza artificiale: la lentezza con cui abbiamo reagito ai social è del tutto inaccettabile, se la ripetiamo con l’AI”. Il riferimento ai “modelli” di AI non è astratto. Benioff evoca casi concreti di sistemi che “possono istigare gesti pericolosi, perfino suicidi”. E chiede: “È già accaduto. Ma quali azioni stanno mettendo in campo i nostri governi per proteggere i nostri figli? Che cosa stanno facendo le autorità religiose, educative e morali per combattere questo fenomeno? Non possiamo aspettare altri dieci anni”. Da qui Benioff arriva al tema della responsabilità legale delle piattaforme: ieri i social, domani – sempre di più – i sistemi di intelligenza artificiale generativa. “Dobbiamo ricordare alle aziende che producono social media che devono rispondere dei prodotti di cui sono proprietarie. Negli Stati Uniti esistono leggi che proteggono queste aziende indipendentemente dai danni che i loro prodotti causano”, osserva. È un impianto che, a suo avviso, non regge più: “Partiamo dai danni. Qualcuno sta davvero chiedendo conto a queste aziende delle conseguenze delle loro tecnologie? Se non partiamo da questo che cosa resta allora della natura etica della nostra società? Non è solo un principio religioso, morale o etico: è il principio fondamentale della convivenza civile”.

Il punto, per Benioff, è capire se con l’intelligenza artificiale stiamo davvero cambiando strada. “La domanda che dobbiamo porci è proprio questa: stiamo davvero cambiando atteggiamento e approccio rispetto al passato, oppure con l’intelligenza artificiale stiamo continuando nella stessa direzione, senza chiamare le aziende a rispondere dei loro danni?”, si chiede. E il discorso non riguarda solo i minori: “Non parliamo solo dei pericoli per i bambini. Parliamo dei rischi legati alla disinformazione e della mancanza di volontà di molte aziende di assumersi fino in fondo le proprie responsabilità”.

Alla fine, Benioff torna alla sua premessa: l’AI è ancora uno strumento governabile, ma non lo sarà necessariamente per sempre. “Sì, oggi è ancora sotto il nostro controllo. Ma dipende da noi decidere se usarla per unirci o per dividerci. Non possiamo più permetterci di aspettare che siano i danni, ancora una volta, a costringerci a reagire”. A Roma, durante una conferenza dedicata a etica e governance, Benioff non parla da apocalittico né da convertito ingenuo alla religione dell’AI. Dice una cosa semplice: la tecnologia è ancora governabile, ma non lo sarà per sempre. E dopo aver lasciato crescere i social senza troppe domande, sarebbe un errore ripetere con l’intelligenza artificiale lo stesso schema: aspettare i danni per scoprire che bisognava pensarci prima.