Così possiamo difenderci dall'invasione dei robot

Un ingegnere di Google avverte che servono contromisure per evitare scenari distopici con l'avvento delle intelligenze artificiali. Ma ci sono anche molti motivi per cui non dobbiamo temere le macchine

Così possiamo difenderci dall'invasione dei robot

L’ascesa dell’intelligenza artificiale come la morte nera che nel XIV secolo spazzò via un terzo della popolazione europea. A lanciare lo spaventoso allarme è Igor Markov, ingegnere per Google e docente all’Università del Michigan, nel corso di una relazione di qualche settimana fa a San Francisco. Markov ha utilizzato questa similitudine per spiegare che, analogamente alla peste, l’attacco alla razza umana di un’eventuale super intelligenza artificiale avverrebbe secondo modalità e velocità che non consentirebbero sul momento nemmeno di comprendere cosa realmente stia accadendo. Secondo Markov, per evitare questo tipo di scenario distopico è necessario porre delle barriere, anche fisiche, ai sistemi basati sull’intelligenza artificiale. Le tre contromisure in tal senso sarebbero l’inibizione della capacità di autoreplicarsi o autoripararsi da parte delle macchine, l’accesso limitato all’energia e alle armi e l’introduzione di sistemi di controllo umano nel passaggio tra un livello d’intelligenza e l’altro.

 

La relazione tenuta dall’ingegnere di Google fa parte del programma dell’AI Conference 2017, evento organizzato da MLConf (Machine Learning Conference), un team composto da scienziati e addetti ai lavori. Abbiamo scambiato qualche battuta con la sua fondatrice Courtney Burton. Dalle sue parole si capisce subito che non si tratta della solita serie di incontri tecnici sull’intelligenza artificiale, ma di un’occasione per trattare lati meno esplorati della questione. “Oltre alle relazioni tecniche preferiamo ospitare anche interventi in materia di legislazione, etica, sicurezza e governance”, spiega la Burton, “perché notiamo un interesse crescente per simili tematiche in questo campo”. Per questo, MLConf non si limita a invitare “le migliori menti nel settore del machine learning e dell’intelligenza artificiale per condividere i loro lavori più recenti”, ma anche “professionisti, visionari, imprenditori e leader carismatici provenienti dal settore dell’industria e della ricerca”. È per questo che l’audience degli incontri è composta sia da tecnici sia da giornalisti, esperti e semplici appassionati.

 

Quest’anno, oltre a Markov, hanno preso la parola Ashwin Ram, senior manager ad Alexa AI (Amazon), che ha presentato le caratteristiche più recenti di Alexa e alcune delle sfide che il team di programmatori si trova a fronteggiare nel campo dell’elaborazione del linguaggio naturale (NLP); Shalini De Mello, ricercatore senior a NVIDIA, che ha parlato del suo lavoro di ricerca sulle auto a guida autonoma, in particolare la possibilità da parte delle macchine di riconoscere dei gesti manuali acquisita grazie al deep learning; Caroline Sanders, che studia le molestie online e il cyberbullismo a Wikimedia, e che ha illustrato come il machine learning possa intervenire nella prevenzione di questi fenomeni; infine David Brin, un autore di fantascienza che ha parlato del suo ultimo libro.

 

Secondo Courtney Burton uno dei temi più caldi del futuro è quello dei bot, software capaci di dialogare con un interlocutore umano. “Le aziende dedicano risorse sempre maggiori per introdurre bots più sofisticati nel mercato. Esistono già dei settori in cui questi sistemi sono stati implementati con grande successo (ad esempio, la prenotazione dei viaggi e i contact center, nda), permettendo non tanto di sostituire gli umani quanto di aumentarne la produttività”. Che dire dei rischi legati allo sviluppo futuro di un’intelligenza artificiale superiore? “Per il momento non c’è da avere paura. Come ha di recente spiegato Andrew Ng (guru del settore ed ex capo del settore scientifico a Baidu), preoccuparsi di questa eventualità è come temere la sovrappopolazione su Marte”. “Tuttavia – conclude la Burton – quello di un’intelligenza artificiale sicura è un argomento importante per noi e vorremmo che sempre più scienziati e addetti del settore intervenissero per illustrare le loro idee in merito”.

Lascia il tuo commento

Condividi le tue opinioni su Il Foglio

Caratteri rimanenti: 1000

Servizi