I giganti della tecnologia affrontano le preoccupazioni etiche sollevate dal boom dell'IA

Da un grande potere derivano grandi responsabilità e la tecnologia dell'intelligenza artificiale sta diventando molto più potente. Le aziende all'avanguardia nello sviluppo e nell'implementazione dell'apprendimento automatico e dell'intelligenza artificiale stanno ora iniziando a parlare apertamente delle sfide etiche sollevate dalle loro creazioni sempre più intelligenti.

Siamo qui a un punto di svolta per l'IA, ha affermato Eric Horvitz, amministratore delegato di Microsoft Research, a Revisione della tecnologia del MIT conferenza EmTech di questa settimana. Abbiamo un imperativo etico di sfruttare l'IA per proteggerla e preservarla nel tempo.

Horvitz ha parlato insieme ai ricercatori di IBM e Google che hanno riflettuto su problemi simili. Una preoccupazione condivisa era che i recenti progressi stanno portando le aziende a mettere il software in posizioni con un controllo molto diretto sugli esseri umani, ad esempio nell'assistenza sanitaria.

Francesca Rossi , un ricercatore dell'IBM, ha fatto l'esempio di una macchina che fornisce assistenza o compagnia agli anziani. Questo robot dovrà seguire norme culturali specifiche per cultura e attività, ha affermato. [E] se dovessi schierarti negli Stati Uniti o in Giappone, quel comportamento dovrebbe essere molto diverso.

Tali robot potrebbero essere ancora lontani, ma le sfide etiche sollevate dall'IA sono già qui. Poiché le aziende e i governi si affidano maggiormente ai sistemi di apprendimento automatico per prendere decisioni, punti ciechi o pregiudizi nella tecnologia possono effettivamente portare a discriminazioni contro determinati tipi di persone.

Un'indagine di ProPublica lo scorso anno, ad esempio, ha rilevato che un sistema di valutazione del rischio utilizzato in alcuni stati per informare sulle condanne penali era prevenuto contro i neri . Allo stesso modo, Horvitz ha descritto come un servizio di riconoscimento delle emozioni sviluppato da Microsoft per l'uso da parte delle aziende fosse inizialmente impreciso per i bambini piccoli perché è stato addestrato utilizzando un sacco di foto non adeguatamente curato.

Maya Gupta, una ricercatrice di Google, ha chiesto al settore di lavorare di più sullo sviluppo di processi per garantire che i dati utilizzati per addestrare gli algoritmi non siano distorti. Molte volte questi set di dati vengono creati in modo alquanto automatizzato, ha affermato Gupta. Dobbiamo pensare di più, stiamo campionando abbastanza dai gruppi minoritari per essere sicuri di aver fatto un lavoro abbastanza buono?

Nell'ultimo anno, nel mondo accademico e industriale sono sorti molti sforzi per ricercare le sfide etiche dell'apprendimento automatico e dell'intelligenza artificiale. L'Università della California, Berkeley; Harvard; e le Università di Oxford e Cambridge hanno tutte avviato programmi o istituti per lavorare su etica e sicurezza nell'IA. Nel 2016, Amazon, Microsoft, Google, IBM e Facebook hanno fondato insieme un'organizzazione no-profit chiamata Partnership sull'IA per lavorare sul problema (Apple si è unita a gennaio).

Le aziende stanno anche intraprendendo azioni individuali per creare salvaguardie intorno alla loro tecnologia. Gupta ha messo in evidenza la ricerca di Google che sta testando modi per correggere modelli di apprendimento automatico distorti o impedire che diventino distorti in primo luogo. Horvitz ha descritto il consiglio etico interno di Microsoft per l'IA, soprannominato AETHER, che considera cose come nuovi algoritmi decisionali sviluppati per i servizi in-cloud dell'azienda. Sebbene attualmente popolata da dipendenti Microsoft, in futuro l'azienda spera di aggiungere anche voci esterne. Google ha avviato il proprio comitato etico per l'IA.

Forse non sorprende che le aziende che creano tali programmi generalmente sostengano di ovviare alla necessità di nuove forme di regolamentazione governativa dell'intelligenza artificiale. Ma a EmTech, Horvitz ha anche incoraggiato la discussione su risultati estremi che potrebbero portare alcune persone a concludere il contrario.

A febbraio ha convocato un seminario in cui gli esperti hanno illustrato in dettaglio come l'IA potrebbe danneggiare la società facendo cose come scherzare con il mercato azionario o i risultati elettorali. Se sei proattivo, puoi trovare risultati fattibili e mettere in atto meccanismi per interromperli ora, ha affermato Horvitz.

Quel tipo di discorso sembrava innervosire alcuni di coloro con cui ha condiviso il palco a San Francisco. Gupta di Google ha incoraggiato le persone a considerare anche come prendere alcune decisioni dalle mani degli umani potrebbe rendere il mondo più morale di quanto non sia ora.

L'apprendimento automatico è controllabile, preciso e misurabile con le statistiche, ha affermato. Ci sono così tante possibilità per una maggiore equità e risultati più etici.

nascondere