Nel 2020, fermiamo il lavaggio dell'etica dell'IA e facciamo davvero qualcosa

Scelte etiche dell'IA Getty

L'anno scorso, proprio mentre stavo iniziando a occuparmi di intelligenza artificiale, il mondo dell'IA stava ricevendo un grande campanello d'allarme. Ci sono stati alcuni incredibili progressi nella ricerca sull'IA nel 2018, dall'apprendimento per rinforzo alle reti generative contraddittorio (GAN) fino a una migliore comprensione del linguaggio naturale. Ma anche l'anno ha visto diverse illustrazioni di alto profilo del danno che questi sistemi possono causare quando vengono implementati troppo frettolosamente.

Una Tesla si è bloccato con il pilota automatico , uccidendo l'autista e un Uber a guida autonoma si è schiantato , uccidendo un pedone. I sistemi di riconoscimento facciale commerciali hanno funzionato male audit in poi persone dalla pelle scura , ma i giganti della tecnologia hanno continuato a venderli comunque, ai clienti comprese le forze dell'ordine. All'inizio di quest'anno, riflettendo su questi eventi, ho scritto una risoluzione per la comunità dell'IA: smettere di trattare l'IA come per magia e assumersi la responsabilità di crearla, applicarla e regolarla in modo etico.

In un certo senso, il mio desiderio si è avverato. Nel 2019 si è parlato di etica dell'IA più che mai. Decine di organizzazioni hanno prodotto linee guida etiche per l'IA; le aziende si sono affrettate a creare squadre di intelligenza artificiale responsabili e a farle sfilare davanti ai media. È difficile partecipare più a una conferenza relativa all'IA senza che parte della programmazione sia dedicata a un messaggio relativo all'etica: come proteggiamo la privacy delle persone quando l'IA ha bisogno di così tanti dati? Come potenziare le comunità emarginate invece di sfruttarle? Come possiamo continuare a fidarci dei media di fronte alla disinformazione creata e distribuita algoritmicamente?

Ma parlare è proprio questo, non è abbastanza. Nonostante tutto il servizio verbale pagato a questi problemi, le linee guida etiche dell'IA di molte organizzazioni rimangono vaghe e difficili da implementare. Poche aziende possono mostrare cambiamenti tangibili nel modo in cui i prodotti e i servizi di intelligenza artificiale vengono valutati e approvati. Stiamo cadendo nella trappola del lavaggio dell'etica, in cui l'azione genuina viene sostituita da promesse superficiali. Nell'esempio più acuto, Google ha formato un consiglio etico nominale dell'IA senza alcun effettivo potere di veto su progetti discutibili e con un paio di membri la cui inclusione ha provocato polemiche. Un contraccolpo ha portato immediatamente al suo scioglimento.

Nel frattempo, la necessità di una maggiore responsabilità etica è diventata sempre più urgente. Gli stessi progressi compiuti nei GAN nel 2018 hanno portato alla proliferazione di deepfake iperrealistici, che ora vengono utilizzati per prendere di mira le donne ed erodere la fiducia delle persone nella documentazione e nelle prove. Nuove scoperte hanno fatto luce sull'enorme impatto sul clima del deep learning, ma le organizzazioni hanno continuato a formare modelli sempre più grandi e ad alto consumo di energia. Studiosi e giornalisti hanno anche rivelato quanti umani sono dietro la tenda algoritmica. L'industria dell'intelligenza artificiale sta creando una classe completamente nuova di lavoratori nascosti - moderatori di contenuti, etichettatori di dati, trascrittori - che lavorano duramente in condizioni spesso brutali.

Ma non tutto è oscuro e cupo: il 2019 è stato l'anno del il più grande respingimento di base contro l'IA dannosa da parte di gruppi della comunità, responsabili politici e dipendenti tecnologici stessi. Diverse città, tra cui San Francisco e Oakland, in California, e Somerville, nel Massachusetts, hanno vietato l'uso pubblico del riconoscimento facciale e la proposta di legge federale potrebbe presto bandirlo dalle case popolari statunitensi anche. Anche i dipendenti di giganti della tecnologia come Microsoft, Google e Salesforce si sono espressi sempre più contro l'uso dell'IA da parte delle loro aziende per il monitoraggio dei migranti e per la sorveglianza dei droni.

All'interno della comunità dell'IA, i ricercatori hanno anche raddoppiato la mitigazione del pregiudizio dell'IA e riesaminato gli incentivi che portano al consumo di energia incontrollato del campo. Le aziende hanno investito più risorse nella protezione della privacy degli utenti e nella lotta contro i deepfake e la disinformazione. Esperti e responsabili politici hanno lavorato in tandem per proporre una nuova legislazione ponderata destinata a frenare le conseguenze indesiderate senza smorzare l'innovazione. Al più grande raduno annuale sul campo di quest'anno, sono rimasto colpito e sorpreso da quanti keynote, workshop e poster si sono concentrati su problemi del mondo reale, sia quelli creati dall'IA che quelli che potrebbe aiutare a risolvere.

Quindi ecco la mia speranza per il 2020: che l'industria e il mondo accademico sostengano questo slancio e apportino cambiamenti concreti dal basso verso l'alto e dall'alto verso il basso che riallineano lo sviluppo dell'IA. Mentre abbiamo ancora tempo, non dobbiamo perdere di vista il sogno che anima il campo. Decenni fa, gli esseri umani hanno iniziato la ricerca per costruire macchine intelligenti in modo che un giorno potessero aiutarci a risolvere alcune delle nostre sfide più difficili.

L'IA, in altre parole, ha lo scopo di aiutare l'umanità a prosperare. Non dimentichiamo.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere