I gruppi di etica dell'IA stanno ripetendo uno dei classici errori della società

Getty

Organizzazioni e società internazionali stanno gareggiando per sviluppare linee guida globali per l'uso etico dell'intelligenza artificiale. Dichiarazioni, manifesti e raccomandazioni stanno invadendo Internet. Ma questi sforzi saranno inutili se non tengono conto dei contesti culturali e regionali in cui opera l'IA.

È stato più volte dimostrato che i sistemi di intelligenza artificiale causano problemi che colpiscono in modo sproporzionato i gruppi emarginati mentre vanno a beneficio di pochi privilegiati. Gli sforzi globali per l'etica dell'IA in corso oggi, ce ne sono dozzine, mirano ad aiutare tutti a trarre vantaggio da questa tecnologia e ad evitare che causi danni. In generale, lo fanno creando linee guida e principi che sviluppatori, finanziatori e autorità di regolamentazione devono seguire. Potrebbero, ad esempio, raccomandare audit interni di routine o richiedere protezioni per le informazioni di identificazione personale degli utenti.

Crediamo che questi gruppi siano ben intenzionati e stiano facendo un lavoro utile. La comunità dell'IA dovrebbe, infatti, concordare una serie di definizioni e concetti internazionali per l'IA etica. Ma senza un'ulteriore rappresentazione geografica, produrranno una visione globale dell'etica dell'IA che riflette le prospettive delle persone solo in poche regioni del mondo, in particolare il Nord America e l'Europa nord-occidentale.

Questo lavoro non è facile o diretto. Equità, privacy e pregiudizi significano cose diverse (pdf) in luoghi diversi. Le persone hanno anche aspettative disparate su questi concetti a seconda delle proprie realtà politiche, sociali ed economiche. Anche le sfide e i rischi posti dall'IA variano a seconda della propria località.

Se le organizzazioni che lavorano sull'etica globale dell'IA non lo riconoscono, rischiano di sviluppare standard che, nella migliore delle ipotesi, sono privi di significato e inefficaci in tutte le regioni del mondo. Nel peggiore dei casi, questi standard imperfetti porteranno a più sistemi e strumenti di intelligenza artificiale che perpetuano i pregiudizi esistenti e sono insensibili alle culture locali.

Nel 2018, ad esempio, Facebook è stato lento ad agire sulla disinformazione diffusione in Birmania che alla fine ha portato a violazioni dei diritti umani. Una valutazione (pdf) pagato dalla società ha scoperto che questa svista era in parte dovuta alle linee guida della community di Facebook e alle politiche di moderazione dei contenuti, che non sono riuscite ad affrontare le realtà politiche e sociali del paese.

C'è una chiara mancanza di diversità regionale in molti comitati consultivi, comitati di esperti e consigli sull'IA.

Per prevenire tali abusi, le aziende che lavorano su linee guida etiche per sistemi e strumenti basati sull'intelligenza artificiale devono coinvolgere utenti di tutto il mondo per contribuire a creare standard appropriati per governare questi sistemi. Devono anche essere consapevoli di come le loro politiche si applicano in contesti diversi.

Nonostante i rischi, c'è una chiara mancanza di diversità regionale in molti comitati consultivi, comitati di esperti e consigli sull'IA nominati dalle principali organizzazioni internazionali. Il gruppo consultivo di esperti per il progetto AI for Children dell'Unicef, ad esempio, non ha rappresentanti delle regioni con il massima concentrazione di bambini e giovani adulti, compresi Medio Oriente, Africa e Asia.

Sfortunatamente, così com'è oggi, l'intero campo dell'etica dell'IA corre il grave rischio di limitarsi a linguaggi, idee, teorie e sfide provenienti da una manciata di regioni, principalmente Nord America, Europa occidentale e Asia orientale.

Questa mancanza di diversità regionale riflette l'attuale concentrazione della ricerca sull'IA (PDF) : l'86% degli articoli pubblicati alle conferenze sull'IA nel 2018 sono stati attribuiti ad autori dell'Asia orientale, del Nord America o dell'Europa. E meno del 10% dei riferimenti elencati nei documenti di intelligenza artificiale pubblicati in queste regioni riguardano documenti di un'altra regione. Anche i brevetti sono altamente concentrati: il 51% dei brevetti AI pubblicati nel 2018 è stato attribuito al Nord America.

Quelli di noi che lavorano nell'etica dell'IA faranno più male che bene se consentiamo alla mancanza di diversità geografica del campo di definire i nostri sforzi. Se non stiamo attenti, potremmo finire per codificare i pregiudizi storici dell'IA in linee guida che deformano la tecnologia per le generazioni a venire. Dobbiamo iniziare a dare priorità alle voci dei paesi a basso e medio reddito ( soprattutto t tubo nel Global Sud ) e quelli provenienti da comunità storicamente emarginate.

I progressi tecnologici hanno spesso avvantaggiato l'Occidente mentre hanno esacerbato la disuguaglianza economica, l'oppressione politica e la distruzione ambientale altrove. Includere i paesi non occidentali nell'etica dell'IA è il modo migliore per evitare di ripetere questo schema.

Storia correlata

Il lavaggio della partecipazione potrebbe essere la prossima moda pericolosa nell'apprendimento automatico Molte persone già partecipano al lavoro sul campo senza riconoscimento o retribuzione.

La buona notizia è che ci sono molti esperti e leader di regioni sottorappresentate da includere in tali gruppi consultivi. Tuttavia, molte organizzazioni internazionali sembrano non impegnarsi molto per sollecitare la partecipazione di queste persone. Il neo formato Consorzio globale per l'etica dell'IA , ad esempio, non ha membri fondatori che rappresentino istituzioni accademiche o centri di ricerca del Medio Oriente, dell'Africa o dell'America Latina. Questa omissione è un chiaro esempio di modelli coloniali (pdf) ripetendosi.

Se vogliamo costruire sistemi di intelligenza artificiale etici, sicuri e inclusivi piuttosto che impegnarci lavaggio etico , dobbiamo prima creare fiducia con coloro che storicamente sono stati danneggiati da questi stessi sistemi. Questo inizia con un coinvolgimento significativo.

Al Istituto di etica AI di Montreal , dove entrambi lavoriamo, stiamo cercando di adottare un approccio diverso. Ospitiamo meetup sull'etica dell'IA digitale, discussioni aperte a cui può partecipare chiunque disponga di una connessione Internet o di un telefono. Durante questi eventi, siamo entrati in contatto con un gruppo eterogeneo di individui, da un professore che vive a Macao a uno studente universitario che studia a Mumbai.

Nel frattempo, gruppi come la Partnership on AI, che hanno riconosciuto la mancanza di diversità geografica nell'IA in senso più ampio, lo hanno fatto modifiche consigliate alle leggi sui visti e alle politiche proposte che rendono più facile per i ricercatori viaggiare e condividere il proprio lavoro. Maskhan , un'organizzazione di base, riunisce ricercatori africani di elaborazione del linguaggio naturale per sostenere il lavoro di traduzione automatica che ha trascurato le lingue non dominanti.

È incoraggiante vedere le organizzazioni internazionali cercare di includere prospettive più diverse nelle loro discussioni sull'IA. È importante per tutti noi ricordare che la diversità regionale e culturale è fondamentale per qualsiasi conversazione sull'etica dell'IA. Rendere l'IA responsabile la norma, piuttosto che l'eccezione, è impossibile senza le voci di persone che non detengono già potere e influenza.

A bhishek Gupta è il fondatore del Istituto di etica AI di Montreal e un ingegnere di apprendimento automatico presso Microsoft, dove fa parte del CSE Responsible AI Board. Vittoria Brughiera è ricercatore presso il Istituto di etica AI di Montreal e un ricercatore senior presso il NATO Association of Canada .

nascondere