I problemi che l'IA ha oggi risalgono a secoli fa

Ari Liloan

Nel marzo del 2015, sono scoppiate proteste all'Università di Città del Capo in Sud Africa per la statua del colonialista britannico Cecil Rhodes nel campus. Rodi, un magnate minerario che aveva donato la terra su cui era costruita l'università, aveva commesso un genocidio contro gli africani e gettato le basi per l'apartheid. Sotto lo stendardo di manifestazione di Rhodes Must Fall, gli studenti hanno chiesto che la statua fosse rimossa. Le loro proteste hanno innescato un movimento globale per sradicare le eredità coloniali che persistono nell'istruzione.

Gli eventi hanno anche spinto Shakir Mohamed, un ricercatore sudafricano di intelligenza artificiale presso DeepMind, a riflettere su quali eredità coloniali potrebbero esistere anche nella sua ricerca. Nel 2018, proprio mentre il campo dell'IA iniziava a fare i conti con problemi come la discriminazione algoritmica, Mohamed ha scritto un post sul blog con i suoi pensieri iniziali. In esso ha invitato i ricercatori a decolonizzare l'intelligenza artificiale, a riorientare il lavoro sul campo lontano dagli hub occidentali come la Silicon Valley e a coinvolgere nuove voci, culture e idee per guidare lo sviluppo della tecnologia.

Ora sulla scia di grida rinnovate per Rhodes Must Fall nel campus dell'Università di Oxford, spinto dall'omicidio di George Floyd e dal movimento antirazzista globale, Mohamed ha ha pubblicato un nuovo documento insieme al suo collega William Isaac e al dottorando di Oxford Marie-Therese Png. Rafforza le idee originali di Mohamed con esempi specifici di come le sfide dell'IA siano radicate nel colonialismo e presenta strategie per affrontarle riconoscendo quella storia.

Come si manifesta la colonialità nell'IA

Sebbene il colonialismo storico possa essere finito, i suoi effetti esistono ancora oggi. Questo è ciò che gli studiosi chiamano colonialità: l'idea che gli squilibri di potere odierni tra razze, paesi, ricchi e poveri e altri gruppi siano estensioni degli squilibri di potere tra colonizzatore e colonizzato.

Prendiamo come esempio il razzismo strutturale. Gli europei hanno originariamente inventato il concetto di razza e le differenze tra loro per giustificare la tratta degli schiavi africani e poi la colonizzazione dei paesi africani. Negli Stati Uniti, gli effetti di quell'ideologia possono ora essere rintracciati attraverso la storia della schiavitù del paese, Jim Crow e la brutalità della polizia.

Allo stesso modo, sostengono gli autori del documento, questa storia coloniale spiega alcune delle caratteristiche e degli impatti più preoccupanti dell'IA. Identificano cinque manifestazioni di colonialità sul campo:

Discriminazione algoritmica e oppressione. I legami tra discriminazione algoritmica e razzismo coloniale sono forse i più ovvi: algoritmi costruiti per automatizzare le procedure e addestrati sui dati all'interno di una società razzialmente ingiusta finiscono per replicare quei risultati razzisti nei loro risultati. Ma gran parte della borsa di studio su questo tipo di danno causato dall'IA si concentra su esempi negli Stati Uniti. Esaminarlo nel contesto della colonialità consente una prospettiva globale: l'America non è l'unico posto con disuguaglianze sociali. Ci sono sempre gruppi che vengono identificati e sottoposti, dice Isaac.

Lavoro fantasma. Il fenomeno di lavoro fantasma , il lavoro di dati invisibile richiesto per supportare l'innovazione dell'IA, estende nettamente la relazione economica storica tra colonizzatore e colonizzato. Molte ex colonie statunitensi e britanniche, Filippine, Kenya e India, sono diventate centri di lavoro fantasma per le aziende statunitensi e britanniche. Le forze di lavoro a basso costo di lingua inglese dei paesi, che le rendono una scelta naturale per il lavoro sui dati, esistono a causa delle loro storie coloniali.

Beta test. I sistemi di intelligenza artificiale vengono talvolta sperimentati su gruppi più vulnerabili prima di essere implementati per utenti reali. Cambridge Analytica, ad esempio, ha testato beta i suoi algoritmi sulle elezioni nigeriane del 2015 e keniote del 2017 prima di utilizzarli negli Stati Uniti e nel Regno Unito. Gli studi successivi hanno scoperto che questi esperimenti attivamente interrotto il processo elettorale del Kenya e ha eroso la coesione sociale. Questo tipo di test fa eco al trattamento storico dell'Impero Britannico delle sue colonie come laboratori per nuove medicine e tecnologie.

Governo dell'IA. Anche gli squilibri di potere geopolitici lasciati dall'era coloniale modellano attivamente la governance dell'IA. Ciò si è verificato nella recente corsa alla formazione di linee guida etiche globali per l'IA: i paesi in via di sviluppo in Africa, America Latina e Asia centrale sono stati in gran parte esclusi dalle discussioni, il che ha portato alcuni a rifiutarsi di partecipare agli accordi internazionali sul flusso di dati . Il risultato: i paesi sviluppati continuano a beneficiare in modo sproporzionato di norme globali modellate a loro vantaggio, mentre i paesi in via di sviluppo continuano a rimanere più indietro.

Sviluppo sociale internazionale. Infine, gli stessi squilibri di potere geopolitici influenzano il modo in cui l'IA viene utilizzata per assistere i paesi in via di sviluppo. Le iniziative di IA per sempre o IA per lo sviluppo sostenibile sono spesso paternalistiche. Costringe i paesi in via di sviluppo a dipendere dai sistemi di IA esistenti piuttosto che partecipare alla creazione di nuovi progettati per il proprio contesto.

I ricercatori notano che questi esempi non sono completi, ma dimostrano quanto siano di vasta portata le eredità coloniali nello sviluppo globale dell'IA. Legano anche insieme quelli che sembrano problemi disparati sotto un'unica tesi unificante. Ci consente una nuova grammatica e un nuovo vocabolario per parlare sia del motivo per cui questi problemi sono importanti sia di cosa faremo per pensare e affrontare questi problemi a lungo termine, dice Isaac.

Come costruire un'IA decoloniale

Il vantaggio di esaminare gli impatti dannosi dell'IA attraverso questa lente, sostengono i ricercatori, è il quadro che fornisce per prevedere e mitigare i danni futuri. Png crede che non esistano davvero conseguenze indesiderate, ma solo conseguenze dei punti ciechi che le organizzazioni e gli istituti di ricerca hanno quando mancano di rappresentanza diversificata.

In questa ottica, i ricercatori propongono tre tecniche per ottenere un'IA decoloniale, o più inclusiva e benefica:

Sviluppo tecnico sensibile al contesto. In primo luogo, i ricercatori di IA che stanno costruendo un nuovo sistema dovrebbero considerare dove e come verrà utilizzato. Inoltre, il loro lavoro non dovrebbe finire con la scrittura del codice, ma dovrebbe includere il test, il supporto di politiche che ne facilitino l'uso corretto e l'organizzazione di azioni contro quelli impropri.

Tutela inversa. In secondo luogo, dovrebbero ascoltare i gruppi emarginati. Un esempio di come farlo è la pratica in erba di apprendimento automatico partecipativo , che cerca di coinvolgere le persone più colpite dai sistemi di apprendimento automatico nella loro progettazione. Ciò offre ai soggetti la possibilità di sfidare e dettare come vengono inquadrati i problemi di apprendimento automatico, quali dati vengono raccolti e come e dove vengono utilizzati i modelli finali.

Solidarietà. Anche i gruppi emarginati dovrebbero ricevere il supporto e le risorse per avviare il proprio lavoro sull'IA. Esistono già diverse comunità di praticanti di IA emarginati, tra cui Deep Learning Indaba , Nero nell'IA , e Queer nell'IA , e il loro lavoro dovrebbe essere amplificato.

Da quando hanno pubblicato il loro articolo, affermano i ricercatori, hanno riscontrato un enorme interesse ed entusiasmo. Almeno mi segnala che c'è una ricettività in questo lavoro, dice Isaac. Sembra che questa sia una conversazione con cui la comunità vuole iniziare a impegnarsi.

nascondere