Il problema del ragazzo bianco dell'IA non sta scomparendo

Eric Gay/AP

I numeri raccontano la terribile mancanza di diversità del settore dell'IA. Le donne rappresentano solo il 18% degli autori alle principali conferenze sull'IA, il 20% delle cattedre di intelligenza artificiale e il 15% e il 10% del personale di ricerca rispettivamente di Facebook e Google. La diversità razziale è anche peggiore: i lavoratori neri rappresentano solo il 2,5% dell'intera forza lavoro di Google e il 4% di Facebook e Microsoft. Non sono disponibili dati per le persone transgender e altre minoranze di genere, ma è improbabile che la tendenza sia in controtendenza anche lì.

Questo è profondamente preoccupante quando l'influenza dell'industria è cresciuta drammaticamente fino a influenzare qualsiasi cosa, dalle assunzioni e alloggi alla giustizia penale e all'esercito. Lungo la strada, la tecnologia ha automatizzato i pregiudizi dei suoi creatori con effetti allarmanti: svalutare i curriculum delle donne , perpetuando la discriminazione sul lavoro e sull'alloggio , e consacrando pratiche di polizia razziste e condanne carcerarie .

Queste conseguenze peggioreranno solo senza un approccio diverso per risolvere il problema, afferma a nuovo rapporto fuori questa settimana dall'istituto di ricerca AI Now.

Il problema della mancanza di diversità nella tecnologia [...] ha raggiunto un nuovo e urgente punto di svolta, ha affermato Meredith Whittaker, cofondatrice dell'istituto, in una conferenza stampa che accompagna il rapporto. Milioni di persone stanno subendo gli effetti di questi strumenti e sono influenzati da qualsiasi pregiudizio dell'IA che si radica in essi.

Il team di AI Now identifica due ragioni principali per cui gli sforzi per affrontare la mancanza di diversità sono falliti. Innanzitutto, c'è una forte enfasi sull'aumento delle donne nella tecnologia e meno sul miglioramento della diversità di razza, genere e altre qualità. In secondo luogo, c'è un'attenzione sproporzionata sulla riparazione della pipeline, l'idea di aumentare il numero di candidati provenienti da gruppi sottorappresentati che fluiscono dalle scuole all'industria. Ciò tende a sottovalutare altri svantaggi sistemici che impediscono alle donne e alle minoranze di rimanere in campo, come molestie, compensi iniqui e squilibri di potere.

I ricercatori offrono diverse raccomandazioni per migliorare la diversità sul posto di lavoro in modo più completo. Questi includono misure volte a colmare il divario retributivo e di opportunità, aumentare la diversità ai livelli di leadership tra i dipartimenti e modificare le strutture di incentivi per i dirigenti aziendali per assumere e trattenere lavoratori da gruppi sottorappresentati.

Ma il problema è anche più profondo delle pratiche di assunzione e compensazione, afferma Jessie Daniels, ricercatrice di Data & Society, che studia l'intersezione tra razzismo e tecnologia e non è stata coinvolta nel rapporto. L'industria tecnologica è stata fondamentalmente costruita sull'etica che la tecnologia esiste indipendentemente dalla società, dice: All'inizio degli anni '90, c'era l'idea che Internet ci avrebbe liberato da cose come razza, genere e infermità; l'idea che saremmo andati in questo luogo chiamato 'cyberspace' dove non avremmo più dovuto pensare all'incarnazione o all'identità.

Quell'idea è rimasta nel settore fino ad oggi ed è la radice sia dei ripetuti fallimenti nell'aumentare la diversità dei dipendenti che dei ripetuti scandali sui pregiudizi dell'IA. Le aziende tecnologiche sono costruite - e i prodotti tecnologici sono progettati - con la convinzione fantastica che esistano indipendentemente dal sessismo, dal razzismo e dal contesto sociale che li circonda.

Non è un bug, dice Daniels. È una caratteristica.

nascondere