I difensori dei diritti dei disabili sono preoccupati per la discriminazione negli strumenti di assunzione dell'IA

Signora Tech | Getty

La tua capacità di ottenere il tuo prossimo lavoro potrebbe dipendere da quanto bene giochi a uno dei giochi basati sull'intelligenza artificiale che piacciono alle aziende Astra Zeneca e Compagni di posta sono sempre più utilizzati nel processo di assunzione.

Alcune aziende che creano questi giochi, come Pymetrics e Arctic Shores, affermano di limitare i pregiudizi nelle assunzioni. Ma i giochi di assunzione dell'IA possono essere particolarmente difficili da navigare per le persone in cerca di lavoro con disabilità.

Nell'ultimo episodio del podcast In Machines We Trust del MIT Technology Review, esploriamo come i giochi di assunzione basati sull'intelligenza artificiale e altri strumenti possano escludere le persone con disabilità. E mentre molte persone negli Stati Uniti si rivolgono alla commissione federale responsabile della discriminazione sul lavoro per regolamentare queste tecnologie, l'agenzia deve ancora agire.

Per dare un'occhiata più da vicino, abbiamo chiesto Henry Claypool , un analista di politiche sulla disabilità, per interpretarne uno Pimetria i giochi. Pymetrics misura nove abilità, tra cui attenzione, generosità e tolleranza al rischio, che CEO e cofondatore Frida Polli dice si riferiscono al successo sul lavoro.

Quando lavora con un'azienda che cerca di assumere nuove persone, Pymetrics prima chiede all'azienda di identificare le persone che stanno già avendo successo nel lavoro che sta cercando di ricoprire e le fa giocare. Quindi, per identificare le competenze più specifiche per i dipendenti di successo, confronta i loro dati di gioco con i dati di un campione casuale di giocatori.

Quando ha firmato, il gioco ha spinto Claypool a scegliere tra una versione modificata, progettata per persone con daltonismo, ADHD o dislessia, e una versione non modificata. Questa domanda pone un dilemma per i candidati con disabilità, dice.

Il timore è che se clicco su uno di questi, rivelerò qualcosa che mi squalifica per il lavoro, e se non clicco su - diciamo - dislessia o qualunque cosa mi renda difficile leggere lettere e elaborare queste informazioni rapidamente, quindi sarò in svantaggio, dice Claypool. Fallirò in entrambi i casi.

Storia correlata

Abbiamo testato gli strumenti di intervista AI. Ecco cosa abbiamo trovato.

Uno ha assegnato alla nostra candidata un punteggio elevato per la conoscenza dell'inglese quando parlava solo in tedesco.

Polli afferma che Pymetrics non dice ai datori di lavoro quali candidati hanno richiesto sistemazioni in-game durante il processo di assunzione, il che dovrebbe aiutare a impedire ai datori di lavoro di discriminare le persone con determinate disabilità. Ha aggiunto che in risposta alla nostra segnalazione, la società renderà queste informazioni più chiare in modo che i candidati sappiano che la loro necessità di una sistemazione in-game è privata e confidenziale.

L'Americans with Disabilities Act richiede ai datori di lavoro di fornire sistemazioni ragionevoli alle persone con disabilità. E se le valutazioni delle assunzioni di un'azienda escludono le persone con disabilità, allora deve dimostrare che tali valutazioni sono necessarie per il lavoro.

Per i datori di lavoro, utilizzando giochi come quelli prodotti da coste artiche può sembrare più obiettivo. A differenza dei tradizionali test psicometrici, l'algoritmo di Arctic Shores valuta i candidati sulla base delle loro scelte durante il gioco. Tuttavia, i candidati spesso non sanno cosa sta misurando il gioco o cosa aspettarsi mentre giocano. Per i candidati con disabilità, questo rende difficile sapere se dovrebbero chiedere un alloggio.

Safe Hammad, CTO e cofondatore di Arctic Shores, afferma che il suo team è concentrato sul rendere le sue valutazioni accessibili a quante più persone possibile. Le persone con daltonismo e disabilità uditive possono utilizzare il software dell'azienda senza particolari accorgimenti, dice, ma i datori di lavoro non dovrebbero utilizzare tali richieste per escludere i candidati.

Tuttavia, l'uso di questi strumenti a volte può escludere le persone in modi che potrebbero non essere ovvi per un potenziale datore di lavoro. Patty Sanchez è specialista del lavoro presso il Centro di formazione MacDonald in Florida che lavora con persone in cerca di lavoro non udenti o con problemi di udito. Circa due anni fa, uno dei suoi clienti fece domanda per un lavoro presso Amazon che ha richiesto un'intervista video Assumi Vue .

Sanchez, anche lui sordo, ha tentato di chiamare e chiedere assistenza alla compagnia, ma non è riuscito a passare. Invece, ha portato il suo cliente e un interprete di lingua dei segni al sito di assunzione e ha convinto i rappresentanti lì a intervistarlo di persona. Amazon ha assunto il suo cliente, ma Sanchez afferma che problemi come questi sono comuni durante la navigazione nei sistemi automatizzati. (Amazon non ha risposto a una richiesta di commento.)

Rendere accessibile la tecnologia di assunzione significa garantire sia che un candidato possa utilizzare la tecnologia sia che le competenze che misura non escludano ingiustamente i candidati con disabilità, afferma Alessandra Givens , l'amministratore delegato della Centro per la democrazia e la tecnologia , un'organizzazione focalizzata sui diritti civili nell'era digitale.

Gli strumenti di assunzione basati sull'intelligenza artificiale spesso non riescono a includere le persone con disabilità nella generazione dei loro dati di formazione, afferma. Queste persone sono state a lungo escluse dalla forza lavoro, quindi gli algoritmi modellati sulle precedenti assunzioni di un'azienda non rifletteranno il loro potenziale.

Anche se i modelli potrebbero spiegare i valori anomali, il modo in cui si presenta una disabilità varia ampiamente da persona a persona. Due persone con autismo, ad esempio, potrebbero avere punti di forza e sfide molto diversi.

Man mano che automatizziamo questi sistemi e i datori di lavoro spingono verso ciò che è più veloce ed efficiente, perdono la possibilità che le persone mostrino effettivamente le loro qualifiche e la loro capacità di svolgere il lavoro, afferma Givens. E questa è una perdita enorme.

Un approccio senza mani

Le autorità di regolamentazione del governo hanno difficoltà a monitorare gli strumenti di assunzione dell'IA. Nel dicembre 2020 hanno scritto 11 senatori una lettera al Commissione statunitense per le pari opportunità di lavoro esprimendo preoccupazione per l'uso delle tecnologie di assunzione dopo la pandemia di covid-19. La lettera chiedeva informazioni sull'autorità dell'agenzia di indagare se questi strumenti discriminano, in particolare nei confronti delle persone con disabilità.

L'EEOC ha risposto con una lettera a gennaio che è trapelata al MIT Technology Review . Nella lettera, la commissione ha indicato di non poter indagare sugli strumenti di assunzione di AI senza una specifica denuncia di discriminazione. La lettera ha anche delineato le preoccupazioni per la riluttanza del settore a condividere i dati e ha affermato che la variazione tra i software delle diverse società impedirebbe all'EEOC di istituire politiche generali.

Sono rimasto sorpreso e deluso quando ho visto la risposta, dice Roland Behm , avvocato e difensore delle persone con problemi di salute comportamentale. L'intero tenore di quella lettera sembrava far sembrare l'EEOC più uno spettatore passivo piuttosto che un'agenzia esecutiva.

L'agenzia in genere avvia un'indagine una volta che un individuo presenta una denuncia di discriminazione. Con la tecnologia di assunzione dell'IA, tuttavia, la maggior parte dei candidati non sa perché sono stati rifiutati per il lavoro. Credo che un motivo per cui non abbiamo assistito a più azioni esecutive o contenziosi privati ​​in questo settore sia dovuto al fatto che i candidati non sanno di essere valutati o valutati da un computer, afferma Keith Nerd , un commissario EEOC.

Sonderling afferma di ritenere che l'intelligenza artificiale migliorerà il processo di assunzione e spera che l'agenzia fornisca una guida ai datori di lavoro su come implementarla al meglio. Dice che accoglie con favore la supervisione del Congresso.

Storia correlata

I revisori dei conti stanno testando gli algoritmi di assunzione per individuare eventuali pregiudizi, ma non esiste una soluzione facile

Gli audit dell'IA possono trascurare alcuni tipi di pregiudizi e non verificano necessariamente che uno strumento di assunzione scelga i migliori candidati per un lavoro.

Tuttavia, Aaron Rieke , amministratore delegato di Ripresa , un'organizzazione no-profit dedicata ai diritti civili e alla tecnologia, ha espresso delusione per la risposta dell'EEOC: in realtà mi auguro che negli anni a venire l'EEOC possa essere un po' più aggressivo e creativo nel pensare a come utilizzare tale autorità.

Paolina Kim , professore di diritto presso Università di Washington a St. Louis , la cui ricerca si concentra sugli strumenti di assunzione algoritmici, afferma che l'EEOC potrebbe essere più proattivo nella raccolta di ricerche e nell'aggiornamento delle linee guida per aiutare i datori di lavoro e le aziende di intelligenza artificiale a rispettare la legge.

Behm aggiunge che l'EEOC potrebbe perseguire altre vie di applicazione, inclusa l'accusa di un commissario, che consente ai commissari di avviare un'indagine su sospetta discriminazione invece di richiedere un reclamo individuale (Sonderling dice che sta valutando la possibilità di fare tale accusa). Suggerisce inoltre che l'EEOC si consulti con i gruppi di difesa per sviluppare linee guida per le aziende di intelligenza artificiale che sperano di rappresentare meglio le persone con disabilità nei loro modelli algoritmici.

È improbabile che le aziende di intelligenza artificiale e i datori di lavoro stiano escludendo di proposito le persone con disabilità, afferma Behm. Ma non hanno speso il tempo e gli sforzi necessari per capire i sistemi che stanno prendendo quelle che per molte persone sono decisioni che cambiano la vita: sarò assunto o no? Posso sostenere la mia famiglia o no?

nascondere