Tutti i software di assunzione automatizzati sono soggetti a pregiudizi per impostazione predefinita

Categoria: Politica tecnologica Inserito 13 dic

A nuovo rapporto fuori dall'organizzazione no profit Upturn ha analizzato alcuni degli algoritmi di assunzione più importanti sul mercato e ha scoperto che per impostazione predefinita, tali algoritmi sono inclini a pregiudizi.

Le fasi di assunzione: Sono stati realizzati algoritmi per automatizzare quattro fasi principali del processo di assunzione: approvvigionamento, screening, colloquio e selezione. L'analisi ha rilevato che, sebbene gli strumenti predittivi siano stati raramente implementati per fare la scelta finale su chi assumere, sono stati comunemente utilizzati durante queste fasi per rifiutare le persone.

Quando il pregiudizio si insinua: Se vengono utilizzati dati sulle assunzioni passate, le informazioni sulla formazione possono essere distorte o non rappresentative, trasmettendo queste distorsioni al software. La semplice rimozione dei dati su sesso e razza non manterrà i pregiudizi fuori dal software. Altre informazioni, come la distanza dall'ufficio, possono essere fortemente correlate a fattori più sensibili. Amazon lo ha visto in un algoritmo di assunzione che ha cercato di sviluppare. I responsabili delle assunzioni possono anche essere inclini a dare troppo credito alle raccomandazioni formulate dagli algoritmi di assunzione.

Regolamentazione dell'IA: Lo studio ha anche rilevato che le leggi attuali non sono attrezzate per affrontare il problema. Le leggi progettate per regolamentare le decisioni di assunzione di esseri umani non consentono facilmente indagini e applicazione quando si tratta di discriminazione basata su macchine.

I lati positivi: D'altra parte, gli strumenti predittivi possono aiutare a scoprire pregiudizi e ipotesi umane passate che erano state precedentemente trascurate. Ciò consentirebbe alle aziende di apportare cambiamenti positivi nelle loro pratiche. Diversi fornitori stanno adottando misure non solo per verificare la presenza di pregiudizi sui loro prodotti, ma anche per creare funzionalità di promozione dell'equità nei loro prodotti, afferma uno degli autori del rapporto, Miranda Bogen. Ci auguriamo che più fornitori adotteranno questi tipi di interventi, ma c'è ancora molta strada da fare prima di poter essere certi che gli strumenti predittivi non stiano causando più danni che benefici.

Risolvere il problema: Per rendere più equo l'uso delle IA di assunzione, il rapporto raccomanda:

—consentire un controllo indipendente del software datore di lavoro e fornitore
—facendo in modo che i governi aggiornino i loro regolamenti per coprire il software di assunzione predittiva
—scrutando più in dettaglio le piattaforme pubblicitarie e di lavoro per analizzare la loro crescente influenza sulle assunzioni

Poiché ci sono così tanti punti diversi in quel processo in cui possono emergere pregiudizi, i datori di lavoro dovrebbero assolutamente procedere con cautela, afferma Bogen. Dovrebbero essere trasparenti su quali strumenti predittivi stanno utilizzando e adottare tutte le misure possibili per rilevare e affrontare in modo proattivo i pregiudizi che si presentano e, se non possono farlo con sicurezza, dovrebbero staccare la spina.

Questo articolo è stato originariamente pubblicato nella nostra newsletter sul futuro del lavoro, Clocking In. Puoi iscriverti qui.