Amazon ha abbandonato il software di reclutamento dell'IA perché era prevenuto nei confronti delle donne

Categoria: Silicon Valley Inserito 10 ottobre

I dati su cui è stato addestrato l'algoritmo di intelligenza artificiale hanno creato una preferenza per i candidati maschi.

Le notizie: Secondo una relazione di Reuters , Amazon ha iniziato a sviluppare un sistema automatizzato nel 2014 per classificare le persone in cerca di lavoro da una a cinque stelle. Ma l'anno scorso, la società ha scartato il progetto dopo aver visto che aveva sviluppato una preferenza per i candidati maschi in ruoli tecnici.

Come mai? Lo strumento di intelligenza artificiale è stato formato su 10 anni di curriculum ricevuti dall'azienda. Poiché la tecnologia è un settore dominato dagli uomini, la maggior parte di quei curriculum proveniva da uomini.

Il risultato: Il sistema è stato addestrato involontariamente a scegliere candidati maschi rispetto a candidati femmine. Secondo quanto riferito, penalizzerebbe i curriculum contenenti la parola donne o i nomi di alcuni college femminili. Sebbene Amazon abbia apportato modifiche per rendere questi termini neutrali, la società ha perso la fiducia che il programma fosse effettivamente neutrale rispetto al genere in tutte le altre aree.

Perchè importa: Non possiamo trattare l'intelligenza artificiale come intrinsecamente imparziale. Addestrare i sistemi su dati distorti significa che anche gli algoritmi diventano distorti. Se programmi di assunzione di intelligenza artificiale sleali come questo non vengono scoperti prima di essere implementati, perpetueranno problemi di diversità di vecchia data negli affari piuttosto che risolverli.

Vuoi stare al passo con come la tecnologia sta cambiando il posto di lavoro del futuro? Iscriviti alla nostra newsletter sul futuro del lavoro, Clocking In .