L'intelligenza artificiale di LinkedIn per la corrispondenza del lavoro era parziale. La soluzione dell'azienda? Più IA.

Signora Tech | Envato

Anni fa, LinkedIn ha scoperto che gli algoritmi di raccomandazione che utilizza per abbinare i candidati alle opportunità di lavoro stavano producendo risultati distorti. Gli algoritmi classificavano i candidati in parte in base alla probabilità con cui si candidavano per una posizione o rispondevano a un reclutatore. Il sistema ha finito per indirizzare più uomini che donne per ruoli aperti semplicemente perché gli uomini sono spesso più aggressivi nel cercare nuove opportunità.

LinkedIn ha scoperto il problema e ha creato un altro programma di intelligenza artificiale per contrastare la distorsione nei risultati del primo. Nel frattempo, alcuni dei più grandi siti di ricerca di lavoro del mondo, inclusi CareerBuilder, ZipRecruiter e Monster, stanno adottando approcci molto diversi per affrontare i pregiudizi sulle proprie piattaforme, come riportiamo nell'ultimo episodio del podcast di MIT Technology Review In Machines We Trust. Dal momento che queste piattaforme non rivelano esattamente come funzionano i loro sistemi, tuttavia, è difficile per chi cerca lavoro sapere quanto sia efficace una di queste misure nel prevenire effettivamente la discriminazione.

Se dovessi iniziare a cercare un nuovo lavoro oggi, l'intelligenza artificiale molto probabilmente influenzerebbe la tua ricerca. L'IA può determinare quali post vedi sulle piattaforme di ricerca di lavoro e decidere se trasmettere il tuo curriculum ai reclutatori di un'azienda. Alcune compagnie potrebbero chiederti di giocare Videogiochi basati sull'intelligenza artificiale che misurano i tratti della tua personalità e valutano se saresti adatto a ruoli specifici.

Storia correlata

I revisori dei conti stanno testando gli algoritmi di assunzione per individuare eventuali pregiudizi, ma non esiste una soluzione facile

Gli audit dell'IA possono trascurare alcuni tipi di pregiudizi e non verificano necessariamente che uno strumento di assunzione scelga i migliori candidati per un lavoro.

Sempre più aziende utilizzano l'IA per reclutare e assumere nuovi dipendenti e l'IA può tenerne conto quasi tutte le fasi del processo di assunzione . Il Covid-19 ha alimentato la nuova domanda di queste tecnologie. Entrambi Cosa curiosa e Assumi Vue , società specializzate in interviste basate sull'intelligenza artificiale, hanno segnalato un aumento degli affari durante la pandemia.

La maggior parte delle ricerche di lavoro, tuttavia, inizia con una semplice ricerca. Le persone in cerca di lavoro si rivolgono a piattaforme come LinkedIn , Mostro , o ZipRecruiter , dove possono caricare i loro curriculum, sfogliare annunci di lavoro e candidarsi alle offerte di lavoro.

L'obiettivo di questi siti Web è quello di abbinare candidati qualificati con posizioni disponibili. Per organizzare tutte queste aperture e candidati, molte piattaforme utilizzano algoritmi di raccomandazione basati sull'intelligenza artificiale. Gli algoritmi, a volte indicati come motori di abbinamento, elaborano le informazioni sia del cercatore di lavoro che del datore di lavoro per elaborare un elenco di raccomandazioni per ciascuno.

Di solito senti l'aneddoto che un reclutatore trascorre sei secondi a guardare il tuo curriculum, giusto? afferma Derek Kan, vicepresidente della gestione dei prodotti di Monster. Quando esaminiamo il motore di raccomandazione che abbiamo creato, puoi ridurre quel tempo fino a millisecondi.

La maggior parte dei motori di corrispondenza sono ottimizzati per generare applicazioni, afferma Giovanni Gersin , l'ex vicepresidente della gestione dei prodotti di LinkedIn. Questi sistemi basano le loro raccomandazioni su tre categorie di dati: informazioni che l'utente fornisce direttamente alla piattaforma; dati assegnati all'utente sulla base di altri con competenze, esperienze e interessi simili; e dati comportamentali, come la frequenza con cui un utente risponde ai messaggi o interagisce con annunci di lavoro.

Nel caso di LinkedIn, questi algoritmi escludono il nome, l'età, il sesso e la razza di una persona, perché l'inclusione di queste caratteristiche può contribuire alla distorsione nei processi automatizzati. Ma il team di Jesin ha scoperto che anche così, gli algoritmi del servizio potrebbero comunque rilevare i modelli comportamentali esibiti da gruppi con particolari identità di genere.

Ad esempio, mentre è più probabile che gli uomini facciano domanda per lavori che richiedono un'esperienza lavorativa al di là delle loro qualifiche, le donne tendono a scegliere solo lavori in cui le loro qualifiche corrispondono ai requisiti della posizione. L'algoritmo interpreta questa variazione nel comportamento e adatta le sue raccomandazioni in modo da svantaggiare inavvertitamente le donne.

Ad esempio, potresti consigliare più posti di lavoro senior a un gruppo di persone rispetto a un altro, anche se sono qualificati allo stesso livello, dice Jesin. Quelle persone potrebbero non essere esposte alle stesse opportunità. E questo è davvero l'impatto di cui stiamo parlando qui.

Gli uomini includono anche più competenze nei loro curriculum con un grado di competenza inferiore rispetto alle donne e spesso interagiscono in modo più aggressivo con i reclutatori sulla piattaforma.

Per affrontare tali problemi, Jesin e il suo team di LinkedIn ha costruito una nuova IA progettato per produrre risultati più rappresentativi e implementato nel 2018. Si trattava essenzialmente di un algoritmo separato progettato per contrastare le raccomandazioni distorte verso un particolare gruppo. La nuova IA garantisce che prima di indirizzare le partite curate dal motore originale, il sistema di raccomandazione includa una distribuzione rappresentativa degli utenti in base al genere.

Kan afferma che Monster, che elenca da 5 a 6 milioni di posti di lavoro in un dato momento, incorpora anche dati comportamentali nei suoi consigli ma non corregge i pregiudizi allo stesso modo di LinkedIn. Invece, il team di marketing si concentra sull'ottenere l'iscrizione al servizio di utenti di diversa estrazione, e l'azienda si affida quindi ai datori di lavoro per riferire e dire a Monster se ha passato o meno un gruppo rappresentativo di candidati.

Irina Novoselsky , CEO di CareerBuilder, afferma di concentrarsi sull'utilizzo dei dati raccolti dal servizio per insegnare ai datori di lavoro come eliminare i pregiudizi dai loro annunci di lavoro. Ad esempio, quando un candidato legge una descrizione del lavoro con la parola 'rockstar', c'è materialmente una percentuale inferiore di donne che si candidano, dice.

Ian Sigillo , CEO e cofondatore di ZipRecruiter, afferma che gli algoritmi dell'azienda non tengono conto di alcune caratteristiche identificative come i nomi quando si classificano i candidati; classificano invece le persone sulla base di altri 64 tipi di informazioni, compresi i dati geografici. Dice che l'azienda non discute i dettagli dei suoi algoritmi, citando problemi di proprietà intellettuale, ma aggiunge: credo che siamo il più vicino possibile a una valutazione delle persone basata sul merito come si può fare attualmente.

Con l'automazione in ogni fase del processo di assunzione, le persone in cerca di lavoro devono ora imparare a distinguersi sia dall'algoritmo che dai responsabili delle assunzioni. Ma senza informazioni chiare su ciò che fanno questi algoritmi, i candidati devono affrontare sfide significative.

Penso che le persone sottovalutino l'impatto che gli algoritmi e i motori di raccomandazione hanno sui lavori, dice Kan. Molto probabilmente il modo in cui ti presenti viene letto da migliaia di macchine e server, prima ancora che arrivi all'occhio umano.

Questo articolo è stato aggiornato il 25/06/21 per riflettere che la nuova IA di LinkedIn garantisce una distribuzione rappresentativa degli utenti (non una distribuzione uniforme) tra i sessi sono consigliati per i lavori.

nascondere