Una società di assunzione di intelligenza artificiale afferma di poter prevedere il salto di lavoro in base ai colloqui

Uno screenshot di PredictiveHire.

Dall'inizio della pandemia, un numero crescente di aziende si sono rivolti all'IA per assisterli nelle assunzioni. I sistemi più comuni prevedono l'utilizzo di algoritmi di scansione facciale, giochi, domande o altre valutazioni per determinare quali candidati intervistare.

Mentre attivisti e studiosi avvertono che questi strumenti di screening possono perpetuare la discriminazione, gli stessi produttori sostengono che l'assunzione algoritmica aiuta a correggere umano pregiudizi. Gli algoritmi possono essere testati e modificati, mentre i pregiudizi umani sono molto più difficili da correggere, o almeno così si pensa. In un Documento di dicembre 2019 , i ricercatori della Cornell hanno esaminato il panorama delle società di screening algoritmico per analizzare le loro affermazioni e pratiche. Dei 18 che hanno identificato con siti Web in lingua inglese, la maggior parte si è commercializzata come un'alternativa più equa alle assunzioni basate sull'uomo, suggerendo che si stavano attaccando alla crescente preoccupazione su questi problemi per pubblicizzare i vantaggi dei loro strumenti e ottenere più clienti.

Ma la discriminazione non è l'unica preoccupazione delle assunzioni algoritmiche, e alcuni studiosi temono che il linguaggio di marketing incentrato sul pregiudizio lasci le aziende fuori dai guai su altre questioni, come i diritti dei lavoratori. Un nuovo prestampa da una di queste aziende ora serve come un importante promemoria: non dovremmo lasciare che l'attenzione che le persone hanno iniziato a prestare ai problemi di pregiudizi e discriminazioni in realtà annulli il fatto che ci sono un sacco di altre questioni, afferma Solon Barocas, un assistente professore alla Cornell University e ricercatore principale presso Microsoft Research, che studia l'equità e la responsabilità algoritmiche.

L'azienda in questione è PredictiveHire con sede in Australia, fondata nell'ottobre 2013. Offre un chatbot che pone ai candidati una serie di domande a risposta aperta. Quindi analizza le loro risposte per valutare i tratti della personalità legati al lavoro come guida, iniziativa e resilienza. Secondo il CEO dell'azienda, Barbara Hyman, i suoi clienti sono datori di lavoro che devono gestire un gran numero di applicazioni, come quelle nella vendita al dettaglio, nelle vendite, nei call center e nell'assistenza sanitaria. Come ha scoperto lo studio Cornell, utilizza attivamente anche le promesse di assunzioni più eque nel suo linguaggio di marketing. Nella sua home page, pubblicizza audacemente: Meet Phai. Il tuo copilota nelle assunzioni. Fare interviste SUPER VELOCI. COMPRESO, FINALMENTE. FINALMENTE, SENZA PREGIUDIZIO.

Come abbiamo scritto prima, l'idea di algoritmi privi di bias lo è altamente ingannevole . Ma quello di PredictiveHire ultime ricerche è preoccupante per un altro motivo. Si concentra sulla costruzione di un nuovo modello di apprendimento automatico che cerca di prevedere la probabilità di un candidato di cambiare lavoro, la pratica di cambiare lavoro più frequentemente di quanto desideri un datore di lavoro. Il lavoro segue la recente ricerca peer-reviewed dell'azienda che ha esaminato le domande di intervista a risposta aperta correla con la personalità (di per sé a pratica altamente contestata ). Poiché gli psicologi organizzativi hanno già mostrato un legame tra personalità e cambio di lavoro, afferma Hyman, l'azienda voleva verificare se potevano utilizzare i dati esistenti per la previsione. La fidelizzazione dei dipendenti è un obiettivo fondamentale per molte aziende con cui lavoriamo, dati i costi dell'elevata abbandono dei dipendenti, stimato al 16% del costo dello stipendio di ciascun dipendente, aggiunge.

Lo studio ha utilizzato le risposte a testo libero di 45.899 candidati che avevano utilizzato il chatbot di PredictiveHire. Inizialmente ai candidati erano state poste da cinque a sette domande aperte e domande di autovalutazione sulla loro esperienza passata e sul giudizio situazionale. Queste includevano domande intese a svelare tratti che gli studi hanno precedentemente dimostrato essere fortemente correlati con le tendenze a cambiare lavoro, come essere più aperti all'esperienza, meno pratici e meno con i piedi per terra. I ricercatori dell'azienda affermano che il modello è stato in grado di prevedere il salto di lavoro con significatività statistica. Il sito Web di PredictiveHire sta già pubblicizzando questo lavoro come una valutazione del rischio di volo Prossimamente .

Il nuovo lavoro di PredictiveHire è un ottimo esempio di ciò che secondo Nathan Newman è uno dei maggiori impatti negativi dei big data sul lavoro. Newman, professore associato aggiunto presso il John Jay College of Criminal Justice, ha scritto un documento legale del 2017 che oltre alle preoccupazioni per la discriminazione sul lavoro, l'analisi dei big data è stata utilizzata anche in una miriade di modi per ridurre i salari dei lavoratori.

I test della personalità basati sull'apprendimento automatico, ad esempio, vengono sempre più utilizzati nelle assunzioni per escludere potenziali dipendenti che hanno maggiori probabilità di agitarsi per aumentare i salari o sostenere la sindacalizzazione. I datori di lavoro monitorano sempre più le email, le chat e altri dati dei dipendenti per valutare quali potrebbero andarsene e calcolare l'aumento salariale minimo necessario per farli rimanere. E i sistemi di gestione algoritmici come quello di Uber stanno decentralizzando i lavoratori lontano dagli uffici e dagli spazi di convocazione digitali che consentono loro di coordinarsi tra loro e richiedono collettivamente un trattamento e una retribuzione migliori.

Nessuno di questi esempi dovrebbe sorprendere, ha affermato Newman. Sono semplicemente una manifestazione moderna di ciò che i datori di lavoro hanno storicamente fatto per sopprimere i salari prendendo di mira e interrompendo le attività sindacali. L'uso delle valutazioni della personalità nelle assunzioni, che risale agli anni '30 negli Stati Uniti, è iniziato infatti come un meccanismo per eliminare le persone che hanno maggiori probabilità di diventare organizzatori del lavoro. I test sono diventati particolarmente popolari negli anni '60 e '70 una volta che gli psicologi organizzativi li hanno perfezionati per valutare i lavoratori in base alle loro simpatie sindacali.

In questo contesto, la valutazione del rischio di lotta di PredictiveHire è solo un altro esempio di questa tendenza. Il job hopping, o la minaccia del job hopping, sottolinea Barocas, è uno dei modi principali con cui i lavoratori sono in grado di aumentare il proprio reddito. L'azienda ha anche costruito la sua valutazione su screening della personalità progettati da psicologi dell'organizzazione.

Barocas non sostiene necessariamente di buttare via del tutto gli strumenti. Crede che l'obiettivo di far funzionare meglio le assunzioni per tutti sia nobile e potrebbe essere raggiunto se le autorità di regolamentazione lo richiedessero maggiore trasparenza . Attualmente nessuno di loro ha ricevuto una valutazione rigorosa e sottoposta a revisione paritaria, afferma. Ma se le aziende fossero più aperte riguardo alle loro pratiche e presentassero i loro strumenti per tale convalida, ciò potrebbe aiutarle a ritenerle responsabili. Potrebbe anche aiutare gli studiosi a impegnarsi più prontamente con le aziende per studiare l'impatto degli strumenti sia sul lavoro che sulla discriminazione.

Nonostante tutto il mio lavoro negli ultimi due anni abbia espresso preoccupazioni su questa roba, dice, in realtà credo che molti di questi strumenti potrebbero migliorare significativamente lo stato attuale delle cose.

nascondere