211service.com
La Gig Economy è truccata?
Illustrazione di Matthew Hollister
App e siti che possono essere utilizzati per assumere persone per compiti individuali come fare la spesa o progettare un nuovo logo sono decollati negli ultimi anni, promettendo un mercato più efficiente ed equo per l'occupazione. Tuttavia, un nuovo studio della Northeastern University di Boston suggerisce che la discriminazione razziale e sessuale potrebbe essere comune su due popolari piattaforme di gig economy.
I ricercatori guidati da Cristo Wilson , un assistente professore alla Northeastern, e Ancsa Hannak , uno studente di dottorato, ha esaminato TaskRabbit, una piattaforma per assumere persone per fare commissioni, e Fiverr, un mercato per servizi creativi. Su entrambi, hanno trovato prove di pregiudizi lungo le linee razziali e di genere.
È solo un esempio di come il pregiudizio si insinui nelle piattaforme e nei servizi online. Ed è preoccupante perché la gig economy prometteva di essere non solo più efficiente e flessibile, ma anche meno parziale, poiché gli algoritmi fanno il lavoro di connettere le persone.
Su Fiverr, i ricercatori hanno trovato prove che i lavoratori neri e asiatici hanno ricevuto valutazioni inferiori rispetto ai bianchi. E su TaskRabbit, le donne hanno ricevuto meno recensioni rispetto agli uomini e i lavoratori neri hanno ricevuto valutazioni inferiori rispetto a quelli bianchi. Forse la cosa più preoccupante, i ricercatori hanno anche trovato prove di tale pregiudizio nell'algoritmo di raccomandazione su TaskRabbit. La ricerca sarà presentata in una conferenza accademica a New York questa settimana.
È impossibile dire con certezza che la correlazione identificata da Wilson e Hannák sia dovuta a pregiudizi razziali e di genere da parte dei dipendenti, al contrario di qualche fattore di confusione sconosciuto, ma Wilson afferma che il modello è preoccupante. Ci è stato detto che questo è il futuro del lavoro, dice. Se hai intenzione di implementare un algoritmo che verrà utilizzato da milioni di persone, hai una sorta di responsabilità nei confronti del pubblico di esaminare ciò che stai implementando, valutarlo e vedere se avrà qualcuno di questi effetti collaterali negativi.
Un portavoce di Fiverr sostiene che la metodologia dello studio era imperfetta in quanto ignora fattori come i confini internazionali e le differenze linguistiche. Nota inoltre che gli utenti non devono fornire alcuna informazione demografica per utilizzare il servizio, il che rende facile evitare discriminazioni. TaskRabbit non ha risposto a una richiesta di commento.
Vi sono, tuttavia, prove crescenti che i pregiudizi possono influenzare tutti i tipi di servizi digitali. Il mese scorso, ricercatori del MIT, Stanford e dell'Università di Washington scoperto che che i conducenti di Uber a Boston hanno annullato i viaggi più spesso per i clienti con nomi che suonano afroamericani e che i clienti Uber neri a Seattle hanno dovuto affrontare tempi di attesa più lunghi rispetto alle loro controparti bianche. In uno studio pubblicato lo scorso anno, i ricercatori della CMU trovato prove che gli annunci per lavori ben pagati venivano mostrati più spesso agli uomini che alle donne.
In molti casi il pregiudizio visto riflette solo ciò che si trova nel mondo reale, come il pregiudizio conscio e inconscio che i datori di lavoro possono portare alle decisioni di assunzione. Quindi, per i motori di raccomandazione o i sistemi di apprendimento automatico, la domanda è come rimuovere le distorsioni, dai set di dati forniti agli algoritmi o dagli algoritmi stessi.
Le persone hanno questa idea che, poiché è un computer, è neutrale, aggiunge Wilson. Se hai dati distorti, ha senso addestrare un algoritmo distorto.
Don MacKenzie , un assistente professore all'Università di Washington e uno degli autori del recente studio Uber, sottolinea che lo studio non dimostra che siano in gioco pregiudizi razziali o di genere. Ma dice che è importante considerare i pregiudizi nella gig economy e negli algoritmi sottostanti, aggiungendo che il problema dovrebbe essere gestibile se le aziende stanno attente.
Questa è un'area emergente e, se esiste una serie di migliori pratiche, non ne sono a conoscenza, afferma MacKenzie. Dal mio punto di vista, aziende, sviluppatori e data scientist dovrebbero prestare attenzione, ascoltare i feedback e non aver paura di provare soluzioni diverse. Penso che se tutti affrontano questi problemi in buona fede, in modo costruttivo e con la volontà di provare cose diverse, possiamo avvicinarci all'eliminazione dei pregiudizi in questi sistemi.