211service.com
I programmi di intelligenza artificiale stanno imparando a escludere alcune voci afroamericane
Interfacce vocali, chatbot e altri sistemi discriminano alcuni dialetti minoritari. 16 agosto 2017
Troppo spesso le persone esprimono giudizi affrettati in base a come parli. Alcuni sistemi di intelligenza artificiale stanno anche imparando a essere prevenuti nei confronti di alcuni dialetti. E poiché i sistemi di intelligenza artificiale basati sul linguaggio diventano sempre più comuni, alcune minoranze potrebbero essere automaticamente discriminate dalle macchine, avvertono i ricercatori che studiano il problema.
Chiunque abbia un accento forte o insolito può sapere com'è avere difficoltà a farsi capire da Siri o Alexa. Questo perché i sistemi di riconoscimento vocale utilizzano la tecnologia del linguaggio naturale per analizzare i contenuti del parlato e spesso si basano su algoritmi che sono stati addestrati con dati di esempio. Se non ci sono abbastanza esempi di un particolare accento o volgare, allora questi sistemi potrebbero semplicemente non capirti (vedi Problema linguistico dell'IA).
Il problema potrebbe essere più diffuso e pernicioso di quanto la maggior parte delle persone creda. La tecnologia in linguaggio naturale ora alimenta le interazioni automatizzate con i clienti, attraverso sistemi telefonici automatizzati o chatbot. Viene utilizzato per estrarre l'opinione pubblica sul Web e sui social network e per spulciare documenti scritti alla ricerca di informazioni utili. Ciò significa che servizi e prodotti basati su sistemi linguistici potrebbero già discriminare ingiustamente determinati gruppi.
Brendan O'Connor , un assistente professore presso l'Università del Massachusetts, Amherst, e uno dei suoi studenti laureati, Su Lin Blodgett , ha esaminato l'uso del linguaggio su Twitter. Utilizzando il filtraggio demografico, i ricercatori hanno raccolto 59,2 milioni di tweet con un'alta probabilità di contenere gergo o volgare afroamericano. Hanno quindi testato diversi strumenti di elaborazione del linguaggio naturale su questo set di dati per vedere come tratterebbero queste affermazioni. Hanno scoperto che uno strumento popolare ha classificato questi post come danesi con un alto livello di sicurezza.
Se analizzi Twitter per le opinioni delle persone su un politico e non stai nemmeno considerando ciò che dicono gli afroamericani o i giovani adulti, sembra problematico, dice O'Connor.
La coppia ha anche testato diverse API popolari basate sull'apprendimento automatico che analizzano il significato e il sentimento del testo e hanno scoperto che anche questi sistemi hanno difficoltà. Se acquisti un analizzatore di sentimenti da qualche azienda, non sai nemmeno quali pregiudizi abbia in esso, dice O'Connor. Non abbiamo molto auditing o conoscenza su queste cose.
Dice che il problema si estende a qualsiasi sistema che utilizza il linguaggio, compresi i motori di ricerca.
La questione dell'ingiustizia che emerge dall'uso di algoritmi di intelligenza artificiale sta guadagnando attenzione in alcuni ambienti poiché questi algoritmi sono utilizzati in modo più ampio. Un controverso esempio di possibile pregiudizio è un algoritmo proprietario chiamato Compass, che viene utilizzato per decidere se ai detenuti debba essere concessa la libertà condizionale. Il funzionamento dell'algoritmo è sconosciuto, ma ricerca suggerisce che è prevenuto contro i detenuti neri.
Alcuni esperti, tuttavia, affermano che il problema potrebbe essere più grave di quanto molti sappiano, interessando un numero crescente di decisioni in materia finanziaria, sanitaria e educativa (vedi Algoritmi distorti sono ovunque e Nessuno sembra interessarsi).
I ricercatori di UMass hanno presentato il loro lavoro in un workshop dedicato all'esplorazione della questione del bias nell'IA. L'evento, Fairness and Transparency in Machine Learning, quest'anno faceva parte di una più ampia conferenza sulla scienza dei dati, ma nel 2018 diventerà essa stessa una conferenza a sé stante. Barocchi di Solone , un assistente professore alla Cornell e cofondatore dell'evento, afferma che il campo è in crescita, con sempre più ricercatori che esplorano la questione del pregiudizio nei sistemi di intelligenza artificiale.
Goel condiviso , un assistente professore alla Stanford University che studia l'equità algoritmica e le politiche pubbliche, afferma che la questione non è sempre semplice. Osserva che può essere eccessivamente semplicistico chiamare algoritmi prevenuti, in quanto possono funzionare completamente come previsto, fare previsioni accurate e riflettere semplicemente pregiudizi sociali più ampi. È meglio descrivere cosa sta facendo un algoritmo, il motivo per cui lo sta facendo, e poi decidere se è quello che vogliamo che faccia, dice Goel.