211service.com
Microsoft sta creando un oracolo per catturare algoritmi di intelligenza artificiale distorti
Progetto sostantivo | Andrejs Kirma | SM. Tech
Microsoft sta costruendo uno strumento per identificare automaticamente i bias in una gamma di diversi algoritmi di intelligenza artificiale. È lo sforzo più audace mai realizzato per automatizzare il rilevamento delle ingiustizie che potrebbero insinuarsi nell'apprendimento automatico e potrebbe aiutare le aziende a utilizzare l'IA senza discriminare inavvertitamente determinate persone.
Le grandi aziende tecnologiche stanno gareggiando per vendere la tecnologia di apprendimento automatico pronta all'uso a cui è possibile accedere tramite il cloud. Man mano che sempre più clienti utilizzano questi algoritmi per automatizzare giudizi e decisioni importanti, la questione del bias diventerà cruciale. E poiché i pregiudizi possono facilmente insinuarsi nei modelli di apprendimento automatico, i modi per automatizzare il rilevamento dell'ingiustizia potrebbero diventare una parte preziosa del toolkit di intelligenza artificiale.
Cose come trasparenza, intelligibilità e spiegazione sono abbastanza nuove nel campo che pochi di noi hanno un'esperienza sufficiente per sapere tutto ciò che dovremmo cercare e tutti i modi in cui i pregiudizi potrebbero nascondersi nei nostri modelli, afferma Ricca Caruna , un ricercatore senior presso Microsoft che sta lavorando al dashboard di rilevamento bias.
Il bias algoritmico è una preoccupazione crescente per molti ricercatori ed esperti di tecnologia (vedi Inspecting algoritmi for bias ). Poiché gli algoritmi vengono utilizzati per automatizzare decisioni importanti, c'è il rischio che il pregiudizio possa diventare automatizzato, distribuito su larga scala e più difficile da individuare per le vittime.
Caruna afferma che il prodotto di Microsoft che cattura i pregiudizi aiuterà i ricercatori di intelligenza artificiale a rilevare più casi di ingiustizia, anche se non tutti. Naturalmente, non possiamo aspettarci la perfezione - ci saranno sempre dei pregiudizi non rilevati o che non possono essere eliminati - l'obiettivo è fare il meglio che possiamo, dice.
La cosa più importante che le aziende possono fare in questo momento è educare la propria forza lavoro in modo che siano consapevoli della miriade di modi in cui possono sorgere e manifestarsi pregiudizi e creare strumenti per rendere i modelli più facili da capire e più facili da rilevare, aggiunge Caruna.
Facebook ha annunciato il proprio strumento per rilevare i pregiudizi alla sua conferenza annuale degli sviluppatori il 2 maggio. Il suo strumento, chiamato Fairness Flow, avverte automaticamente se un algoritmo sta dando un giudizio ingiusto su qualcuno in base alla sua razza, sesso o età. Facebook afferma di aver bisogno di Fairness Flow perché sempre più persone in azienda utilizzano l'IA per prendere decisioni importanti.
Bin Yu , professore alla UC Berkeley, afferma che gli strumenti di Facebook e Microsoft sembrano un passo nella giusta direzione, ma potrebbero non essere sufficienti. Suggerisce che le grandi aziende dovrebbero avere esperti esterni che controllano i loro algoritmi per dimostrare che non sono di parte. Qualcun altro deve indagare sugli algoritmi di Facebook: non possono essere un segreto per tutti, dice Yu.