211service.com
Il Regno Unito sta abbandonando un algoritmo di immigrazione che secondo i critici è razzista
James Cridland / Flickr
Le notizie: Il Ministero dell'Interno del Regno Unito ha detto che lo farà smettere di usare un algoritmo elaborare le domande di visto che i critici sostengono sia razzista. Avversari litigare che l'uso della nazionalità da parte dell'algoritmo per decidere quali applicazioni vengono accelerate ha portato a un sistema in cui le persone dei paesi ricchi di bianchi ottengono Speedy Boarding; le persone più povere di colore vengono spinte in fondo alla fila.
Tempo per una riprogettazione: Il Ministero dell'Interno nega che il suo sistema sia razzista e il contenzioso è ancora in corso. Anche così, il Ministero dell'Interno ha accettato di abbandonare l'algoritmo e prevede di rilanciare una versione ridisegnata entro la fine dell'anno, dopo aver condotto una revisione completa che cercherà i pregiudizi inconsci. Nel frattempo il Regno Unito adotterà un sistema temporaneo che non utilizza la nazionalità per smistare le domande.
Sistema di traffico: Dal 2015 il Regno Unito ha filtrato le domande di visto utilizzando un sistema a semaforo che assegna un livello di rischio rosso, giallo o verde a ciascun richiedente. Le persone a cui è stato assegnato un livello di rischio rosso avevano maggiori probabilità di essere rifiutate.
Tendenza più ampia: Gli algoritmi sono noti radicare pregiudizi istituzionali , soprattutto razzisti. Eppure vengono utilizzati sempre di più per aiutare a prendere decisioni importanti, dai controlli del credito alle domande di visto udienze preliminari e polizia . I critici si sono lamentati del fatto che il sistema di immigrazione statunitense lo sia di parte razziale pure. Ma nella maggior parte dei casi, disimballare esattamente come funzionano questi algoritmi ed esporre le prove dei loro pregiudizi è difficile perché molti sono proprietari e il loro uso ha poca supervisione pubblica.
Ma le critiche crescono. Negli Stati Uniti, alcuni dipartimenti di polizia stanno sospendendo algoritmi predittivi controversi e le aziende tecnologiche hanno ha smesso di fornire una tecnologia di riconoscimento facciale parziale . A febbraio ha stabilito un tribunale olandese che un sistema che prevedeva la probabilità di una persona di commettere frode sociale o fiscale era illegale perché prendeva di mira ingiustamente le minoranze. La decisione del Ministero dell'Interno del Regno Unito di rivedere il proprio sistema senza attendere una sentenza legale potrebbe rivelarsi una pietra miliare.