211service.com
La polizia predittiva è ancora razzista, qualunque sia il dato che utilizza
David McNew/Getty Images
Non è un segreto che lo siano gli strumenti di polizia predittiva di parte razziale . Numerosi studi hanno dimostrato che possono sorgere circuiti di feedback razzista se lo sono gli algoritmi addestrato sui dati della polizia , come gli arresti. Ma una nuova ricerca mostra che la formazione di strumenti predittivi in un modo inteso a ridurre i pregiudizi ha scarso effetto.
I dati sugli arresti distorcono gli strumenti predittivi perché è noto che la polizia arresta più persone nei quartieri neri e di altre minoranze, il che porta gli algoritmi a dirigere più polizia in quelle aree, il che porta a più arresti. Il risultato è che gli strumenti predittivi distribuiscono in modo errato le pattuglie della polizia: alcuni quartieri sono ingiustamente designati punti caldi della criminalità mentre altri sono poco presidiati.
Storia correlata
Gli algoritmi di polizia predittiva sono razzisti. Devono essere smantellati. La mancanza di trasparenza e dati di formazione distorti significano che questi strumenti non sono adatti allo scopo. Se non riusciamo a risolverli, dovremmo abbandonarli.In loro difesa, molti sviluppatori di strumenti di polizia predittiva affermano di aver iniziato a utilizzare le segnalazioni delle vittime per ottenere un quadro più accurato dei tassi di criminalità nei diversi quartieri. In teoria, le denunce delle vittime dovrebbero essere meno distorte perché non sono influenzate dai pregiudizi della polizia o dai circuiti di feedback.
Ma Nil-Jana Akpinar e Alexandra Chouldechova alla Carnegie Mellon University e Maria De-Arteaga all'Università del Texas ad Austin lo dimostrano anche il punto di vista fornito dai rapporti sulle vittime è distorto . Il team ha costruito il proprio algoritmo predittivo utilizzando lo stesso modello trovato in diversi strumenti popolari, tra cui PredPol, il sistema più utilizzato negli Stati Uniti. Hanno addestrato il modello sui dati delle denunce delle vittime per Bogotá, in Colombia, una delle pochissime città per cui sono disponibili dati indipendenti sulla denuncia dei reati a livello di distretto.
Quando hanno confrontato le previsioni del loro strumento con i dati sulla criminalità reale per ciascun distretto, hanno scoperto che commetteva errori significativi. Ad esempio, in un distretto in cui sono stati segnalati pochi reati, lo strumento prevedeva circa il 20% dei punti caldi effettivi, luoghi con un alto tasso di criminalità. D'altra parte, in un distretto con un numero elevato di segnalazioni, lo strumento prevedeva il 20% in più di hot spot rispetto a quelli realmente presenti.
Per Rashida Richardson, avvocato e ricercatrice che studia i bias algoritmici presso la Rutgers Law School nel New Jersey, questi risultati rafforzano il lavoro esistente che evidenzia i problemi con i set di dati utilizzati nella polizia predittiva. Portano a risultati distorti che non migliorano la sicurezza pubblica, dice. Penso che molti fornitori di servizi di polizia predittiva come PredPol fondamentalmente non capiscano come le condizioni strutturali e sociali distorcano o distorcano molte forme di dati sulla criminalità.
Allora perché l'algoritmo ha sbagliato così tanto? Il problema con i rapporti sulle vittime è che i neri hanno maggiori probabilità di essere denunciati per un crimine rispetto ai bianchi. I bianchi più ricchi hanno maggiori probabilità di denunciare una persona di colore più povera rispetto al contrario. E i neri hanno anche maggiori probabilità di denunciare altri neri. Come per i dati sugli arresti, questo porta i quartieri neri a essere contrassegnati come punti caldi del crimine più spesso di quanto dovrebbero.
Anche altri fattori distorcono l'immagine. La denuncia delle vittime è anche correlata alla fiducia della comunità o alla sfiducia nei confronti della polizia, afferma Richardson. Quindi, se ti trovi in una comunità con un dipartimento di polizia storicamente corrotto o notoriamente razzista, ciò influenzerà come e se le persone denunciano i crimini. In questo caso, uno strumento predittivo potrebbe sottostimare il livello di criminalità in un'area, quindi non otterrà la polizia di cui ha bisogno.
Nessuna soluzione rapida
Peggio ancora, non c'è ancora una soluzione tecnica ovvia. Akpinar e Chouldechova hanno cercato di adattare il loro modello di Bogotá per tenere conto dei pregiudizi osservati, ma non avevano dati sufficienti per fare molta differenza, nonostante ci fossero più dati a livello di distretto per Bogotá che per qualsiasi città degli Stati Uniti. In definitiva, non è chiaro se mitigare il pregiudizio in questo caso sia più facile rispetto ai precedenti sforzi che hanno funzionato per debias sistemi basati sui dati di arresto, afferma Akpinar.
Cosa si può fare? Richardson pensa che la pressione pubblica per smantellare gli strumenti razzisti e le politiche dietro di essi sia l'unica risposta. È solo una questione di volontà politica, dice. Nota che i primi ad adottare strumenti di polizia predittiva, come Santa Cruz, hanno annunciato che non li utilizzeranno più e che ci sono stati rapporti ufficiali feroci sull'uso della polizia predittiva da parte del LAPD e del Chicago PD. Ma le risposte in ogni città erano diverse, dice.
Chicago ha sospeso l'uso della polizia predittiva ma ha reinvestito in un database per le bande di polizia, che secondo Richardson ha molti degli stessi problemi.
È preoccupante che anche quando le indagini e i rapporti del governo rilevano problemi significativi con queste tecnologie, non è sufficiente che i politici e i funzionari di polizia dicano che non dovrebbero essere utilizzate, afferma.