211service.com
Come aggiornare i giudici con l'apprendimento automatico
Jon Han
Quando dovrebbe essere richiesto a un imputato criminale di attendere il processo in carcere piuttosto che a casa? Il software potrebbe migliorare significativamente la capacità dei giudici di fare quella chiamata, riducendo la criminalità o il numero di persone bloccate in attesa in prigione.
In un nuovo studio dal National Bureau of Economic Research, economisti e informatici hanno addestrato un algoritmo per prevedere se gli imputati fossero un rischio di fuga dal loro verbale di rapina e dai verbali del tribunale utilizzando i dati di centinaia di migliaia di casi a New York City. Quando è stato testato su oltre centomila casi in più che non aveva mai visto prima, l'algoritmo si è dimostrato migliore nel prevedere cosa faranno gli imputati dopo il rilascio rispetto ai giudici.
Jon Kleinberg , un professore di informatica alla Cornell coinvolto nella ricerca, afferma che uno degli obiettivi del progetto era mostrare ai responsabili politici i potenziali vantaggi per la società dell'utilizzo dell'apprendimento automatico nel sistema di giustizia penale. Ciò mostra come l'apprendimento automatico può essere d'aiuto anche in contesti in cui viene messa in atto una notevole esperienza umana, afferma Kleinberg, che ha lavorato al progetto con ricercatori di Stanford, Harvard e dell'Università di Chicago.
Stimano che per New York City, il consiglio del loro algoritmo potrebbe ridurre la criminalità degli imputati in attesa di processo fino al 25% senza cambiare il numero di persone in attesa in prigione. In alternativa, potrebbe essere utilizzato per ridurre di oltre il 40% la popolazione carceraria in attesa di processo, lasciando invariato il tasso di criminalità degli imputati. La ripetizione dell'esperimento sui dati di 40 grandi contee urbane negli Stati Uniti ha prodotto risultati simili.
Come bonus, guadagni come quelli erano possibili spostando contemporaneamente la popolazione carceraria per includere una percentuale minore di afroamericani e ispanici.
L'algoritmo assegna agli imputati un punteggio di rischio basato sui dati estratti dai registri del loro caso attuale e dalla loro fedina penale, ad esempio il reato di cui sono sospettati, quando e dove sono stati arrestati e il numero e il tipo di condanne precedenti. (L'unico dato demografico utilizzato è l'età, non la razza.)
Kleinberg suggerisce che gli algoritmi potrebbero essere implementati per aiutare i giudici senza grandi interruzioni nel modo in cui funzionano attualmente sotto forma di un sistema di allerta che segnala decisioni altamente probabili essere sbagliate. L'analisi delle prestazioni dei giudici ha suggerito che hanno la tendenza a rilasciare occasionalmente persone che molto probabilmente non si presenteranno in tribunale o commetteranno reati in attesa del processo. Un algoritmo potrebbe intercettare molti di questi casi, dice Kleinberg.
Riccardo Berk , professore di criminologia all'Università della Pennsylvania, descrive lo studio come un ottimo lavoro e un esempio di una recente accelerazione dell'interesse nell'applicazione dell'apprendimento automatico per migliorare le decisioni di giustizia penale. L'idea è stata esplorata per 20 anni, ma l'apprendimento automatico è diventato più potente e i dati per addestrarlo sono più disponibili.
Berk ha recentemente testato un sistema con il Pennsylvania State Parole Board che fornisce consulenza sul rischio che una persona possa recidivare e ha trovato prove che riduce la criminalità. Lo studio NBER è importante perché esamina come l'apprendimento automatico può essere utilizzato per la pre-sentenza, un'area che non è stata esplorata a fondo, dice.
Tuttavia, Berk afferma che sono necessarie ulteriori ricerche su come garantire che gli algoritmi di giustizia penale non portino a risultati ingiusti. L'anno scorso un'indagine di ProPublica ha rilevato che il software commerciale sviluppato per aiutare a determinare quali detenuti dovrebbero ricevere la libertà vigilata aveva maggiori probabilità di etichettare erroneamente i neri rispetto ai bianchi come ad alto rischio.
Jens Ludovico , direttore del Crime Lab dell'Università di Chicago, che ha lavorato al nuovo studio NBER, afferma che dimostra come i risultati ingiusti siano tutt'altro che inevitabili, dimostrando che un algoritmo di consulenza del giudice potrebbe ridurre la criminalità così come il tasso con cui neri e ispanici sono incarcerati. Questi strumenti possono effettivamente migliorare l'equità rispetto allo status quo, afferma.