L'attivista che smantella gli algoritmi della polizia razzista

Damon Casarez

Hamid Khan è un organizzatore di comunità a Los Angeles da oltre 35 anni, con un focus costante sulla violenza della polizia e sui diritti umani. Ci ha parlato il 3 aprile 2020 per un prossimo episodio del podcast sull'intelligenza artificiale e la polizia. Mentre il mondo rivolge la sua attenzione alla brutalità della polizia e al razzismo istituzionale, abbiamo pensato che la nostra conversazione con lui su come crede che la tecnologia consenta il razzismo nella polizia dovrebbe essere pubblicata ora.

Khan è il fondatore della Stop LAPD Spying Coalition, che ha vinto molti casi giudiziari storici a nome delle comunità minoritarie per le quali si batte. Il suo lavoro è forse meglio conosciuto per la difesa contro la polizia predittiva. Il 21 aprile, poche settimane dopo questa intervista, il LAPD ha annunciato la fine di tutti i programmi di polizia predittiva .

Khan lo è una figura controversa che ha rifiutato le collaborazioni con gruppi come la Electronic Frontier Foundation (EFF) a causa della sua enfasi sulla riforma. Non crede che la riforma funzionerà. L'intervista è stata modificata per lunghezza e chiarezza.

Raccontaci del tuo lavoro. Perché ti interessa la sorveglianza della polizia?

Il lavoro che svolgiamo, in particolare guardando al dipartimento di polizia di Los Angeles, esamina come la sorveglianza, la raccolta, l'archiviazione e la condivisione di informazioni siano state storicamente utilizzate per causare davvero danni, per tracciare, tracciare, monitorare, perseguitare determinate comunità: comunità che sono poveri, neri e marroni, comunità che sarebbero considerate sospette e omosessuali trans. Quindi, a vari livelli, la sorveglianza è un processo di controllo sociale.

Credi che ci sia un ruolo per la tecnologia nella polizia?

La Stop LAPD Spying Coalition ha alcuni valori guida. Il primo è che quello che stiamo guardando non è un momento ma una continuazione della storia. La sorveglianza è stata utilizzata per centinaia di anni. Alcuni dei primi processi di sorveglianza risalgono alle leggi sulle lanterne a New York City all'inizio del 1700. Se eri uno schiavo, un nero o un indigeno, e se uscivi nell'area pubblica senza il tuo padrone, dovevi camminare con una vera lanterna letterale, con lo stoppino e tutto il resto, per identificarti fondamentalmente te stesso come un sospetto, come l'altro.

Un altro valore guida è che ce n'è sempre un altro. Storicamente, c'è sempre una minaccia per il sistema. C'è sempre un corpo, un individuo o gruppi di persone ritenuti pericolosi. Sono ritenuti sospetti.

Il terzo valore è che cerchiamo sempre di desenszionalizzare la retorica della sicurezza nazionale. Per mantenerlo molto semplice e diretto, [cerchiamo di mostrare] come si muove l'ambiente di raccolta e condivisione delle informazioni e come è un processo per tenere d'occhio tutti.

Gli algoritmi non hanno posto nella polizia.

E uno dei nostri ultimi valori guida è che la nostra lotta è radicata nei diritti umani. Siamo un gruppo ferocemente abolizionista, quindi il nostro obiettivo è smantellare il sistema. Non ci impegniamo nel lavoro riformista. Consideriamo inoltre qualsiasi sviluppo di politiche in materia di trasparenza, responsabilità e supervisione un modello per il mission creep. Ogni volta che la sorveglianza viene legittimata, quindi è aperta per essere ampliata nel tempo. In questo momento, stiamo combattendo per mantenere i droni a terra a Los Angeles e siamo stati in grado di tenerli a terra per alcuni anni. E alla fine di marzo, il dipartimento di polizia di Chula Vista a San Diego ha annunciato che lo farà dotare i propri droni di altoparlanti per monitorare il movimento delle persone senza alloggio.

Puoi spiegare il lavoro svolto dalla Stop LAPD Spying Coalition sulla polizia predittiva? Quali sono i problemi dal tuo punto di vista?

PredPol era una polizia predittiva basata sulla posizione in cui una posizione di 500 x 500 piedi quadrati è stata identificata come un punto caldo. L'altro programma complementare, Operazione Laser, era la polizia predittiva basata sulla persona.

Nel 2010, abbiamo esaminato i vari modi in cui questi programmi [sorveglianza LAPD] venivano istituiti. La polizia predittiva era un programma chiave. Abbiamo lanciato formalmente una campagna nel 2016 per comprendere l'impatto della polizia predittiva a Los Angeles con l'obiettivo di smantellare il programma, portare queste informazioni alla comunità e reagire.

La polizia predittiva basata sulla persona ha affermato che per le persone che sono chiamate persone di interesse o delinquenti abituali, che potrebbero aver avuto una storia in passato, potremmo utilizzare uno strumento di valutazione del rischio per stabilire che avrebbero recidivato. Quindi era un gioco di numeri. Se in passato avevano possesso di armi, venivano assegnati cinque punti. Se erano in libertà vigilata o in libertà vigilata, venivano assegnati cinque punti. Se erano affiliati a una banda, venivano assegnati cinque punti. Se avessero avuto interazioni con la polizia come uno stop-and-frisk, gli sarebbe stato assegnato un punto. E questo è diventato il punto in cui le persone che erano in libertà vigilata o in libertà vigilata o che si occupavano dei propri affari e ricostruivano le proprie vite sono state quindi collocate in quello che è diventato noto come un programma per criminali cronici, all'insaputa di molte persone.

Quindi la posizione viene criminalizzata, le persone vengono criminalizzate e mancano solo pochi secondi prima che la pistola esca e qualcuno venga colpito e ucciso.

Quindi, sulla base di questa valutazione del rischio, dove Palantir sta elaborando tutti i dati , il LAPD ha creato un elenco. Hanno iniziato a pubblicare bollettini, che erano come un poster dei Most Wanted con le foto, gli indirizzi e anche la storia di queste persone, e li hanno messi in auto di pattuglia. [Loro] hanno iniziato a distribuire lettori di targhe, pastinaca, IMSI-Catcher, CCTV e varie altre tecnologie per tracciare i loro movimenti, e quindi creare le condizioni a terra per fermarli, molestarli e intimidirli. Abbiamo costruito molta energia di base e nell'aprile 2019 l'operazione Laser è stata formalmente smantellata. È stato interrotto.

E in questo momento stiamo cercando PredPol e chiediamo che anche PredPol venga smantellato. [LAPD ha annunciato la fine di PredPol il 21 aprile 2020.] Il nostro obiettivo per l'abolizione e lo smantellamento di questo programma non è solo radicato nella spazzatura, spazzatura fuori; dati razzisti in entrata e dati razzisti in uscita. Il nostro lavoro è davvero radicato nel fatto che alla fine serve l'intera struttura ideologica del patriarcato e del capitalismo, della supremazia bianca e del colonialismo dei coloni.

Abbiamo pubblicato un rapporto, Prima che il proiettile colpisca il corpo, nel maggio 2018 sulla polizia predittiva a Los Angeles, che ha portato la città di Los Angeles a tenere audizioni pubbliche sulla polizia basata sui dati, che sono state le prime del loro genere nel paese. Abbiamo chiesto un controllo forense di PredPol da parte dell'ispettore generale. Nel marzo 2019, l'ispettore generale ha rilasciato l'audit e ha affermato che non possiamo nemmeno controllare PredPol perché semplicemente non è possibile. È così, così complicato.

Gli algoritmi non hanno posto nella polizia. Penso che sia fondamentale capire che ci sono vite in gioco. Questo linguaggio della polizia basata sulla posizione è di per sé un proxy del razzismo. Non sono lì per sorvegliare buche e alberi. Sono lì per controllare le persone nella posizione. Quindi la posizione viene criminalizzata, le persone vengono criminalizzate e mancano solo pochi secondi prima che la pistola esca e qualcuno venga colpito e ucciso.

I capi squadra della Stop LAPD Spying Coalition Hamid Khan (a destra), Jamie Garcia (al centro) e Gen Dogon (a sinistra) nel quartiere di Skid Row a Los Angeles, dove la coalizione ha il suo quartier generale.

DAMON CASAREZ

Come vi assicurate che il pubblico comprenda questo tipo di tattiche di polizia?

I registri pubblici sono un ottimo strumento per ottenere informazioni. Qual è l'origine di questo programma? Vogliamo sapere: qual era la visione? Come è stato articolato? Qual è lo scopo del finanziamento? Qual è il vocabolario che stanno usando? Quali sono i risultati che stanno presentando al finanziatore?

Sono un essere umano e non sono qui che mi disimballi e inizi a sperimentare su di me e poi mi impacchetta.

Loro [la polizia di Los Angeles] considererebbero un'area, un condominio, come punti caldi e zone. E le persone venivano fermate a un ritmo molto più veloce [là]. Ogni volta che fermi qualcuno, quell'informazione finisce in un database. È diventato un importante programma di raccolta dati.

Abbiamo chiesto che rilasciassero la lista segreta che avevano di queste persone. La polizia di Los Angeles ha reagito e abbiamo vinto quella causa sui registri pubblici. Quindi ora abbiamo un elenco segreto di 679 persone, che ora stiamo cercando di contattare. E questi sono tutti individui giovani, prevalentemente dal 90% al 95% neri e marroni.

Il ridimensionamento dell'area crea le condizioni sul terreno per un maggiore sviluppo, più gentrificazione, più sfratto, più sfollamento delle persone. Così la polizia divenne protettrice della proprietà privata e protettrice del privilegio.

Cosa dici alle persone che credono che la tecnologia possa aiutare a mitigare alcuni di questi problemi nella polizia, come i pregiudizi, perché la tecnologia può essere obiettiva?

Innanzitutto, la tecnologia non funziona da sola. Dalla progettazione alla produzione, dall'implementazione al risultato, c'è costantemente un pregiudizio integrato. Non sono solo i pregiudizi delle persone stesse; suo il pregiudizio intrinseco all'interno del sistema .

Ci sono così tanti punti di influenza che, francamente, la nostra battaglia non è per ripulire i dati. La nostra lotta non è per un algoritmo imparziale, perché non crediamo che nemmeno matematicamente potrebbe esserci un algoritmo imparziale per la polizia.

Quali sono le considerazioni sui diritti umani quando si tratta di tecnologia e sorveglianza della polizia?

Il primo diritto umano sarebbe quello di smettere di essere sperimentato. Sono un essere umano e non sono qui che mi disimballi e inizi a sperimentare su di me e poi mi impacchetta. C'è così tanta dataficazione delle nostre vite che è accaduta. Dal capitalismo delle piantagioni al capitalismo razzializzato fino all'attuale capitalismo di sorveglianza, siamo soggetti a essere comprati e venduti. Le nostre menti ei nostri pensieri sono stati mercificati. Ha un effetto smorzante anche sulla nostra creatività come esseri umani, come parte di un universo naturale. Il consenso viene prodotto da noi.

Con qualcosa come il coronavirus, stiamo sicuramente vedendo che alcune persone sono disposte a rinunciare ad alcuni dei loro dati e ad una parte della loro privacy. Cosa ne pensi della scelta o del compromesso tra utilità e privacy?

Dobbiamo davvero guardarlo attraverso un obiettivo molto più ampio. Tornando a uno dei nostri valori guida: non un momento nel tempo ma una continuazione della storia. Quindi dobbiamo guardare alle crisi del passato, sia reali che inventate.

Diamo un'occhiata alle Olimpiadi del 1984 a Los Angeles. Ciò ha portato alla più massiccia espansione dei poteri di polizia e alla militarizzazione del dipartimento di polizia di Los Angeles e del dipartimento dello sceriffo con il pretesto della sicurezza pubblica. Il fatto era che vogliamo tenere tutto al sicuro. Ma non solo [è diventato] una caratteristica permanente e la nuova normalità, ma sono state sviluppate anche tattiche. Poiché le strade dovevano essere ripulite, i corpi sospetti, le persone senza alloggio, sono stati rimossi con la forza. Presumibilmente iniziarono le spazzate tra le bande. Così giovani giovani neri e marroni venivano arrestati in massa. È come il 1983, che porta al 1984.

Nel 1986-1987 a Los Angeles, le ingiunzioni alle bande divennero una caratteristica permanente. Ciò ha portato a enormi database di gang e bambini di appena nove mesi che sono entrati in questi database di gang. Quella divenne l'operazione Hammer, dove avevano ottenuto carri armati e veicoli corazzati, usati dalla SWAT, per portare a termine reati di droga di basso livello e abbattere e demolire le case delle persone.

Ora siamo di nuovo in un momento. Non è solo l'espansione strutturale dei poteri di polizia; dobbiamo guardare alla polizia che ora assume sempre più ruoli di assistenti sociali. È stato costruito negli ultimi 10 anni. Ci sono anche molti dollari per la salute e i servizi umani collegati a questo. Ad esempio, a Los Angeles, il controllore cittadino è uscito con un audit circa cinque anni fa, e hanno considerato $ 100 milioni per i servizi per i senzatetto forniti dalla città. Bene, indovina un po'? Di questi, 87 milioni di dollari sarebbero andati alla polizia di Los Angeles.

Puoi fornire un esempio specifico di come l'uso della tecnologia da parte della polizia sta influenzando i membri della comunità?

La polizia guidata dall'intelligence è un concetto che esce dall'Inghilterra, dalla polizia del Kent, e ha avuto inizio circa 30 anni fa negli Stati Uniti. Il tema centrale della polizia guidata dall'intelligence è la sorveglianza comportamentale. Il comportamento delle persone deve essere monitorato, quindi elaborato e tali informazioni devono essere condivise. Le persone devono essere rintracciate e rintracciate.

Non esiste un razzismo più gentile e più gentile e questi programmi devono essere smantellati.

Un programma chiamato Segnalazione di attività sospette è uscito dall'11 settembre, in cui diverse attività che sono completamente protette costituzionalmente sono elencate come potenzialmente sospette. Ad esempio, scattare fotografie in pubblico, utilizzare videocamere in pubblico, entrare nelle infrastrutture e chiedere informazioni sugli orari di apertura. È un comportamento osservato ragionevolmente indicativo della pianificazione preoperatoria di attività criminali e/o terroristiche. Quindi stai osservando il comportamento di qualcuno, il che indica ragionevolmente che non esiste una causa probabile. Non crea un fatto, ma una preoccupazione. Quella polizia speculativa e basata su ipotesi è reale.

Siamo stati in grado di ottenere numeri dal programma See Something, Say Something della polizia di Los Angeles. E quello che abbiamo scoperto è che c'era un impatto disparato 3:1 sulla comunità nera. Circa il 70% di questi rapporti See Something, Say Something proveniva da comunità prevalentemente bianche a Los Angeles. Quindi ora un programma viene utilizzato come arma e diventa una licenza per il profilo razziale.

L'obiettivo è sempre quello di rafforzare il potere verso l'abolizione di questi programmi, perché non è possibile riformarli. Non esiste un razzismo più gentile e più gentile e questi programmi devono essere smantellati.

Quindi, pensi davvero che la riforma non consentirà l'uso di queste tecnologie nella polizia?

Posso solo parlare della mia storia di 35 anni di organizzazione a Los Angeles. Non è questione di migliorare, è questione di peggiorare. E penso che la tecnologia lo stia promuovendo. Quando guardi alla storia della riforma, continuiamo a sbattere la testa contro il muro, e continua a tornare alla solita vecchia cosa. Non possiamo davvero operare partendo dal presupposto che i cuori e le menti possano cambiare, in particolare quando qualcuno ha la licenza di uccidere.

Non sono un tecnologo. La nostra cautela è per i tecnologi: sai, stai nella tua corsia. Segui la comunità e segui la loro guida.

nascondere