Naturalmente la tecnologia perpetua il razzismo. È stato progettato in questo modo.

Foto di fonte: Getty / Sig.ra Tech

Oggi gli Stati Uniti crollano sotto il peso di due pandemie: il coronavirus e la brutalità della polizia.

Entrambi provocano violenza fisica e psicologica. Entrambi uccidono e debilitano in modo sproporzionato persone nere e marroni. Ed entrambi sono animati dalla tecnologia che progettiamo, riutilizziamo e implementiamo, che si tratti di tracciamento dei contatti, riconoscimento facciale o social media.

Questa storia faceva parte del nostro numero di luglio 2020

• Vedi il resto del problema
• sottoscrivi

Spesso ci rivolgiamo alla tecnologia per risolvere i problemi. Ma quando la società definisce, inquadra e rappresenta le persone di colore come il problema, quelle soluzioni spesso fanno più male che bene. Abbiamo progettato tecnologie di riconoscimento facciale che prendono di mira i sospetti criminali sulla base del colore della pelle. Noi abbiamo sistemi automatizzati di profilazione del rischio addestrati che identificano in modo sproporzionato le persone latine come immigrati illegali. Noi abbiamo ha ideato algoritmi di credit scoring che identificano in modo sproporzionato i neri come rischi e impediscono loro di acquistare case, ottenere prestiti o trovare lavoro.

Quindi la domanda che dobbiamo affrontare è se continueremo a progettare e implementare strumenti che servano gli interessi del razzismo e della supremazia bianca,

Certo, non è affatto una domanda nuova.

Diritti incivili

Nel 1960, i leader del Partito Democratico affrontarono il loro stesso problema: come poteva il loro candidato alla presidenza, John F. Kennedy, sostenere il debole sostegno dei neri e di altre minoranze razziali?

Un intraprendente politologo al MIT, Piscina Ithiel de Sola , li ha avvicinati con una soluzione. Raccoglieva i dati degli elettori dalle precedenti elezioni presidenziali, li inseriva in una nuova macchina di elaborazione digitale, sviluppava un algoritmo per modellare il comportamento di voto, prevedeva quali posizioni politiche porterebbero ai risultati più favorevoli e quindi consigliava alla campagna di Kennedy di agire di conseguenza. Pool ha avviato una nuova società, la Simulmatica Corporation , e ha eseguito il suo piano. Ci riuscì, fu eletto Kennedy e i risultati mostrarono la potenza di questo nuovo metodo di modellazione predittiva.

La tensione razziale aumentò nel corso degli anni '60. Poi venne la lunga e calda estate del 1967. Città in tutta la nazione bruciarono, da Birmingham, Alabama, a Rochester, New York, a Minneapolis, Minnesota, e molte altre nel mezzo. I neri americani hanno protestato contro l'oppressione e la discriminazione che hanno dovuto affrontare per mano del sistema di giustizia penale americano. Ma il presidente Johnson lo definì disordine civile e formò la Commissione Kerner per comprendere le cause delle rivolte del ghetto. La commissione ha chiamato Simulmatics.

Come parte di un progetto DARPA volto a invertire le sorti della guerra del Vietnam, la compagnia di Pool aveva lavorato sodo per preparare una massiccia campagna di propaganda e psicologica contro i Vietcong. Il presidente Johnson era ansioso di utilizzare la tecnologia di influenza comportamentale di Simulmatics per reprimere la minaccia interna della nazione, non solo i suoi nemici stranieri. Con il pretesto di quello che hanno chiamato uno studio sui media, Simulmatics ha costruito una squadra per quella che equivaleva a una campagna di sorveglianza su larga scala nelle aree colpite dalle rivolte che catturò l'attenzione della nazione quell'estate del 1967.

Squadre di tre membri sono andate nelle aree in cui si erano verificati disordini quell'estate. Hanno identificato e intervistato persone di colore strategicamente importanti. Hanno continuato a identificare e intervistare altri residenti neri, in ogni luogo, dai barbieri alle chiese. Hanno chiesto ai residenti cosa pensassero della copertura dei disordini da parte dei media. Ma hanno anche raccolto dati su molto di più: come le persone si sono spostate dentro e intorno alla città durante i disordini, con chi hanno parlato prima e durante e come si sono preparati per le conseguenze. Hanno raccolto dati sull'utilizzo dei caselli, sulle vendite delle stazioni di servizio e sulle linee degli autobus. Hanno ottenuto l'ingresso in queste comunità con la pretesa di cercare di capire come i media avrebbero infiammato le rivolte. Ma Johnson e i leader politici della nazione stavano cercando di risolvere un problema. Miravano a utilizzare le informazioni raccolte da Simulmatics per tracciare il flusso di informazioni durante le proteste per identificare gli influencer e decapitare la leadership delle proteste.

Non l'hanno realizzato direttamente. Non hanno ucciso persone, messo persone in prigione o fatto sparire segretamente.

Ma alla fine degli anni '60, questo tipo di informazioni aveva contribuito a creare quelli che divennero noti come sistemi di informazione sulla giustizia penale. Proliferarono nel corso dei decenni, gettando le basi per la profilazione razziale, la polizia predittiva e la sorveglianza mirata alla razza. Hanno lasciato un'eredità che include milioni di donne e uomini neri e marroni incarcerati.

Riformulare il problema

Neri e neri. Entrambi persistono come problema della nostra nazione, oserei dire anche del nostro mondo. Quando il tracciamento dei contatti è emerso per la prima volta all'inizio della pandemia, è stato facile vederlo come uno strumento di sorveglianza sanitaria necessario ma benigno. Il coronavirus era il nostro problema e abbiamo iniziato a progettare nuove tecnologie di sorveglianza sotto forma di applicazioni di tracciamento dei contatti, monitoraggio della temperatura e mappatura delle minacce per aiutarci ad affrontarlo.

Ma accadde qualcosa di tanto curioso quanto tragico. Abbiamo scoperto che i neri, i Latinx e le popolazioni indigene erano infettati e colpiti in modo sproporzionato. Improvvisamente, siamo diventati anche un problema nazionale; abbiamo minacciato in modo sproporzionato di diffondere il virus. Ciò è stato aggravato quando il tragico omicidio di George Floyd da parte di un agente di polizia bianco ha mandato migliaia di manifestanti nelle strade. Quando sono iniziati i saccheggi e le rivolte, noi, i neri, siamo stati nuovamente visti come una minaccia alla legge e all'ordine, una minaccia a un sistema che perpetua il potere razziale dei bianchi. Ti viene da chiederti quanto tempo impiegheranno le forze dell'ordine a implementare quelle tecnologie che abbiamo inizialmente progettato per combattere il covid-19 per reprimere la minaccia che i neri presumibilmente rappresentano per la sicurezza della nazione.

Se non vogliamo che la nostra tecnologia venga utilizzata per perpetuare il razzismo, allora dobbiamo assicurarci di non confondere problemi sociali come criminalità, violenza o malattie con i neri e i marroni. Quando lo facciamo, rischiamo di trasformare quelle persone nei problemi che risolviamo con la nostra tecnologia, la minaccia che progettiamo per sradicare.

Charlton McIlwain è professore di media, cultura e comunicazione alla New York University e autore di Black Software: Internet e giustizia razziale, da AfroNet a Black Lives Matter

nascondere