I ricercatori di intelligenza artificiale affermano che gli editori scientifici aiutano a perpetuare algoritmi razzisti

Categoria: Intelligenza artificiale Inserito 23 giugno

Le notizie: Un lettera aperta da una crescente coalizione di ricercatori di intelligenza artificiale sta chiamando l'editore scientifico Springer Nature per un documento di conferenza che avrebbe pianificato di includere nel suo prossimo libro Transazioni su scienza computazionale e intelligenza computazionale . Il documento, intitolato A Deep Neural Network Model to Predict Criminality Using Image Processing, presenta un sistema di riconoscimento facciale presumibilmente in grado di prevedere se qualcuno è un criminale, secondo il comunicato stampa originale . È stato sviluppato dai ricercatori dell'Università di Harrisburg e doveva essere presentato in una prossima conferenza.

Le richieste: Citando il lavoro del leader Black AI studiosi , la lettera smentisce le basi scientifiche dell'articolo e afferma che le tecnologie di previsione del crimine sono razziste. Elenca anche tre richieste: 1) affinché Springer Nature annulli la sua offerta di pubblicare lo studio; 2) di rilasciare una dichiarazione che condanni l'uso di tecniche statistiche come l'apprendimento automatico per prevedere la criminalità e ne riconosca il ruolo nell'incentivare tale ricerca; e 3) che tutti gli editori scientifici si impegnino a non pubblicare articoli simili in futuro. La lettera, che è stata inviata lunedì a Springer Nature, è stata originariamente scritta da cinque ricercatori del MIT, del Rensselaer Polytechnic Institute, della McGill University e dell'AI Now Institute. In pochi giorni, ha ottenuto più di 600 firme e un numero crescente di firme nell'etica dell'IA e nelle comunità accademiche, comprese figure di spicco come Meredith Whittaker, cofondatrice dell'AI Now Institute, ed Ethan Zuckerman, ex direttore del Center for Civic Media presso il Laboratorio multimediale del MIT.

Perchè importa: Sebbene la lettera evidenzi un documento specifico, l'obiettivo degli autori è dimostrare un problema sistematico con il modo in cui l'editoria scientifica incentiva i ricercatori a perpetuare norme non etiche. Questo è il motivo per cui continuiamo a vedere emergere la scienza della razza più e più volte, ha affermato Chelsea Barabas, una studentessa di dottorato al MIT e uno dei coautori della lettera. È perché gli editori lo pubblicano. Il vero significato di questo pezzo di Springer è che non è affatto unico, ha fatto eco Theodora Dryer, ricercatrice post-dottorato presso AI Now e un altro coautore. È l'emblema di un problema e di una critica che va avanti da così tanto tempo.

La risposta di Springer: In risposta alla lettera, Springer ha detto che non avrebbe pubblicato il giornale. Il documento a cui ti riferisci è stato presentato a una prossima conferenza per la quale Springer aveva pianificato di pubblicare gli atti, ha affermato. Dopo un accurato processo di revisione tra pari, il documento è stato respinto. anche l'Università di Harrisburg ha ritirato il suo comunicato stampa , affermando che la facoltà sta aggiornando il documento per affrontare le preoccupazioni sollevate. La Harrisburg University e un coautore del documento hanno negato una richiesta di commento, nonché una richiesta di copia del documento originale. I firmatari della lettera hanno affermato che continueranno a spingere per l'adempimento della loro seconda e terza richiesta.

L'immagine più grande: Da quando la morte di George Floyd ha innescato un movimento internazionale per la giustizia razziale, il campo dell'IA e l'industria tecnologica in generale hanno dovuto affrontare una resa dei conti sul ruolo che hanno svolto nel rafforzare il razzismo strutturale. Durante la settimana dell'8 giugno, ad esempio, IBM, Microsoft e Amazon hanno tutti annunciato la sospensione o la sospensione parziale dei loro prodotti di riconoscimento facciale. La mossa è stata il culmine di due anni di difesa da ricercatori e attivisti per dimostrare un legame tra queste tecnologie e l'eccesso di polizia delle comunità minoritarie. La lettera aperta è l'ultimo sviluppo di questo movimento verso una maggiore responsabilità etica nell'IA.

Volevamo davvero contribuire a questo movimento in crescita, ha affermato Sonja Solomun, direttrice della ricerca del Center for Media, Technology, and Democracy della McGill University. Soprattutto quando guardiamo fuori dalle nostre finestre e vediamo cosa sta succedendo in questo momento negli Stati Uniti e nel mondo, la posta in gioco è davvero alta.

Aggiornare: Dopo la pubblicazione, Springer Nature ha rilasciato una dichiarazione in cui chiariva che 'in nessun momento [il documento] è stato accettato per la pubblicazione ... La decisione dell'editore della serie di rifiutare il documento finale è stata presa martedì 16 giugno ed è stata ufficialmente comunicata agli autori lunedì 22 Giugno.'