IBM afferma che non sta più lavorando sul riconoscimento facciale perché viene utilizzato per la profilazione razziale

Categoria: Intelligenza artificiale Inserito giugno 09

Le notizie: IBM ha affermato che la società smetterà di sviluppare o vendere software di riconoscimento facciale a causa delle preoccupazioni che la tecnologia viene utilizzata per promuovere il razzismo. In un lettera al Congresso , Arvind Krishna, CEO di IBM, ha affermato che il gigante della tecnologia si oppone a qualsiasi tecnologia utilizzata per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà fondamentali.

Ha chiesto un dialogo nazionale su se e come sia appropriato che la tecnologia di riconoscimento facciale venga utilizzata dalle forze dell'ordine nazionali. La lettera chiedeva anche nuove regole federali per reprimere la cattiva condotta della polizia e maggiore formazione e istruzione per le competenze richieste per migliorare le opportunità economiche per le persone di colore.

Non è una nuova preoccupazione: Attivisti ed esperti hanno sottolineato per anni che i sistemi di riconoscimento facciale sono prevenuti e segnalano preoccupazioni al riguardo potenziale di abuso . Le loro preoccupazioni sono legittime: a studio di riferimento dal National Institute of Standards and Technology degli Stati Uniti lo scorso anno ha confermato che la maggior parte degli algoritmi di riconoscimento facciale ha ottenuto risultati peggiori sui volti non bianchi.

Come è stato ricevuto: IBM è la prima grande azienda tecnologica a ritirarsi completamente dallo sviluppo della tecnologia. Anche se la notizia è stata ampiamente accolta positivamente da parte di operatori tecnologici, e in particolare di attivisti preoccupati per l'uso del riconoscimento facciale, critici hanno sottolineato che non è certo un grande sacrificio per IBM abbandonare un mercato in cui aveva a malapena un punto d'appoggio all'inizio.

Nonostante ciò, è ancora una grande azienda tecnologica che assume una posizione morale insolitamente forte su uno degli argomenti più controversi della giornata. È particolarmente opportuno date le proteste in corso per la violenza della polizia e il razzismo negli Stati Uniti e in tutto il mondo. Ma non è chiaro se rimarrà un cambiamento una tantum di IBM o una mossa che aiuta a spingere altre società tecnologiche all'azione.