Lo scandalo del raschiamento fotografico di IBM mostra in quale strana bolla vivono i ricercatori di intelligenza artificiale

Categoria: Intelligenza artificiale Inserito 15 marzo

Martedì, la NBC ha pubblicato una storia con un titolo avvincente: Il 'piccolo segreto sporco' del riconoscimento facciale: milioni di foto online raschiate senza consenso. io collegato ad esso nel nostro ultimo numero di Algorithm, ma vale la pena rivisitarlo oggi.

La storia mette in evidenza un recente set di dati rilasciato da IBM con 1 milione di immagini di volti, con lo scopo di aiutare a sviluppare algoritmi di riconoscimento facciale più equi. (Ho scritto anche della notizia in quel momento.) Si scopre, ha scoperto la NBC, che quei volti sono stati raschiati direttamente dal sito di hosting di foto online Flickr, senza il permesso dei soggetti o dei fotografi.

Per alcuni di voi, questa pratica sembrerà immediatamente inquietante e strana. Per altri, sembrerà perfettamente normale. Ciò che questa storia ha rivelato non era tanto un piccolo sporco segreto, ma, piuttosto, il divario culturale tra il pubblico e la comunità dell'IA.

Davvero, per gli addetti ai lavori, IBM non ha fatto nulla di straordinario. I ricercatori di intelligenza artificiale recuperano continuamente dati da vari angoli di Internet per alimentare gli algoritmi di apprendimento automatico sempre affamati che ne richiedono enormi quantità per essere addestrati. Le foto di Instagram, ad esempio, sono una fonte comune di dati sulle immagini; gli hashtag spesso corrispondono convenientemente al contenuto delle foto, rendendo estremamente facile la generazione di dati etichettati. Anche gli articoli del New York Times e del Wall Street Journal sono una fonte comune di dati per le frasi ben scritte e modificate. Ancora meglio che siano classificati per argomento: tecnologia, business, sport.

In effetti, lo scraping dei dati da fonti pubblicamente disponibili è così tanto uno standard del settore che viene insegnato come abilità fondamentale (senza etica) nella maggior parte della scienza dei dati e della formazione sull'apprendimento automatico. Nel frattempo, la maggior parte delle piattaforme tecnologiche è progettata per invitare tale scraping offrendo API con accesso diretto ai propri dati. Fino a poco tempo, questo è stato fatto senza pensarci due volte. (Ciao, Facebook.)

Tutto questo non vuol dire che lo scraping dei dati sia giusto o sbagliato. Ci sono alcuni modi totalmente benigni o legittimi in cui la pratica può essere utilizzata (vedi Abbiamo analizzato 16.625 documenti per capire dove è diretta l'IA); dipende molto dal contesto. Piuttosto, questa storia mette in evidenza la necessità per l'industria tecnologica di adattare le proprie norme culturali e pratiche standard per tenere il passo con la rapida evoluzione della tecnologia stessa, nonché la consapevolezza del pubblico di come vengono utilizzati i propri dati.

Ci sono modi per utilizzare i nostri dati oggi di cui non eravamo a conoscenza cinque, 10 anni fa, afferma Rumman Chowdhury, leader globale per l'IA responsabile presso Accenture Applied Intelligence. Come avremmo potuto [il pubblico] aver accettato una capacità che non esisteva?

In altre parole, una volta potrebbe essere stata una pratica praticabile racimolare allegramente i dati delle persone, e una volta potrebbe essere stato un consenso sufficiente per l'utilizzo di tali dati fintanto che erano disponibili pubblicamente, ma l'avvento dell'IA e la scala senza precedenti di La monopolizzazione e la monetizzazione dei dati della Silicon Valley hanno cambiato l'equazione. I tecnologi hanno la responsabilità di cambiare con esso e assicurarsi che ci sia un consenso sociale ampio e informato per le loro pratiche.

Il consiglio di Chowdhury a coloro che lottano per navigare nelle aree grigie della privacy dei dati? Pensa se il modo in cui stai utilizzando i dati è nello spirito con cui sono stati originariamente generati e condivisi. Se lo stai usando in modo completamente tangenziale, è tempo di fermarsi e riconsiderare.

Questa storia è apparsa originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.