Le foto online delle persone vengono utilizzate senza consenso per addestrare l'IA al riconoscimento facciale

Categoria: Intelligenza artificiale Inserito 13 marzo

Le foto dei volti delle persone vengono regolarmente prese dai siti Web per aiutare a sviluppare algoritmi di riconoscimento facciale, senza il consenso dei soggetti, un rapporto di NBC rivela.

L'ultimo esempio: A gennaio IBM ha rilasciato un set di dati di quasi un milione di foto che erano state raschiate dal sito Web di condivisione di foto Flickr, quindi annotate con informazioni su dettagli come il tono della pelle. L'azienda ha lanciato questo come parte degli sforzi per ridurre il problema (molto reale) dei pregiudizi all'interno del riconoscimento facciale. Tuttavia, non ha ottenuto il consenso di nessuno per farlo ed è quasi impossibile rimuovere le foto.

Segreto sporco: IBM è tutt'altro che sola. Mentre le aziende si affrettano a migliorare la loro tecnologia di riconoscimento facciale, hanno bisogno di accedere a un gran numero di immagini per alimentare i loro algoritmi. Il semplice scatto di immagini che sono già state caricate su Internet è un modo molto veloce, ma eticamente discutibile, per farlo.

Progressi rapidi: Il riconoscimento facciale potrebbe essere conveniente per sbloccare il telefono, ma potrebbe anche essere un potente strumento di sorveglianza. Il suo utilizzo si sta espandendo rapidamente praticamente senza alcuna supervisione, portando a crescenti richieste per la regolamentazione della tecnologia.

Una tensione: Gli algoritmi di riconoscimento facciale hanno una scarsa precisione quando si tratta di identificare volti non bianchi e i sistemi possono farlo persone misgender in base, ad esempio, alla lunghezza dei loro capelli. Un modo per combattere questo problema è aggiungere più immagini, ad esempio, di donne nere o uomini con i capelli lunghi ai dati di allenamento. Ma farlo senza ottenere il consenso delle persone prima di utilizzare le loro foto lascerà molti a sentirsi profondamente a disagio.

Iscriviti qui alla nostra newsletter quotidiana The Download per ricevere la tua dose delle ultime notizie da leggere dal mondo della tecnologia emergente.