Podcast: Attenzione, acquirenti: vieni monitorato

In alcuni negozi, sistemi sofisticati stanno monitorando i clienti in quasi tutti i modi immaginabili, dal riconoscere i loro volti alla misurazione della loro età, del loro umore e virtualmente truccarli con il trucco. I sistemi raramente richiedono il permesso delle persone e per la maggior parte non è necessario. Nel finale della nostra prima stagione, esaminiamo l'esplosione dell'IA e delle tecnologie di riconoscimento facciale negli spazi commerciali e cosa significa per il futuro dello shopping.

Ci incontriamo:

• RetailNext CTO Arun Nair
• Guive Balooch, vicepresidente globale dell'incubatore tecnologico di L'Oreal
• Parham Arabi, amministratore delegato di Modiface
• Pioniere della biometria e presidente di ID4Africa Joseph Atick

Crediti

Questo episodio è stato segnalato e prodotto da Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens e Karen Hao. Siamo a cura di Michael Reilly e Gideon Lichfield.

Trascrizione

[ID TR]

Forte: I rivenditori utilizzano da anni le tecnologie di riconoscimento facciale e tracciamento dell'intelligenza artificiale.

[ Audio da Face First: E se potessi fermare il crimine al dettaglio prima che accada sapendo nel momento in cui un taccheggiatore entra nel tuo negozio? E se tu potessi sapere della presenza di criminali violenti prima che agiscano? Con Face First puoi fermare il crimine prima che inizi.]

Forte: Questo è uno dei maggiori fornitori di questa tecnologia per i negozi al dettaglio. Rileva volti, voci, oggetti e afferma di poter analizzare il comportamento. Ma i sistemi di riconoscimento facciale hanno una storia ben documentata di identificazione errata di donne e persone di colore.

[ Suono dell'audizione del Congresso 2019 sul riconoscimento facciale (Ocasio-Cortez): Abbiamo una tecnologia che è stata creata e progettata da un gruppo demografico che è per lo più efficace solo su quel gruppo demografico. E stanno cercando di venderlo e imporlo all'intero Paese?]

Forte: Sono la rappresentante Alexandria Ocasio-Cortez a un'audizione del Congresso del 2019 sul riconoscimento facciale. Le tecnologie fotografiche funzionano meglio sulla pelle più chiara. E i set di dati utilizzati dalle aziende per addestrare i sistemi di analisi facciale sono in gran parte basati su volti raccolti da Internet in cui il contenuto tende a distorcere il bianco, il maschio e l'occidentale.

[ Suono dell'audizione del Congresso 2019 sul riconoscimento facciale (Ocasio-Cortez): E pensi che questo potrebbe esacerbare le già eclatanti, uh, disuguaglianze nel nostro, nel nostro sistema di giustizia penale]

[ Suono dell'audizione del Congresso 2019 sul riconoscimento facciale (Buolamwini): Ed è già.]

Forte: Joy Buolamwini è un'attivista e informatica.

[ Suono dell'audizione del Congresso 2019 sul riconoscimento facciale (Buolamwini): Quindi, c'è un caso con il signor Bah, un uomo afroamericano di 18 anni che è stato erroneamente identificato come ladro nei negozi Apple. E in effetti, è stato falsamente arrestato più volte a causa di questo tipo di identificazione errata.

Forte: Con l'aumentare della consapevolezza di questi problemi, sempre più luoghi stanno cercando di porre restrizioni al suo utilizzo, come a Portland, in Oregon, che ha recentemente approvato il divieto più radicale sull'identificazione facciale negli Stati Uniti.

[ Suono dal negozio di Portland, Oregon: si prega di guardare nella fotocamera per l'ingresso]

Forte: Il divieto entrerà in vigore a gennaio e quando lo farà quella voce e la telecamera andranno via da posti come questo negozio di alimentari dove la tecnologia apre le porte agli acquirenti a tarda notte. Ma l'uso altrove va ben oltre la lotta alla criminalità (e sta iniziando a svolgere altri ruoli di vendita al dettaglio) come ricordare i tuoi ordini passati e i dettagli di pagamento.

Mugnaio: Queste tecnologie basate sul volto, l'intelligenza artificiale, la visione artificiale ci consentono di vedere i nostri clienti nel mondo offline come amazon vede i suoi clienti nel mondo online. Ciò ci consente di creare esperienze su misura per il cliente e ci consente anche di indirizzare direttamente quel cliente in nuovi modi quando torna al ristorante.

Forte: Questo è il presidente di Cali Group, John Miller, il suo ristorante fast-food Caliburger sperimenta le tecnologie che successivamente commercializza all'intero settore. Altri rivenditori usano il riconoscimento facciale per sapere quando acquirenti VIP o celebrità sono nei loro negozi, non diversamente da questa scena del film Minority Report in cui mentre Tom Cruise passeggia in un centro commerciale, i suoi occhi vengono scansionati e le pubblicità indirizzano al suo personaggio per nome.

[ Suono da Minority Report in cui le voci si rivolgono di persona a John Anderson]

Forte: Le misurazioni del volto che alimentano queste applicazioni possono essere utilizzate anche per molte altre cose oltre all'identificazione di qualcuno. Ad esempio, alcuni centri commerciali lo utilizzano per impostare gli affitti dei negozi contando quante persone passano e utilizzando i dati del volto per misurare sesso, età e altri dati demografici. A volte le telecamere di riconoscimento facciale sono persino nascoste all'interno delle directory dei centri commerciali. E all'interno dei negozi, i rivenditori lo usano per capire meglio a cosa sono interessati gli acquirenti. È anche integrato nelle app per lo shopping e negli specchietti dei negozi che consentono alle persone di provare virtualmente qualsiasi cosa, dagli occhiali al trucco.

Sono Jennifer Strong e in questo episodio concludiamo la nostra prima stagione (e la nostra ultima miniserie sul riconoscimento facciale) con uno sguardo a come viene utilizzato per guardare, comprendere e influenzare le tue abitudini di acquisto.

[MOSTRA ID]

Forte: Quindi sono davanti a quello che era il negozio più grande del mondo. Questo è Macy's sulla 34th Street a Manhattan. L'edificio occupa un intero isolato e per certi versi è una specie di baricentro per la stagione dello shopping natalizio qui come, tra le altre cose, l'ispirazione per uno dei film di Natale più famosi di New York, Miracle on 34th Street.

Ma la società potrebbe anche avere una storia di utilizzo del riconoscimento facciale ed è stata intentata una causa in merito in Illinois che ha una legge biometrica sulla privacy che richiede alle aziende di ottenere il permesso prima di utilizzarlo sui clienti. Quella causa sostiene che Macy's è un cliente di ClearviewAI. Abbiamo avuto il fondatore di questo spettacolo Hoan Ton-That e il suo prodotto che lavora confrontando le immagini, in questo caso di acquirenti o taccheggiatori, con un database di forse miliardi di foto scattate dai social media pubblicate da persone che non hanno cambiato il loro impostazioni per rendere le foto private solo per i loro amici.

Ora, i membri del consiglio di New York City hanno appena approvato una misura biometrica che, se firmata dal sindaco, farà in modo che i rivenditori qui dicano anche agli acquirenti che viene utilizzato il riconoscimento facciale e forse cosa sta succedendo con quei dati. Ma sai che è troppo presto per dire come potrebbe essere. Voglio dire, camminare come parte di una grande folla di acquirenti oltre una targa murale che dice che il riconoscimento facciale è presente, significa essere informati, per non parlare di dare il consenso? Ma ho intenzione di entrare con il mio produttore, Anthony Green, e vedere se riusciamo a trovare applicazioni totalmente diverse di mappatura dei volti da mostrarti.

Molti di questi contatori di bellezza hanno iPad che fungono anche da specchi con la realtà aumentata. Ne abbiamo provati tre solo uno anche se abbiamo chiesto il consenso per analizzare i nostri volti. Due dei sistemi ci hanno visto benissimo attraverso le nostre maschere. L'altro non riconosceva affatto i nostri volti.

Mi sono avvicinato a uno specchio e dice che la mia illuminazione è a posto. Avvicinati finché la tua faccia non riempie un cerchio. Apparentemente ho le occhiaie, la consistenza irregolare. irritazione e arrossamento e linee degli occhi. Almeno siamo dalla parte meno? Non lo so. Woah. Ehi Anthony, dovresti vedere questo. Non ero sicuro che stesse facendo qualcosa e ora mi guardo allo specchio.

Verde: Oh.

Forte: Destra?

Verde: Oh.

Forte: Non ho davvero parole per descriverlo, ma è così divertente vedermi inventato.

Verde: Proprio un po' come glammed.

Forte: Sì. Sono come super glamour. E letteralmente tutto quello che stavo facendo era guardarmi in questo specchio e poi ho guardato dall'alto in basso su un iPad e Holy, wow.

Verde: Funziona con la maschera.

Forte: Questo è con la mia maschera. E se abbasso la maschera, sono truccato ovunque.

Verde: Eh si.

Forte: Come lucidato e tutto. Oh, guardati.

Verde: Oh.

Forte: Ok, quindi Anthony ha appena fatto un passo verso di me e ora ha recuperato tutto. Bene. Queste esperienze sono tra i tanti modi in cui la mappatura dei volti può essere applicata.

Ma poiché sono così controversi, la maggior parte dei marchi semplicemente non vuole parlarne. E soprattutto, non è necessario. Non esiste alcun obbligo nazionale che le aziende rivelino il modo in cui raccolgono o utilizzano i nostri dati biometrici, anche se possiamo immaginare un futuro non così lontano in cui quei dati diventeranno più importanti di qualsiasi documento che abbiamo. È probabile che questi dati personali sostituiscano tutti loro dimostrando chi siamo e cosa possediamo.

La maggior parte di ciò che sappiamo sull'uso del riconoscimento facciale da parte dei rivenditori è iniziata nel 2013 quando è diventato pubblico che la società di identità NEC aveva una dozzina di marchi e hotel come clienti e utilizzava la sua tecnologia di lettura facciale per identificare celebrità e altri VIP mentre varcò le loro porte.

L'anno successivo Facebook annunciò di aver applicato per la prima volta le reti neurali per affrontare l'ID, facendolo funzionare significativamente meglio. E i rivenditori, incluso Walmart, hanno iniziato a testarlo come un modo per identificare le persone sorprese a rubare.

Entro il 2016 le aziende di fast food stavano sperimentando altri casi d'uso. Una partnership, tra KFC e il gigante tecnologico cinese Baidu, ha consigliato le voci di menu ai clienti in base alla loro età e umore, come ritenuto dalla scansione facciale. In questi giorni è anche possibile pagare con la tua faccia, anche se finora queste applicazioni non hanno preso piede. E quindi, ovunque tu faccia acquisti, è ragionevole presumere che potresti incontrare alcuni aspetti di questa tecnologia e potrebbe essere combinata con un numero qualsiasi di altri tracker. Ma è altrettanto vero che gran parte del tracciamento che viene fatto nei negozi al dettaglio utilizzando la visione artificiale non comporta alcun riconoscimento facciale.

Nairo: Se realizzi un sito web oggi, ci sono molti strumenti disponibili che puoi utilizzare per fornirti dati, come quante persone hanno visitato il tuo sito web, chi erano, come hanno navigato nel tuo sito web e così via e per i siti di e-commerce il anche l'eventuale attività di acquisto. E puoi utilizzare tutti questi dati per comprendere il comportamento dei visitatori e ottimizzare il tuo sito. Facciamo la stessa identica cosa, ma per gli spazi fisici. Mi chiamo Arun Nair. Sono il CTO e co-fondatore di RetailNext.

Forte: Il loro software di tracciamento è distribuito in uffici, musei e persino piste da bowling, ma il loro mercato principale è la vendita al dettaglio. Le telecamere a soffitto dotate di visione artificiale tengono traccia dei clienti mentre attraversano il negozio. Può indovinare informazioni demografiche di base come il sesso, chi è un dipendente, in base al fatto che si trovino dietro il registro, persino le interazioni tra dipendenti e clienti.

Nairo: Abbiamo anche un algoritmo di previsione che ti dirà in base alle informazioni storiche quando il tuo negozio sarà occupato nel corso della giornata, nel corso della settimana. Ed è estremamente utile per il personale. Quindi assicurati che quando ti aspetti un picco, che ci siano persone lì per assistere gli acquirenti e che non siano in coda e così via, così come non hai sempre personale quando nessuno ha bisogno di essere lì.

Forte: Dice che l'azienda è in grado di determinare cosa stai guardando, ma non tiene traccia dello sguardo, delle espressioni o dei volti. E non identificano individualmente nessuno.

Nairo: Non sappiamo chi siano come individui e cerchiamo specificamente di non farlo altrettanto. E in molti casi, una volta ottenute queste informazioni, buttiamo via il video o sfociamo il video.

Forte: Quando si tratta di privacy, ritiene che i sistemi che utilizzano il riconoscimento facciale per l'identità dovrebbero essere accettati

Nairo: Il consenso non è solo tipo, oh, ho messo i miei dati là fuori così puoi fare quello che vuoi. Penso che il consenso riguardi anche te sai, vogliamo che lo faccia in modo da poterlo fare in cambio di te. Ti va bene?

Forte: Ma ammette che è più facile a dirsi che a farsi.

Nairo: Non è facile rinunciare a queste cose. E anche se escludi, la sfida è che, diciamo, lo dici, Ehi, voglio rinunciare alla mia faccia. Come azienda tecnologica, devo ancora archiviare una versione digitalizzata della tua faccia per assicurarmi di non rintracciarti di nuovo in futuro perché la prossima volta che vedrò la tua faccia, ho bisogno di qualcosa su cui fare una mappa per dirlo, Oh, io dovrebbe far cadere la faccia di questa persona. Ma poi di nuovo, sai, in un modo strano, ora sto archiviando una versione digitalizzata della tua faccia, che. Ancora una volta, non è proprio la tua faccia, ma ne è una rappresentazione.

Forte: E queste sfide non stanno scomparendo. La maggior parte delle tecnologie di tracciamento non è regolamentata e semplicemente non sappiamo con quale frequenza vengano acquisiti elementi come i dati dei volti. Ciò che è chiaro che il settore della vendita al dettaglio si sta spostando in un mondo incentrato sull'analisi in tempo reale delle esperienze dei clienti.

Nairo: Penso che vedranno sempre di più andare avanti, dove ci sono meno acquisti in realtà in queste località, ma è così che stai imparando a conoscere il marchio. [00:12:15] Quasi come la pubblicità, oltre a una sorta di fidelizzazione del marchio.

Forte: Tenere traccia dei clienti e della loro interazione con il negozio non solo aiuta i rivenditori a sapere cosa sta vendendo, ma fornisce loro anche informazioni su ciò che vogliono i clienti.

Nairo: Introduci un nuovo prodotto. E vuoi assicurarti che le persone vedano quel prodotto. I nostri algoritmi ti diranno se le persone entrano effettivamente in un'area del negozio e interagiscono con un prodotto e successivamente effettuano un acquisto.

Baloch: Penso che sia una combinazione di intelligenza artificiale con oggetti fisici che crea davvero un momento emozionante nel tempo. Sai, non potresti mai provare davvero una tendenza e poi dispensarla davvero. Non è mai stato possibile. Ma ora, grazie all'intelligenza artificiale, siamo in grado di seguire le tendenze molto rapidamente. Siamo in grado di curare le tendenze, siamo in grado di dare alle persone ciò che desiderano. Mi chiamo Guive Balooch e dirigo l'incubatore tecnologico globale di L'Oreal. Lavoro in azienda da 15 anni e il mio lavoro è trovare l'intersezione tra bellezza e tecnologia.

Forte: L'Oreal è la più grande azienda di cosmetici al mondo con Estee Lauder, Maybelline, Garnier e innumerevoli altri marchi di consumo sotto il suo ombrello aziendale.

Baloch: Abbiamo iniziato circa otto anni fa con un'app di realtà aumentata chiamata makeup genius. Quella è stata la prima prova virtuale al mondo. E da allora abbiamo lanciato progetti sulla bellezza personalizzata come la personalizzazione della cura della pelle, la personalizzazione del fondotinta. Abbiamo lanciato un sensore UV presso l'Apple Store che è un dispositivo indossabile senza batteria e in grado di misurare la tua esposizione ai raggi UV. E ora ci stiamo muovendo sempre più verso la personalizzazione di massa e trovando modi per combinare tecnologie come AR e AI per creare nuovi oggetti fisici che possono essere magici per i consumatori di bellezza e, si spera, deliziare i nostri utenti.

Forte: E questo è più difficile di quanto possa sembrare. Progettare esperienze che consentano ai clienti di provare il trucco in realtà aumentata presenta enormi sfide tecniche per il rilevamento dei volti.

Baloch: Devi rilevare dove si trova l'occhio e dove si trova il sopracciglio. E deve essere a un livello di precisione tale che quando il prodotto è lì, non sembra che non sia esattamente sul labbro. Ed è divertente perché vengo da un background accademico con un dottorato di ricerca. Quindi non mi rendevo conto di quanto fosse complicata quella parte specifica di questa tecnologia. Ho pensato, oh, va bene. Prenderemo solo il software. Sarà facile. Lo faremo funzionare. Ma si scopre che no, è davvero complicato perché le labbra delle persone possono variare nella forma, anche il colore tra il tono della tua pelle e il tuo labbro può essere molto diverso. E quindi è necessario disporre di un algoritmo in grado di rilevarlo e assicurarsi che funzioni su persone dalla pelle molto chiara a molto scura.

Forte: E afferma che uno dei maggiori impatti dell'IA nel mercato della bellezza potrebbe essere una maggiore inclusività, qualcosa con cui il settore ha lottato a lungo.

Baloch: Sono sotto questo, sai, la forte convinzione che l'inclusività sia il futuro della bellezza e l'inclusività significa che ogni essere umano ha il diritto di avere un prodotto che è ciò di cui ha bisogno per se stesso e di mostrare al mondo come vuole essere in mostra. E penso che solo attraverso cose come l'intelligenza artificiale e la tecnologia saremo in grado di raggiungere quel livello di relazione personale con i desideri delle persone per le loro abitudini di bellezza.

Forte: Quelle abitudini sono modellate intorno alla nostra pelle. E il tono della pelle è stata storicamente una delle sfide tecniche e culturali più difficili.

Baloch: Abbiamo lanciato questo progetto chiamato che è questo frullatore di fondazione. E quando ho iniziato questo progetto, ho pensato che sarebbe stato molto semplice perché quando sono andato a Home Depot umm non sono davvero un tuttofare, ma sono andato molto con mio padre a Home Depot e lui avrebbe comprato colore. Avrebbe abbinato la vernice e loro avrebbero semplicemente fatto la vernice lì. E ho detto, va bene, è così facile? Quindi, quando abbiamo iniziato il progetto, ci siamo resi conto, ok, sai, basta prendere un tono della pelle da un pezzo di, sai, una carta e puoi semplicemente abbinare il fondotinta. E poi ho capito che la nostra pelle non è come un muro, è un tessuto biologico che cambia a seconda del tipo di carnagione che hai.

Forte: In breve, l'algoritmo non ha funzionato.

Baloch: E così abbiamo dovuto fermarci e spendere altri sei mesi per migliorarlo. Per prima cosa l'abbiamo fatto con un piccolo dispositivo che misura il tono della tua pelle, usando un oggetto fisico, perché il tono della tua pelle è difficile da misurare se non tocchi effettivamente la pelle perché la luce può cambiare il colore della tua pelle. E quindi, a seconda che tu sia fuori o dentro, potresti avere una grande differenza nella misurazione. Ma non più. Grazie all'IA, penso sempre di più che con l'IA saremo in grado di ottenere misurazioni accurate. Dobbiamo testarli e assicurarci che funzionino bene come gli oggetti. Ma una volta che arriviamo a un punto, quando pensiamo che ci stiamo avvicinando a questo, allora puoi risolvere alcune sfide davvero, davvero grandi. E nel fondotinta, il 50% delle donne non riesce a trovare la giusta tonalità di fondotinta. E non c'è modo che il numero di prodotti sullo scaffale lo risolverà mai perché avrai sempre più tonalità della pelle nel mondo rispetto ai prodotti che puoi mettere sullo scaffale.

Forte: E il futuro potrebbe aprire una classe completamente nuova di strumenti di bellezza personalizzati.

Baloch: Possiamo realizzare oggetti che non sono enormi, portatili, e possono fare cose incredibili. Come in futuro, potresti immaginare di poter erogare automaticamente l'ombretto sulla palpebra semplicemente rilevando il viso e potendo avere un oggetto che potrebbe erogarlo.

Forte: Per costruire quel futuro, L'Oreal ha acquisito un'azienda chiamata Modiface che produce strumenti di realtà aumentata per oltre 70 dei migliori marchi di bellezza del mondo.

Arabo: Un grande passo che è successo qualche anno fa è stato il passaggio dalle foto alla simulazione video dal vivo. Un'impresa davvero difficile dal punto di vista tecnologico, ma di grande impatto sull'esperienza del consumatore. Invece di dover scattare una foto e caricarla, potrebbero vedere un video dal vivo.

Forte: Parham Aarabi è il fondatore e CEO di Modiface.

Arabo: Il prossimo grande passo di cui sono davvero entusiasta è una combinazione di comprensione del viso da parte dell'IA, insieme alla nostra simulazione. Quindi non solo dirti, ok, quindi scegli un rossetto ed è così che sembra, ma dicendo, perché hai scelto questo rossetto e perché i tuoi, sai, hai gli occhi azzurri, crediamo che questo ombretto potrebbe abbinarlo migliore.

Forte: Il suo background è nel tracciamento del viso e delle labbra.

Arabo: E così abbiamo creato questa demo di esempio in cui potresti tracciare le labbra di qualcuno e scambiare le labbra con una celebrità, ad esempio. Il mio co-fondatore ha avuto l'idea che prima di farlo, dovremmo effettivamente applicare alcune modifiche sulla pelle. E così è stata proprio la combinazione di queste due idee che è diventata la base di Modiface.

Forte: L'industria della bellezza prospera grazie all'esperienza di acquisto di persona. E anche se le vendite di e-commerce sono in aumento da tempo, questo settore è stato molto più lento di altri. Per contesto, il miglior venditore di e-commerce nella bellezza del 2018 è stato lo shampoo. Ma la pandemia sta accelerando le cose. Le vendite online del gigante della bellezza Sephora sono aumentate del 30% negli Stati Uniti quest'anno. E ha anche collaborato con Modiface per sviluppare un'app che funge da negozio virtuale, completo di tutorial sui prodotti e un banco di bellezza in realtà aumentata.

Arabo: Vedi un pulsante di prova, lo premi e si apre una finestra. Vedi il tuo video in quella finestra, ma con diversi prodotti virtuali mostrati.

Forte: E costruire la fiducia dei consumatori in questi prodotti simulati significa progettare un'esperienza fluida come guardarsi allo specchio.

Arabo: Se qualcuno effettivamente prova un rossetto e un colore di capelli e poi si riprende da solo utilizzando la nostra tecnologia e poi facendo una simulazione virtuale di quei prodotti, i due dovrebbero essere indistinguibili. Il ritardo, all'interno della simulazione applicata rispetto a quando guardi il tuo viso e vedi i movimenti, deve non essere evidente all'utente. E quindi queste sono sfide enormi. Uno è di realismo. Non vuoi che l'eyeliner sfarfallio sugli occhi di qualcuno e il secondo è farlo così velocemente che su un sito Web in un video live, non noti alcun ritardo. Quindi queste sono grandi, grandi sfide.

Forte: Ed è più di semplici cosmetici. Gli elementi del rilevamento dei volti sono sempre più utilizzati in medicina per diagnosticare le malattie. E crede che in futuro i loro prodotti rileveranno tutti i tipi di disturbi della pelle.

Arabo: Quindi abbiamo spinto su questa valutazione della pelle, um, direzione guardando l'immagine di qualcuno. E sulla base di ciò, sapendo quali prodotti per la cura della pelle sono i migliori per loro e più, più lo facciamo e più alleniamo meglio i nostri sistemi di intelligenza artificiale, scopriamo che stanno aumentando il livello di accuratezza corrispondente a quello dei dermatologi . E penso che se segui quella linea, questa IA, che in realtà non può sostituire i dermatologi, ma li ha davvero aiutati come... uno strumento oggettivo che può guardare in faccia qualcuno e dare consigli.

Forte: Sembra che ci sia più consapevolezza del riconoscimento facciale dei suoi rischi, immaturi e pregiudizi, ma anche della sua maggiore presenza nelle nostre vite e solo del potenziale grezzo. A me sembra che abbiamo appena scalfito la superficie, in questa corsa digitale disordinata verso qualcosa di diverso e di grande. E mi sono chiesto come potrebbe sentirsi uno dei suoi inventori riguardo a tutto questo?

Attacca: Ho iniziato a lavorare sul cervello umano circa un anno dopo essermi laureato e fatto insieme ai miei collaboratori alcune scoperte fondamentali, che hanno portato alla creazione di un campo chiamato industria biometrica e al primo riconoscimento facciale commercialmente valido. Ecco perché le persone si riferiscono a me come a un padre fondatore del riconoscimento facciale e dell'industria biometrica.

Forte: Quello è il dottor Joseph Atick. Ha sviluppato uno dei primi algoritmi di riconoscimento facciale nel 1994.

Attacca: L'algoritmo per il modo in cui un cervello umano riconoscerebbe i volti familiari è diventato chiaro mentre stavamo facendo ricerche matematiche presso l'Institute for advanced study di Princeton.

Forte: Ma la tecnologia necessaria per catturare quei volti non era ancora nelle tasche di tutti.

Attacca: A quel tempo, i computer non avevano macchine fotografiche. I telefoni che avevano la fotocamera non esistevano. Abbiamo dovuto costruire gli occhi per il cervello. Avevamo un cervello, pensavamo di sapere come il cervello avrebbe analizzato i segnali, ma non avevamo gli occhi che avrebbero ricevuto le informazioni e il segnale visivo al cervello.

Forte: Le webcam sono arrivate negli anni '90 e alcuni anni dopo sono arrivati ​​sul mercato computer con funzionalità video.

Attacca: E quello è stato un momento emozionante perché all'improvviso il cervello che avevamo costruito aveva finalmente il paio di occhi che sarebbero stati necessari per vedere.

Forte: Questa è stata la svolta di cui lui e il suo team avevano bisogno per dare vita al loro concetto. Così hanno iniziato a programmare.

Attacca: è stato un lungo periodo di mesi di programmazione e fallimento e programmazione e fallimento

Forte: Ma alla fine…

Attacca: E una notte, al mattino presto, in realtà, avevamo appena finalizzato, um, una versione dell'algoritmo. Abbiamo inviato il codice sorgente per la compilazione al fine di ottenere un codice di esecuzione. E siamo usciti, io sono uscito per andare in bagno. E poi quando sono rientrato nella stanza ha individuato la mia faccia, l'ha estratta dallo sfondo e si è pronunciato Vedo Joseph. E quello è stato il momento in cui i capelli sulla schiena, mi sembrava che fosse successo qualcosa. Siamo stati testimoni. E ho iniziato, um, a chiamare le altre persone che erano ancora nel laboratorio e ognuna di loro sarebbe entrata nella stanza. E direi, direi, vedo Norman. Vedrei Paolo, vedrei Giuseppe. E vorremmo fare a turno a correre per la stanza solo per vedere quanti ne riesce a individuare nella stanza.

Forte: Avevano costruito qualcosa che non era mai stato costruito prima. Mesi di matematica e programmazione e lunghe notti sembravano dare i loro frutti. Ma nel giro di pochi anni quell'eccitazione si trasformò in preoccupazione.

Attacca: La mia, la mia preoccupazione per la tecnologia che ho contribuito a creare e inventare è iniziata molto rapidamente dopo che l'avevo inventata. Ho visto un futuro in cui la nostra privacy sarebbe a rischio se non avessimo messo in atto misure di protezione per prevenire l'abuso di questa potente tecnologia.

Forte: E voleva fare qualcosa al riguardo.

Attacca: Quindi nel 1998 ho fatto pressioni sull'industria e ho detto che dobbiamo mettere insieme principi per un uso responsabile. Ed è qui che nel 1998 è nata un'organizzazione chiamata IBIA come associazione di categoria per promuovere un uso responsabile. Uhm, e quindi sono stato il fondatore di quella, quell'organizzazione. E mi sono sentito bene per un po' perché sentivo che avevamo fatto bene. Ho sentito che abbiamo inventato la tecnologia, ma poi abbiamo messo in atto un codice di uso responsabile da seguire da qualunque sia l'implementazione. Tuttavia, quel codice non ha resistito alla prova del tempo. E il motivo è che non avevamo previsto l'emergere dei social media.

Forte: Il riconoscimento facciale si basa su un database di immagini. Le dimensioni, la qualità e le condizioni di privacy di questo database sono in gran parte ciò che determina quanto sia sicura o invadente la tecnologia. Nel 1998, Atick ha costruito i suoi database scansionando manualmente migliaia di immagini e etichettandole con nomi. Era noioso e di dimensioni limitate.

Attacca: Abbiamo permesso alla bestia di uscire dalla borsa nutrendola con miliardi di facce e aiutandola etichettando noi stessi. Ora siamo in un mondo in cui l'apprendimento automatico sta consentendo l'emergere di oltre 400 diversi algoritmi di riconoscimento facciale nel mondo. Pertanto, qualsiasi speranza di controllare e richiedere a tutti di essere, di essere responsabili nell'uso del riconoscimento facciale è difficile.

Forte: E questo è aggravato dallo scraping, in cui viene creato un database scansionando l'intero Internet alla ricerca di foto pubbliche.

Attacca: E così ho iniziato a farmi prendere dal panico nel 2011, e ho scritto un articolo editoriale dicendo che era ora di premere il pulsante di panico perché il mondo si sta dirigendo in una direzione in cui il riconoscimento facciale sarà onnipresente e i volti saranno ovunque disponibili dentro, dentro, nei database. La potenza di calcolo sta diventando molto, molto massiccia al punto che potremmo potenzialmente riconoscere miliardi di persone. E all'epoca la gente diceva che ero un allarmista, ma si stanno rendendo conto che è esattamente quello che sta succedendo oggi.

Forte: Quindi, in un certo senso, sta facendo pressioni contro la sua stessa invenzione, anche se usa ancora la biometria per aiutare a costruire cose che crede potrebbero avvantaggiare il bene superiore come l'ID digitale per le persone nei paesi in via di sviluppo.

Attacca: L'effetto agghiacciante è qualcosa che è imperdonabile. Se non posso uscire in strada, perché credo che qualcuno stia usando un iPhone, potrebbe farmi una foto e collegarmi al mio profilo online e, questa connessione online e offline è una cosa pericolosa. E sta succedendo proprio ora.

Forte: E pensa che abbiamo urgente bisogno di alcune regole legali di base.

Attacca: E quindi non è più una questione tecnologica. Non possiamo contenere questa potente tecnologia attraverso la tecnologia. Ci deve essere una sorta di quadro giuridico.

Forte: Per come la vede lui, il vantaggio tecnologico continuerà ad andare avanti, con l'IA in prima linea. Ma le persone che lo costruiscono e lo usano? Sono al centro.

Attacca: Credo che ci debba essere una certa armonia tra ciò che la tecnologia può fare per noi e ci aiuta a vivere con dignità e ad avere una vita più facile e a connetterci con le persone che amiamo, ma allo stesso tempo deve rientrare nella nostra morale e nelle nostre aspettative come gli esseri umani permettono che sia.

Forte: In altre parole, ancora una volta... sembra dipendere da noi. Questo episodio è stato segnalato e prodotto da me, Anthony Green, Emma Cillekens, Tate Ryan-Mosley e Karen Hao. Siamo a cura di Michael Reilly e Gideon Lichfield. Grazie anche a Kate Kaye con il podcast Banned in PDX. Questo è tutto per la prima stagione. Grazie mille per aver scelto di trascorrere il tuo tempo con noi. Ci rivediamo qui nel nuovo anno fino ad allora buone vacanze e... Grazie per l'ascolto, sono Jennifer Strong.

[ID TR]

nascondere