Podcast: Nell'IA di chi guarda

Le idee su ciò che costituisce la bellezza sono complesse, soggettive e non sono affatto limitate alle apparenze fisiche. Per quanto inafferrabile sia, tutti ne vogliono di più. Ciò significa grandi affari e, sempre più, persone che sfruttano gli algoritmi per creare il loro sé ideale nel mondo digitale e, a volte, fisico. In questo episodio, esploriamo la popolarità dei filtri di bellezza e ci sediamo con qualcuno che è convinto che il suo software ti mostrerà come stroncare e rimboccare la strada verso una vita migliore.

Ci incontriamo:

• Shafee Hassan, fondatore di Qoves Studio
• Lauren Rhue, Assistant Professor di Sistemi Informativi presso la Robert H. Smith School of Business

Crediti

Questo episodio è stato segnalato da Tate Ryan-Mosley e prodotto da Jennifer Strong, Emma Cillekens, Karen Hao e Anthony Green. Siamo a cura di Michael Reilly e Bobbie Johnson.

Trascrizione

[ID TR]

[Montaggio di canzoni sulla bellezza]

Forte: La bellezza è sempre stata una delle più grandi ossessioni della società. E da quando l'abbiamo adorato... abbiamo anche trovato il modo di cambiarlo e migliorarlo. Dal trucco e i vestiti... alle foto con l'aerografia... o un morso chirurgico. E adesso? AI.

[Montaggio della copertura giornalistica sui filtri di bellezza]

[Suono da un keynote di Apple con l'aumento delle foto in cui le donne sono fatte per sorridere di più. Il pubblico applaude]

Forte: Potresti non rendertene conto... ma questa tecnologia è a portata di mano. Nei filtri di bellezza sul tuo telefono e sui social media. La tecnologia è diventata così brava a rilevare dove si trovano gli occhi, il naso e la mascella che è più facile che mai regolare queste caratteristiche. Con un semplice passaggio, puoi modificare l'arcata del sopracciglio o regolare la curva delle tue labbra e costruire la tua 'immagine ideale'.

È possibile che entro il prossimo anno ci saranno 45 miliardi di fotocamere nel mondo... insieme a sempre più modi di utilizzare l'IA per analizzare, taggare, modificare e dare priorità a quelle immagini. Aziende come Microsoft, NVIDIA e Face++... hanno tutti prodotti pubblicamente rilasciati pensati per valutare la bellezza in qualche modo. Esistono persino sistemi basati sull'intelligenza artificiale che promettono di guardare le immagini del tuo viso per dirti quanto sei bella (o non lo sei) e cosa puoi fare al riguardo.

Hassan: Quindi ti stiamo mostrando cosa sta cercando l'algoritmo. E se vuoi cambiarlo, puoi, sai, usare questi, questi interventi chirurgici.

Forte: Ma può chiunque, o chiunque cosa , essere veramente obiettivo sulla bellezza?

Rhue: Diciamo solo che non ho mai visto un'IA di bellezza culturalmente sensibile.

Forte: E questa nuova ondata di miglioramento della bellezza lascerà la nostra prossima generazione con più insicurezze che mai?

Veronica: C'è un modo in cui i filtri sono un po' dannosi per la salute mentale delle persone e possono essere davvero paralizzanti per alcune persone perché si confrontano con quello.

Forte: Sono Jennifer Strong e in questo episodio esaminiamo il ruolo delle macchine nel plasmare i nostri standard di bellezza e come questi standard ci modellano.

[MOSTRA ID]

Veronica: Quando userò un filtro facciale è perché ci sono alcune cose che voglio avere un aspetto diverso. Quindi, se non mi trucco o se penso di non apparire necessariamente al meglio, il filtro di bellezza cambia alcune cose del tuo aspetto.

Veronica: Ciao, sono Veronica. Ho 19 anni e vengo dal Minnesota.

Sofia: Sono Sophia, ho 15 anni. E anche io vengo dal Minnesota.

Forte: Sono sorelle... e utenti accaniti dei social media. Usano filtri di bellezza per migliorare l'aspetto delle foto. Stanno mostrando al mio produttore Tate Ryan-Mosley alcuni dei loro preferiti.

Sofia: Sembro così? No. Neanche un po'.

Tate: Descrivi cosa ti fa sembrare diverso in quella foto?

Sofia: Ha queste ciglia enormi che rendono i miei occhi belli. Le mie labbra triplicano le dimensioni e il mio naso più piccolo.

Veronica: Il mio filtro ideale. Si chiama filtro Naomi su Snapchat. Pulisce la tua pelle e poi rende i tuoi occhi enormi.

Tate: Quando hai iniziato a usarli? Ti ricordi?

Veronica: Quinto grado? Non so. All'inizio era più divertente. Come se fosse una specie di scherzo, come se le persone non stessero cercando di avere un bell'aspetto quando usano i filtri

Sofia: Lo ero sicuramente. Come le ragazze di 12 anni, come avere accesso a qualcosa che ti fa sembrare come se avessi 12 anni. Come se fosse la cosa più bella di sempre.

Forte: I filtri sono esplosivamente popolari. Alcuni sono divertenti... come quello che ti mette le orecchie da cucciolo e un naso finto in faccia. Altri sono marchiati, georeferenziati e ce ne sono anche di artistici. Ma senza dubbio il tipo più comune sono i filtri di bellezza, che cambiano l'aspetto di qualcuno in una foto nel tentativo di renderli più attraenti, spesso rimodellando e ricolorando i loro lineamenti.

E i più grandi fan sono le ragazze.

Da anni ormai... queste sorelle usano i filtri quasi tutti i giorni... Ma non sono ancora sicure di come si sentono riguardo a loro.

Veronica: Con i social in generale. È impossibile non paragonarsi alle persone. Ma penso che quando le persone usano filtri del genere e non lo rivelano. Sento che ciò può far sì che le persone diventino più insicure o più colpite da ciò rispetto a una semplice foto, perché apprezzi meno, tipo, la loro bellezza naturale rispetto alla bellezza che era tipo formulata per renderle sembra perfetto.

Sofia: Non è normale. Non è un corpo normale. // Ci sentiamo così carini con loro. Ed è come, perché...

Veronica: C'è una sorta di convalida quando soddisfi quello standard? Anche se è solo per come una foto...

[Suono dal discorso TEDx: Epidemic of Beauty Sickness]

Engeln: Circa 15 anni fa, ero un giovane studente laureato entusiasta. E ho passato molto tempo a insegnare.

Forte: Questa è Renee Engeln, professoressa di psicologia alla Northwestern University, che tiene un discorso TEDx.

Engeln: E più ascoltavo le mie studentesse, più percepivo qualcosa di preoccupante. Queste giovani donne brillanti e talentuose trascorrevano una quantità allarmante di tempo pensando di parlare del tentativo di modificare il loro aspetto fisico.

Ora le nostre percezioni della bellezza sono complicate. Hanno profonde radici evolutive. Da una prospettiva scientifica, la bellezza non è solo desiderabile, ma anche rara.

Forte: Ha continuato a studiare questo problema, intervistando le donne su come sono state colpite dal vedere costantemente immagini di standard di bellezza non realistici... e ciò che ha scoperto era... inaspettato.

Engeln: Le donne sanno che le donne che vedono in queste immagini non sono rappresentative della popolazione femminile generale. Sono molto consapevoli che nel mondo reale, nessuno, nessuno in realtà assomiglia a questo... Non sembra importare. Conoscere meglio non basta. La stessa donna che ha detto questo, ad esempio, questo tipo di corpo è magro irrealistico e le sue costole si stanno mostrando e tu sei tipo, sì, proprio avanti. Lo ha seguito con, mi sento come se volessi essere così.

Forte: Engeln ha tenuto il suo discorso nel 2013... ben prima che i filtri di bellezza dell'IA. E in questi giorni non vediamo solo modelli con Photoshop sulle riviste ... ma foto di noi stessi e dei nostri amici che sono state ritoccate da algoritmi.

E... sta alimentando un settore completamente nuovo...

Hassan: Ci siamo resi conto che c'è una richiesta per imparare a modificare correttamente i volti. E da ciò ci siamo resi conto che c'è anche una richiesta nel valutare i volti per capire cosa rende un viso attraente o per capire meglio quali cambiamenti renderanno un viso migliore, essenzialmente.

Forte: Shafee Hassan è il fondatore di Qoves Studio. È solo una delle numerose nuove aziende che utilizzano le reti neurali per riconoscere cose nei volti delle persone che potrebbero essere ritenute poco attraenti. È un ingegnere strutturale di formazione... che, secondo lui, informa il suo lavoro.

Hassan: E questi difetti si manifestano più e più volte. E sono molto comuni in alcune etnie e meno comuni in altre e un computer può rilevarlo in modo molto accurato perché i valori dei pixel, i valori del colore sono molto simili indipendentemente da dove lo stai guardando o da quale sezione del viso proviene .

Forte: I ricercatori ritengono che i giganti dei social media come Facebook, Instagram e Tik Tok utilizzino tutti algoritmi che misurano l'attrattiva di un volto.

Hassan: ...determinare o predeterminare se un contenuto avrà successo o meno, quindi spingere ulteriormente quel contenuto a una popolazione più ampia di utenti.

Forte: Ad oggi nessuno lo ha confermato. Quello che sappiamo (dalla segnalazione di The Intercept) è che TikTok ha chiesto ai suoi moderatori di contenuti di sopprimere i video con persone che ritenevano poco attraenti, povere o con disabilità. Un portavoce di TikTok ha affermato che quelle regole sono state un primo e schietto tentativo di prevenire il bullismo e non sono più in vigore.

Ed è qui che entrano in gioco aziende come quella di Hassan. Dal suo punto di vista, discutere se sia giusto o sbagliato promuovere e sopprimere le immagini delle persone in base al loro aspetto?... non ha senso. Dice che questo sistema è la realtà e le caratteristiche del viso hanno un impatto sullo stato sociale, sulle prospettive professionali e sul reddito. Ma pensa che la sua azienda possa rendere questo processo più trasparente.

Hassan: Quindi ti stiamo mostrando cosa sta cercando l'algoritmo. E se vuoi cambiarlo, puoi, sai, usare questi, questi interventi chirurgici. Ed è anche qualcosa che forniamo. Forniamo modi, soluzioni e non deve nemmeno essere cosmetico. Il sonno può migliorare il contorno occhi, cosa che un algoritmo di bellezza può penalizzarti di circa 0,5 punti.

Forte: Uh Huh. Hai sentito bene. Interventi chirurgici per aiutare le persone a incarnare ciò che pensano che le macchine stiano cercando. Il suo canale YouTube si concentra proprio su questo, con video che ottengono più di un milione di visualizzazioni. Come questo:

[Suono dal video di YouTube con Hassan]

Hassan: Benvenuti al primo episodio di definizione della bellezza... In cui cerco di esplorare ciò che rende attraente un viso nel modo più obiettivo possibile.

Forte: E offrono rapporti dettagliati su questi difetti percepiti.

Hassan: Idealmente, gli occhi umani dovrebbero essere distanziati di un occhio... ecco un articolo scritto su un esperimento del 2008 sulla distanza interpupillare tra gli occhi e su come influenzano l'attrattiva.

Forte: Vede la chirurgia come una parte più importante del nostro futuro, soprattutto quando cresce l'importanza della nostra immagine online.

Hassan: Il punto è che vogliamo chiarire come le persone vedono la chirurgia come uno strumento più positivo di mobilità sociale, perché il tuo aspetto influenza il modo in cui vieni trattato, la quantità di denaro che guadagni, come il tuo stato socioeconomico può aumentare o diminuire. Se hai una mascella deforme, non ti dirò che sei bella, solo così come sei. E penso che dovresti correggere questo perché la ricerca ha dimostrato che una deformità dell'angolo cervicale della mascella di circa 130 gradi o superiore è valutata molto rigorosamente come molto poco attraente come la maggior parte dei valutatori laici. Quindi, così come l'idea di questo modo di bellezza politicamente corretto, la bellezza è qualcosa che in un certo senso voglio accettare, anche se è controverso. Sento che molte persone sono d'accordo con quello che sto dicendo. Ed è ovviamente per questo che ho una piattaforma.

Forte: Ho chiesto ad Hassan se ha ricevuto molte critiche per questo lavoro.

Hassan: Stranamente, le critiche più aspre che ho ricevuto sono state dai miei amici e dalla mia famiglia quando ho iniziato e mai critiche da nessuna parte nella grande Internet, uh, le persone erano molto curiose riguardo alla tecnologia. Solleva alcune preoccupazioni sulla privacy, ma ovviamente facciamo del nostro meglio per mantenere tutto il più sicuro possibile. Solleva alcune preoccupazioni su, um, suppongo, un senso generale di controllo, sai, dire alla gente che questo è sbagliato con la tua faccia, bla, bla, bla

Forte: Ma algoritmi di bellezza avere essere oggetto di dure critiche per aver perpetuato il razzismo e l'età. Ad esempio, nel 2016, Microsoft e NVIDIA hanno ospitato un concorso di bellezza con un giudice AI. E su 6mila iscritti, quasi tutti i 44 vincitori erano bianchi.

Hassan: Bene, uno dei grandi problemi con gli algoritmi di bellezza è che in genere sono di tendenza con i volti caucasici. E così penalizzano, uh, i volti con lineamenti non eurocentrici molto duramente perché non sono addestrati con quel tipo di caratteristica. Ora, una delle cose, quando stavamo sviluppando il nostro algoritmo, è stato addestrarlo con quante più facce possibili. Ho sempre creduto che le persone attraenti siano una razza a parte. E quindi le loro caratteristiche attraenti trascendono un po' l'eurocentrico o il caucasico o l'afrocentrico o qualunque centro tu voglia guardare. Mascelle affilate, zigomi affilati, grasso facciale magro, come se non fosse una cosa eurocentrica. Questa è solo una questione di biologia.

Forte: E Hassan prende la sua 'ispirazione' dal film profondamente distopico degli anni '90 Gatta .

[Suoni dal trailer cinematografico di Gattaca]

Hassan: Così Gatta ha un grande impatto perché molte persone non nascono geneticamente dotate. E questo risale all'idea che le celebrità al vertice, le persone attraenti e di bell'aspetto al vertice siano lì solo perché sono geneticamente dotate. Non credo del tutto che sia così che sono arrivati ​​​​lì. Penso che molto abbia a che fare con un po' di aiuto dalla chirurgia, un po' di aiuto dalla dieta, un po' di aiuto da istruttori di livello mondiale. Sono cose di cui non parleranno mai, ma fa parte dell'illusione di essere irraggiungibili e di essere esaltati dall'uomo comune. Così Gatta è l'epitome migliore, la migliore rappresentazione fondamentalmente di ciò di cui tratta la nostra azienda.

Forte: Mentre raccontavo questa storia... il mio produttore Tate ha deciso di provare il suo strumento di valutazione facciale. E guardare cosa succede dopo mi mette estremamente a disagio.

Ho avuto questa esperienza in una fiera alcuni anni fa... e anche se sapevo che era un espediente... mi ha comunque piantato delle paure nella testa. E ora su questo schermo zoom? Va oltre le tattiche spaventose e la crema per il viso troppo costosa... questo strumento consiglia aghi e coltelli...

Hassan: Quindi, siamo sul sito Web e finora tutto bene, scorriamo verso il basso. Quindi questa è la tua, ehm, immagine. Possiamo caricarlo. Non sono un robot... Ecco. Qui. Giusto Uh, e questi sono i difetti che il computer rileva.

Hassan: Pliche naso-labiali approfondite. Queste sono queste linee qui, ed è perché stai sorridendo... Sotto la depressione del contorno occhi, che è sicuramente qui... la regione sprofonda all'istante. E poi risale mentre viene verso gli zigomi. Quindi generalmente per i volti attraenti, il contorno è in linea. È a filo con gli occhi, così leggere, leggere occhiaie. palpebra inferiore gonfia, che sono d'accordo Questa palpebra è decisamente molto gonfia per qualsiasi motivo, ma questa non lo è. Quindi è quello che ha raccolto invece di 0,5 o 0,58, che è abbastanza forte. un cuscinetto di grasso nasale Jugal, uh, questo è questo cuscinetto qui, è molto minore. E quindi a questo 0,3, che è, penso accurato, non è qualcosa di cui mi preoccupo molto perché il computer pensa che tu abbia una piega epicantica che è un monolide asiatico come lo chiamano ... e probabilmente è perché il grasso della palpebra superiore si copre gran parte della palpebra superiore. Quindi sostanzialmente lo vede come l'intera cosa, essendo una palpebra.

Forte: Premiamo il pulsante di pausa qui per un po' di contesto... per quanto strano sia per me descrivere il mio amico e collega in questo modo... non puoi vedere Tate. Quindi, con il suo permesso... eccoci qua: è alta, bionda, ha questi grandi occhi azzurri, zigomi forti e un sorriso gigantesco... anche lei è giovane, come in due dita più giovane di me... e per quanto riguarda quella genetica? È la figlia di un atleta professionista.

Ma stiamo ascoltando consigli su cosa può fare per riparare i suoi presunti difetti... inclusi diversi tipi di chirurgia plastica... e non posso fare a meno di pensare a quanto duramente questo strumento possa giudicare il resto di noi... specialmente qualcuno che non è giovane e bianco.

Forte: Faremo una breve pausa, ma prima... I nostri amici del Financial Times hanno rilanciato il loro podcast, Tech Tonic. Scopri come un dispositivo come il tuo fitbit potrebbe essere il primo a sapere che hai il covid... o cosa significano le leggi antitrust per uno specialista del pesce affumicato... l'editore dell'innovazione John Thornhill ci porta nei pronto soccorso, nelle navi da crociera e nelle aule esplora come la tecnologia ha rimodellato il nostro mondo... e cosa significa per noi.

Tutti e cinque gli episodi sono ora disponibili ovunque trovi i tuoi podcast... basta cercare tech tonic.

Torneremo... subito dopo.

[MIDROLL]

Forte: Cosa significa prendere standard di bellezza già imperfetti... in gran parte impostici da noi stessi... e invece? Passa questo pasticcio ad algoritmi che sono ancora più imperfetti, disseminati di pregiudizi e che rafforzano ulteriormente le caratteristiche eurocentriche come il definizione di cosa è bello...

Che si tratti di un filtro di Instagram che rende gli occhi più grandi... la pelle più liscia e le mascelle più nitide... Oppure un software che fa notare come le tue caratteristiche non abbiano il marchio standardizzato...

...e così abbiamo chiamato un ricercatore che indaga sull'impatto della tecnologia sulle scelte che facciamo.

Rue: E stavo guardando gli strumenti di riconoscimento facciale che erano là fuori per cercare di capire meglio le immagini. Ed è allora che mi sono reso conto che c'erano algoritmi di punteggio per la bellezza.

Forte: Lauren Rhue è professoressa presso la University of Maryland School of Business.

Rue: E ho pensato che sembrava impossibile. La bellezza è completamente negli occhi di chi guarda. Ci sono tutti questi diversi standard culturali che hanno a che fare con la bellezza. Come puoi addestrare un algoritmo per determinare se qualcuno è bello o meno?

Forte: Questo tipo di punteggio è diverso da quello che fa Hassan... ma entrambi applicano la stessa tecnologia.

Rue: Bene, carichi una foto e loro, con un punteggio da zero a 100, ti diranno quanto è bella questa persona. In realtà, il giornale che sto scrivendo, sta guardando Face Plus Plus, e lo dividono in una partitura maschile e una femminile. Quindi le donne pensano che questa persona sia bella, 85 su cento, mentre gli uomini pensano che forse abbia 90 su cento.

Forte: Per lo più non è chiaro quali aziende utilizzino algoritmi di punteggio di bellezza... ma per coloro che lo desiderano, sono facilmente in vendita. Ad esempio, uno dei più grandi attori in questo - Face Plus Plus, di proprietà dell'unicorno tecnologico cinese, Megvii - La loro funzione di punteggio di bellezza è disponibile come parte del loro sistema di riconoscimento facciale. Instagram e Facebook hanno negato l'utilizzo di tali algoritmi. TikTok e Snapchat hanno rifiutato di commentare... ma Rhue dice che solo gli stessi algoritmi di raccomandazione spesso finiscono per valutare l'attrattiva... indipendentemente dal fatto che siano destinati a farlo.

Rue: Bene, se guardi ciò che Instagram vuole, saranno essenzialmente dei modelli, giusto? Non vedrai molti tipi diversi di caratteristiche ed espressioni facciali. E questo perpetuerà questa idea di bellezza perché, um, a causa della mancanza di diversità in ciò che vedi su Instagram e in ciò che è estremamente popolare su Instagram

Forte: In altre parole, le foto giudicate più belle dagli utenti ottengono il maggior numero di Mi piace... ed è ciò che viene consigliato agli altri...

Rue: Stiamo restringendo il tipo di immagini disponibili per tutti.

Forte: Quando lo combini con le persone che applicano in modo pervasivo quei filtri di bellezza alle loro foto... ha portato a qualcosa chiamato il volto di Instagram... che è un'estetica particolare che ha la priorità e viene premiata sui social media. E ha creato un nuovo look idealizzato che domina la piattaforma.

Rue: Capisco che sia più un valore di intrattenimento sul motivo per cui abbiamo filtri di bellezza, ma la nostra scelta di filtri di bellezza è sicuramente influenzata dalla cultura, giusto? Informato da quali sono gli standard di bellezza. E molte volte ci sono standard di bellezza eurocentrici, e puoi vederlo con alcuni dei problemi di riconoscimento facciale che hanno continuato a sorgere. Quindi il fatto che con lo zoom le persone con la pelle molto scura possano, letteralmente, perdere la loro pelle. Per i volti asiatici che i loro occhi non erano originariamente visti dalle telecamere. Destra? E quindi al fatto che molti filtri di bellezza sono lì per far sembrare i tuoi occhi più grandi. E in parte è che questo è ciò che la gente vuole. Ed è qui che penso che entrino in gioco la gallina e l'uovo. È, come intendi espandere questa idea di bellezza lontano dai soli standard eurocentrici di bellezza se vediamo questi filtri di bellezza che perpetuano alcune caratteristiche come più attraenti di altre .

Forte: I social media sono noti per essere esclusivi, così come l'industria della bellezza. Ma lo è anche l'IA.

Rue: Ovviamente mi sono interessato a vedere se si potevano vedere questi pregiudizi culturali negli algoritmi. E ovviamente puoi. Diciamo solo che non ho mai visto un'IA di bellezza culturalmente sensibile.

Forte: La ricerca di Rhue ha scoperto che le donne con pelle e capelli più chiari sono state costantemente valutate come più attraenti delle donne con pelle e capelli più scuri. Ed è probabile che anche i filtri, che utilizzano il rilevamento facciale, abbiano dei pregiudizi razziali incorporati. E le conseguenze vanno ben oltre il mondo digitale.

Rue: Penso che dovremmo stare molto attenti quando pensiamo alla scelta nello spazio digitale. Voglio dire, ci sono stati studi approfonditi che hanno mostrato che l'ordine in cui si consiglia qualcosa a qualcuno cambia le sue effettive preferenze. Quindi, poiché abbiamo tutti questi algoritmi di raccomandazione e questi strumenti di supporto alle decisioni che ci stanno aiutando a capire cosa comprare o come posizionarci sui social media, sta cambiando ciò che pensiamo di volere.

Forte: E crede che le applicazioni dell'IA nella bellezza siano in gran parte trascurate dalla comunità tecnologica.

Rue: Non è qualcosa di cui stiamo davvero parlando. E penso che questo parli dell'importanza della diversità in questo spazio. Molte persone dicono, Oh, beh, la bellezza non è importante perché siamo persone tecnologiche e siamo obiettivi. Ma ovviamente, voglio dire, la bellezza è questa enorme industria... ha un tale impatto sulle persone. E l'idea che non ci sia più ricerca è davvero interessante per me.

Forte: Prossimo episodio... guardiamo al futuro dei pagamenti digitali.

Omar Farooq: Crediamo che ci sia un percorso da seguire in cui il denaro può essere esso stesso più intelligente. Quindi puoi effettivamente programmare la moneta e può controllare a chi va. Quindi, questo non è realmente possibile nei sistemi centralizzati di oggi. Ciò può essere fatto solo in un sistema decentralizzato abilitato al denaro intelligente.

Forte: Questo episodio è stato segnalato da Tate Ryan-Mosley e prodotto da me, Emma Cillekens, Karen Hao e Anthony Green. Siamo a cura di Michael Reilly e Bobbie Johnson.

Grazie per l'ascolto, sono Jennifer Strong.

[ID TR]

nascondere