Ho chiesto a un'IA di dirmi quanto sono bella

I computer classificano l'aspetto delle persone e i risultati influenzano le cose che facciamo, i post che vediamo e il modo in cui pensiamo.

Giovanna Wong

di

• Tate Ryan-Mosley pagina di archivio

5 marzo 2021

Mi sono imbattuto per la prima volta in Qoves Studio attraverso il suo famoso canale YouTube, che offre video raffinati come L'acconciatura fa un bel viso?, Cosa rende attraente Timothée Chalamet? , e Come l'allineamento della mascella influenza le percezioni sociali a milioni di telespettatori.

Qoves ha iniziato come studio che aerografava immagini per agenzie di modelle; ora è una consulenza di estetica facciale che promette risposte all'annosa domanda su cosa rende attraente un viso. Suo sito web , che presenta schizzi gessosi di donne dall'aspetto parigino che indossano rossetto e cappelli colorati, offre una gamma di servizi legati alla sua attività di consulenza in chirurgia plastica: consigli sui prodotti di bellezza, ad esempio, e suggerimenti su come migliorare le immagini utilizzando il computer. Ma la sua caratteristica più interessante è lo strumento di valutazione facciale: un sistema basato sull'intelligenza artificiale che promette di guardare le immagini del tuo viso per dirti quanto sei bella (o non lo sei) e poi dirti cosa puoi fare al riguardo.

La scorsa settimana ho deciso di provarlo. Seguendo le istruzioni del sito, ho lavato via il piccolo trucco che indossavo e ho trovato una parete neutra illuminata da una piccola finestra. Ho chiesto al mio ragazzo di scattare alcune foto ravvicinate del mio viso all'altezza degli occhi. Mi sono sforzato di non sorridere. Era l'opposto di glamour.

Ho caricato la foto più sopportabile e in pochi millisecondi Qoves ha restituito una pagella dei 10 difetti previsti sul mio viso. In cima alla lista c'era una probabilità di 0,7 di pieghe nasolabiali, seguita da una probabilità di 0,69 di depressione del contorno occhi e una probabilità di 0,66 di scolorimento perioculare. In altre parole, sospettava (correttamente) che avessi le borse scure sotto gli occhi e le rughe del sorriso, che si registrano entrambe come problematiche con l'IA.

I miei risultati dallo strumento di valutazione facciale di Qoves

Il rapporto ha restituito utili suggerimenti che potrei utilizzare per risolvere i miei difetti. Innanzitutto, un articolo suggerito sulle linee del sorriso mi ha informato che potrebbero aver bisogno di un intervento iniettabile o chirurgico. Se lo desiderassi, potrei passare a un rapporto più completo di raccomandazioni chirurgiche, scritto da medici, a livelli di $ 75, $ 150 e $ 250. Ha anche suggerito cinque sieri che avrei potuto provare per primi, ciascuno con un ingrediente diverso per la cura della pelle: retinolo, neuropeptidi, acido ialuronico, EGF e TNS. Avevo sentito parlare solo di retinolo. Prima di andare a letto quella sera ho esaminato gli ingredienti della mia crema idratante per il viso per vedere cosa conteneva.

Ero incuriosito. Lo strumento aveva suddiviso il mio aspetto in un elenco di problemi di dimensioni ridotte: un laser addestrato su ciò che pensava fosse sbagliato nel mio aspetto.

Qoves, tuttavia, è solo una piccola startup con 20 dipendenti in un oceano di società e servizi di analisi facciale. Esiste un settore in crescita di strumenti di analisi facciale guidati dall'intelligenza artificiale, ognuno dei quali afferma di analizzare un'immagine per caratteristiche come emozioni, età o attrattiva. Le aziende che lavorano su tali tecnologie sono un tesoro di capitale di rischio e tali algoritmi sono utilizzati in tutto, dalle vendite di cosmetici online alle app di appuntamenti. Questi strumenti di valutazione della bellezza, prontamente disponibili per l'acquisto online, utilizzano l'analisi del viso e la visione artificiale per valutare cose come la simmetria, la dimensione degli occhi e la forma del naso per ordinare e classificare milioni di contenuti visivi e far emergere le persone più attraenti.

Questi algoritmi esercitano una sorta di sguardo automatico su fotografie e video, sputando valori numerici simili ai rating di credito, in cui i punteggi più alti possono sbloccare le migliori opportunità online per Mi piace, visualizzazioni e partite. Se quella prospettiva non è abbastanza preoccupante, la tecnologia aggrava anche altri problemi, affermano gli esperti. La maggior parte degli algoritmi di punteggio di bellezza sono disseminati di imprecisioni, età e razzismo e la natura proprietaria di molti di questi sistemi significa che è impossibile ottenere informazioni dettagliate su come funzionano davvero, quanto vengono utilizzati o come influenzano gli utenti.

Qoves ha consigliato alcune azioni per correggere i miei 'difetti previsti'

Specchio, specchio a parete…

Test come quelli disponibili da Qoves sono ovunque su Internet. Uno è gestito dalla più grande piattaforma di riconoscimento facciale aperta al mondo, Faccia++ . Il suo sistema di punteggio di bellezza è stato sviluppato dalla società cinese di imaging Megvii e, come Qoves, utilizza l'IA per esaminare il tuo viso. Ma invece di dettagliare ciò che vede nel linguaggio clinico, riduce i suoi risultati in un grado percentuale di probabile attrattiva. In effetti, restituisce due risultati: un punteggio che prevede come gli uomini potrebbero rispondere a un'immagine e l'altro che rappresenta una prospettiva femminile. Utilizzando la demo gratuita del servizio e la stessa foto poco affascinante, ho ottenuto rapidamente i miei risultati. I maschi generalmente pensano che questa persona sia più bella del 69,62% delle persone e le femmine generalmente pensano che questa persona sia più bella del 73,877%.

Era deludente, ma meglio di quanto mi aspettassi. A un anno dall'inizio della pandemia, posso vedere l'impatto di stress, peso e parrucchieri chiusi sul mio aspetto. Ho riprovato lo strumento con altre due foto di me stesso di Before, che mi sono piaciute entrambe. I miei punteggi sono migliorati, spingendomi vicino al 25° percentile più alto.

La bellezza è spesso soggettiva e personale: i nostri cari ci appaiono attraenti quando sono sani e felici, e anche quando sono tristi. Altre volte è un giudizio collettivo: sistemi di classificazione come concorsi di bellezza o elenchi di riviste delle persone più belle mostrano quanto trattiamo l'attrattiva come un premio. Questa valutazione può anche essere brutta e scomoda: quando ero un adolescente, i ragazzi del mio liceo urlavano numeri da uno a 10 alle ragazze che passavano nel corridoio. Ma c'è qualcosa di inquietante in una macchina che valuta la bellezza del viso di qualcuno: è sgradevole come le urla a scuola, ma la sua matematica sembra inquietante non umana.

Il mio punteggio di bellezza risulta da Face++

Sotto il cappuccio

Sebbene il concetto di classificare l'attrattiva delle persone non sia nuovo, il modo in cui funzionano questi particolari sistemi è uno sviluppo relativamente nuovo: Face++ ha rilasciato la sua funzione di punteggio di bellezza nel 2017.

Alla domanda di dettagli su come funziona l'algoritmo, un portavoce di Megvii ha solo detto che è stato sviluppato circa tre anni fa in risposta all'interesse del mercato locale per le app legate all'intrattenimento. Il sito Web dell'azienda indica che i volti cinesi e del sud-est asiatico sono stati utilizzati per addestrare il sistema, che ha attirato 300.000 sviluppatori subito dopo il suo lancio, ma ci sono poche altre informazioni.

Un portavoce di Megvii afferma che Face++ è una piattaforma open source e non può controllare i modi in cui gli sviluppatori potrebbero utilizzarla, ma il sito Web suggerisce le vendite di cosmetici e il matchmaking come due potenziali applicazioni.

I clienti noti dell'azienda includono il sistema di sorveglianza del governo cinese , che ricopre il paese di telecamere a circuito chiuso, così come Alibaba e Lenovo. Megvii ha recentemente presentato IPO ed è attualmente valutata a $ 4 miliardi. Secondo quanto riportato dal New York Times, è una delle tre società di riconoscimento facciale che hanno assistito il governo cinese nell'identificare i cittadini che potrebbero appartenere alla minoranza etnica uigura.

Come funzionano le reti neurali convoluzionali

• Le reti neurali convoluzionali esaminano immagini e video per analizzare e classificare gli oggetti che rappresentano a più livelli di analisi. Uno strato della rete potrebbe identificare, per esempio, i bordi di una mano umana; un altro potrebbe trovare dita, un altro mani, un altro braccia e un altro popolo.

• Ulteriori livelli rispondono a livelli di astrazione più elevati: se questo è un albero, cosa ha imparato la rete sugli alberi? Se è una strada, quali sono le cose su una strada che dovrebbe aspettarsi di vedere? Ad esempio, una rete neurale convoluzionale potrebbe valutare l'immagine di un viso con una mascella affilata come molto probabilmente attraente perché ha determinato che l'acutezza della mascella era un indicatore particolarmente forte del punteggio di bellezza umana che era stato addestrato a replicare.

Qoves, nel frattempo, è stato più esplicito su come funziona la sua analisi facciale. L'azienda, con sede in Australia, è stata fondata come azienda di fotoritocco nel 2019, ma nel 2020 è passata a una combinazione di analisi basata sull'intelligenza artificiale e chirurgia plastica. Il suo sistema utilizza una tecnica comune di apprendimento profondo nota come rete neurale convoluzionale , o CNN. Le CNN utilizzate per valutare l'attrattiva in genere si allenano su un set di dati di centinaia di migliaia di immagini che sono già state valutate manualmente per l'attrattiva dalle persone. Osservando le immagini e le valutazioni esistenti, il sistema deduce quali fattori le persone considerano attraenti in modo da poter fare previsioni quando vengono mostrate nuove immagini.

Altre grandi aziende hanno investito in IA di bellezza negli ultimi anni. Includono il rivenditore di cosmetici americano Ulta Beauty, del valore di $ 18 miliardi, che ha sviluppato a strumento di analisi della pelle . Nvidia e Microsoft hanno sostenuto a concorso di bellezza robot nel 2016, che ha sfidato i partecipanti a sviluppare la migliore IA per determinare l'attrattiva.

Secondo Evan Nisselson, partner di LDV Capital, la tecnologia di visione è ancora nelle sue fasi iniziali, il che crea 'opportunità di investimento significative e vantaggi'. LDV stima che ci saranno 45 miliardi di telecamere nel mondo entro il prossimo anno, escluse quelle utilizzate per la produzione o la logistica e afferma che i dati visivi saranno l'input chiave dei dati per i sistemi di intelligenza artificiale nel prossimo futuro. Nisselson afferma che l'analisi facciale è 'un mercato enorme' che, nel corso del tempo, comporterà la 'reinvenzione dello stack tecnologico per ottenere lo stesso, più vicino o addirittura meglio dell'occhio di un essere umano'.

Il fondatore di Qoves Shafee Hassan afferma che il punteggio di bellezza potrebbe essere ancora più diffuso. Dice che le app e le piattaforme dei social media utilizzano spesso sistemi che scansionano i volti delle persone, ne valutano l'attrattiva e prestano maggiore attenzione a coloro che si classificano più in alto. Quello che stiamo facendo è fare qualcosa di simile a Snapchat, Instagram e TikTok, dice. ma lo stiamo rendendo più trasparente.

Aggiunge: Stanno usando la stessa rete neurale e stanno usando le stesse tecniche, ma non ti stanno dicendo che [hanno] identificato che il tuo viso ha queste pieghe naso-labiali, ha un sottile vermiglio, ha tutte queste cose, quindi [ti] ti penalizzeranno in quanto individuo meno attraente.

Ho contattato diverse aziende, inclusi servizi di incontri e piattaforme di social media, e ho chiesto se il punteggio di bellezza fa parte dei loro algoritmi di raccomandazione. Instagram e Facebook hanno negato l'utilizzo di tali algoritmi. TikTok e Snapchat hanno rifiutato di commentare il record.

GIOVANE WONG

Grandi scatole nere

I recenti progressi nell'apprendimento profondo hanno cambiato radicalmente l'accuratezza delle IA di bellezza. Prima del deep learning, l'analisi facciale si basava sull'ingegneria delle funzionalità, in cui una comprensione scientifica delle caratteristiche facciali avrebbe guidato l'IA. La formula per un viso attraente, ad esempio, potrebbe essere impostata per premiare gli occhi spalancati e una mascella affilata. Immagina di guardare un volto umano e vedere una rappresentazione in stile Leonardo da Vinci di tutte le proporzioni e la distanza tra gli occhi e quel tipo di cose, dice Serge Belongie, professore di computer vision alla Cornell University. Con l'avvento del deep learning, è diventato tutto incentrato su big data e grandi scatole nere di calcolo della rete neurale che si limitavano a scricchiolare enormi quantità di dati etichettati, dice. E alla fine della giornata, funziona meglio di tutte le altre cose su cui abbiamo lavorato duramente per decenni.

Ma c'è un problema. Non siamo ancora del tutto sicuri di come funzioni, dice Belongie. L'industria è felice, ma il mondo accademico è un po' perplesso. Poiché la bellezza è altamente soggettiva, il meglio che un'IA di bellezza con apprendimento profondo può fare è rigurgitare accuratamente le preferenze dei dati di allenamento utilizzati per insegnarla. Anche se alcuni sistemi di intelligenza artificiale ora valutano l'attrattiva con la stessa precisione degli umani in un set di allenamento, ciò significa che anche i sistemi mostrano una quantità uguale di bias. E soprattutto, poiché il sistema è imperscrutabile, posizionare dei guardrail sull'algoritmo che potrebbe ridurre al minimo il bias è un compito difficile e dispendioso dal punto di vista computazionale.

Belongie afferma che ci sono applicazioni di questo tipo di tecnologia che sono più anodine e meno problematiche rispetto a segnare un volto per l'attrattiva, uno strumento che può consigliare la fotografia più bella di un tramonto sul tuo telefono, ad esempio. Ma il punteggio di bellezza è diverso. Questo, per me, è uno sforzo molto spaventoso, dice.

Anche se i dati di formazione e gli usi commerciali sono il più imparziali e sicuri possibile, la visione artificiale presenta limitazioni tecniche quando si tratta di tonalità della pelle umana. I chip di imaging presenti nelle fotocamere sono preimpostati per elaborarne un intervallo particolare. Storicamente alcuni toni della pelle sono stati semplicemente esclusi dal tavolo, secondo Belongie, il che significa che le foto stesse potrebbero non essere state nemmeno sviluppate pensando a determinati toni della pelle. Anche la più nobile delle ambizioni in termini di catturare tutte le forme della bellezza umana potrebbe non avere alcuna possibilità perché i valori di luminosità non sono nemmeno rappresentati accuratamente.

E questi pregiudizi tecnici si manifestano come razzismo nelle applicazioni commerciali. Nel 2018, Lauren Rhue, un'economista che è assistente professore di sistemi informativi presso l'Università del Maryland, College Park, stava acquistando strumenti di riconoscimento facciale che potrebbero aiutare il suo lavoro nello studio delle piattaforme digitali quando si è imbattuta in questa serie di prodotti insoliti.

Mi sono resa conto che c'erano algoritmi di punteggio per la bellezza, dice. E ho pensato, sembra impossibile. Voglio dire, la bellezza è completamente negli occhi di chi guarda. Come puoi addestrare un algoritmo per determinare se qualcuno è bello o meno? Lo studio di questi algoritmi divenne presto un nuovo obiettivo per la sua ricerca.

Osservando come Face++ ha valutato la bellezza, ha scoperto che il sistema ha costantemente classificato le donne dalla pelle più scura come meno attraenti delle donne bianche e che i volti con caratteristiche simili all'Europa come capelli più chiari e nasi più piccoli hanno ottenuto punteggi più alti di quelli con altre caratteristiche, indipendentemente da com'era scura la loro pelle. Il pregiudizio eurocentrico nell'IA riflette il pregiudizio degli umani che hanno valutato le foto utilizzate per addestrare il sistema, codificandolo e amplificandolo, indipendentemente da chi sta guardando le immagini. Gli standard di bellezza cinesi, ad esempio, danno la priorità alla pelle più chiara, agli occhi grandi e al naso piccolo.

Un confronto tra due foto di Beyonce Knowles dalla ricerca di Lauren Rhue utilizzando Face++. La sua intelligenza artificiale prevedeva che l'immagine a sinistra sarebbe stata del 74,776% per gli uomini e del 77,914% per le donne. L'immagine a destra, nel frattempo, ha segnato l'87,468% per gli uomini e il 91,14% per le donne nel suo modello .

I punteggi di bellezza, dice, fanno parte di una dinamica inquietante tra una cultura della bellezza già malsana e gli algoritmi di raccomandazione che incontriamo ogni giorno online. Quando i punteggi vengono utilizzati per decidere quali post vengono visualizzati sulle piattaforme di social media, ad esempio, rafforza la definizione di ciò che è ritenuto attraente e distoglie l'attenzione da coloro che non si adattano all'ideale rigoroso della macchina. Stiamo restringendo i tipi di immagini disponibili per tutti, afferma Rhue.

È un circolo vizioso: con più occhi sui contenuti con persone attraenti, quelle immagini sono in grado di raccogliere un maggiore coinvolgimento, quindi vengono mostrate a ancora più persone. Alla fine, anche quando un punteggio di bellezza elevato non è un motivo diretto per cui ti viene mostrato un post, è un fattore indiretto.

In un studia pubblicato nel 2019, ha esaminato come due algoritmi, uno per i punteggi di bellezza e uno per le previsioni sull'età, hanno influenzato le opinioni delle persone. Ai partecipanti sono state mostrate immagini di persone e gli è stato chiesto di valutare la bellezza e l'età dei soggetti. Ad alcuni partecipanti è stato mostrato il punteggio generato da un'IA prima di dare la risposta, mentre ad altri non è stato mostrato affatto il punteggio dell'IA. Ha scoperto che i partecipanti senza conoscenza della valutazione dell'IA non mostravano ulteriori pregiudizi; tuttavia, sapere come l'IA ha classificato l'attrattiva delle persone ha fatto sì che le persone assegnassero punteggi più vicini al risultato generato dall'algoritmo. Rhue lo chiama l'effetto di ancoraggio.

Gli algoritmi di raccomandazione stanno effettivamente cambiando le nostre preferenze, dice. E la sfida dal punto di vista tecnologico, ovviamente, è non restringerli troppo. Quando si tratta di bellezza, stiamo assistendo a un restringimento molto maggiore di quanto mi sarei aspettato.

'Non ho visto alcun motivo per non valutare i tuoi difetti, perché ci sono modi in cui puoi risolverli.'

Shafee Hassan, Qoves Studio

A Qoves, Hassan afferma di aver cercato di affrontare la questione della razza a testa alta. Quando conduce un rapporto dettagliato sull'analisi facciale, il tipo per cui i clienti pagano, il suo studio tenta di utilizzare i dati per classificare il viso in base all'etnia in modo che tutti non vengano semplicemente valutati rispetto a un ideale europeo. Puoi sfuggire a questo pregiudizio eurocentrico semplicemente diventando la versione più bella di te stesso, la versione più bella della tua etnia, la versione più bella della tua razza, dice.

Ma Rhue dice di essere preoccupata che questo tipo di categorizzazione etnica sia radicata più in profondità nella nostra infrastruttura tecnologica. Il problema è che le persone lo fanno, non importa come lo guardiamo, e non c'è nessun tipo di regolamentazione o supervisione, dice. Se c'è qualche tipo di conflitto, le persone cercheranno di capire chi appartiene a quale categoria.

Diciamo solo che non ho mai visto un'IA di bellezza culturalmente sensibile, dice.

I sistemi di raccomandazione non devono essere progettati per valutare se l'attrattiva finisce per farlo comunque. La scorsa settimana, l'emittente tedesca BR ha riferito che un'IA utilizzata per valutare i potenziali dipendenti mostrava pregiudizi basati sull'aspetto. E nel marzo 2020, la società madre di TikTok, ByteDance, è stata oggetto di critiche un memo che istruiva i moderatori dei contenuti per sopprimere video che mostravano brutti sguardi del viso, persone paffute, persone con un viso sformato o senza denti anteriori, persone anziane con troppe rughe e altro ancora. Twitter ha recentemente rilasciato uno strumento di ritaglio automatico per le fotografie sembrava dare la priorità ai bianchi . Quando è stato testato su immagini di Barack Obama e Mitch McConnell, l'IA del ritaglio automatico ha costantemente ritagliato l'ex presidente.

Chi è il più bello di tutti?

Quando ho parlato per la prima volta con il fondatore di Qoves Hassan in videochiamata a gennaio, mi ha detto che ho sempre creduto che le persone attraenti siano una razza a parte.

Quando ha iniziato nel 2019, dice, i suoi amici e la sua famiglia erano molto critici nei confronti della sua impresa. Ma Hassan crede di aiutare le persone a diventare la migliore versione possibile di se stesse. Prende ispirazione dal film del 1997 Gatta , che si svolge in un futuro non troppo lontano in cui l'ingegneria genetica è il mezzo di concepimento predefinito. La discriminazione genetica segmenta la società e il personaggio di Ethan Hawke, che è stato concepito naturalmente, deve rubare l'identità di una persona geneticamente perfezionata per aggirare il sistema.

Di solito è considerato un film profondamente distopico, ma Hassan dice che ha lasciato un segno inaspettato.

Storia correlata

L'attivista che smantella gli algoritmi della polizia razzista Hamid Khan sta vincendo la sua battaglia per l'abolizione della tecnologia di sorveglianza utilizzata dalla polizia di Los Angeles

È stato molto interessante per me, perché l'idea era che una persona può determinare il proprio destino. Il modo in cui vogliono apparire fa parte del loro destino, dice. Fino a che punto è arrivata la medicina moderna, non vedevo alcun motivo per non valutare i tuoi difetti, perché ci sono modi in cui puoi risolverli.

I suoi clienti sembrano essere d'accordo. Afferma che molti di loro sono attori e attrici e che la società riceve da 50 a 100 ordini di referti medici dettagliati ogni giorno, così tanti che ha difficoltà a tenere il passo con la domanda. Per Hassan, combattere il classismo in arrivo tra coloro che sono considerati belli e coloro che la società pensa siano brutti è il fulcro della sua missione. Quello che stiamo cercando di fare è aiutare la persona media, mi ha detto.

Ci sono altri modi per aiutare la persona media, tuttavia. Tutti gli esperti con cui ho parlato hanno affermato che la divulgazione e la trasparenza delle aziende che utilizzano il punteggio di bellezza sono fondamentali. Belongie ritiene che fare pressione sulle aziende affinché rivelino il funzionamento dei loro algoritmi di raccomandazione aiuterà a mantenere gli utenti al sicuro. L'azienda dovrebbe possederlo e dire di sì, stiamo usando la previsione della bellezza del viso ed ecco il modello. Ed ecco una galleria rappresentativa di volti che secondo noi, in base al tuo comportamento di navigazione, trovi attraenti. E penso che l'utente dovrebbe esserne consapevole ed essere in grado di interagire con esso. Dice che funzionalità come lo strumento per la trasparenza degli annunci di Facebook sono un buon inizio, ma se le aziende non lo stanno facendo e stanno facendo qualcosa come Face++ in cui presumono casualmente che siamo tutti d'accordo sulla bellezza ... potrebbero esserci dei broker di potere che ha semplicemente preso quella decisione.

Naturalmente, l'industria dovrebbe prima confessare che utilizza questi modelli di punteggio in primo luogo e il pubblico dovrebbe essere consapevole del problema. E anche se l'anno passato ha portato attenzione e critica alla tecnologia di riconoscimento facciale , diversi ricercatori con cui ho parlato hanno affermato di essere rimasti sorpresi dalla mancanza di consapevolezza su questo suo uso. Rhue dice che la cosa più sorprendente del punteggio di bellezza è stato il modo in cui poche persone lo stanno esaminando come argomento. Non è affatto convinta che la tecnologia debba essere sviluppata.

Mentre Hassan ha esaminato i miei difetti con me, mi ha assicurato che una buona crema idratante e una certa perdita di peso dovrebbero fare il trucco. E sebbene l'estetica del mio viso non determinerà la mia traiettoria professionale, mi ha incoraggiato a prendere sul serio i miei risultati.

La bellezza, mi ha ricordato, è una valuta.