Un'app AI che ti trasforma in una star del cinema ha messo a rischio la privacy di milioni di persone

Categoria: Intelligenza artificiale Inserito set 04

ZAO, un'app cinese virale che utilizza l'IA per scambiare i volti tra utenti e attori famosi, è ora coinvolta in un'importante controversia sulla privacy.

Le notizie: Venerdì, una nuova app rilasciata da Momo, uno sviluppatore di social media, è diventata immediatamente virale sui social media cinesi. Consente agli utenti di caricare un singolo ritratto e, in pochi secondi, vedere il loro volto sovrapposto sugli attori in scene di film iconiche. Entro domenica, era successo diventa il più scaricato app di intrattenimento gratuita nell'Apple Store cinese.

Falsità dell'IA: È l'ultima, e forse la più impressionante, applicazione delle reti generative contraddittorio, o GAN, gli algoritmi di intelligenza artificiale dietro i deepfake. Sebbene i GAN siano stati utilizzati in precedenza per l'editing e lo scambio di volti (sempre più nei film di Hollywood), l'uso di una singola foto da parte di ZAO, insieme alla velocità e alla fluidità del suo scambio, dimostra fino a che punto lo stato dell'arte nella falsificazione dei media è avanzato.

La polemica: A poche ore dal suo rilascio, ZAO ha iniziato a suscitare problemi di privacy, in particolare per una clausola nell'accordo con gli utenti che dava agli sviluppatori il diritto di utilizzare tutte le foto caricate gratuitamente per sempre. Ha inoltre consentito loro di trasferire tale diritto a terzi senza il permesso dell'utente. Esperti legali in Cina hanno affermato che non era legale e sabato lo sviluppatore dell'app ha ceduto sotto pressione e ha rimosso la clausola. WeChat, la principale app di social network in Cina, ha anche vietato qualsiasi condivisione di filmati o foto da ZAO.

Già visto: L'episodio ha ripetuto una controversia simile su FaceApp, un'app di fotoritocco diventata virale a luglio. L'app utilizzava anche i GAN per ritoccare i ritratti delle persone e dal suo lancio aveva accumulato oltre 150 milioni di foto di volti. ZAO ha ricevuto un contraccolpo molto più rapido e netto, ma probabilmente era già stato utilizzato da milioni di utenti quando ha rivisto la sua politica. Da un lato, la frequenza di tali incidenti mostra con quanta facilità i dati personali di un utente possono ora essere cooptati e riutilizzati al di fuori del suo controllo. Dall'altro, mostra che anche le persone sono diventate più sensibili alla privacy e sono meno disposte a rinunciarvi senza combattere.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.