Questa startup afferma che i suoi deepfake proteggeranno la tua privacy

FATTO FATTO

Come si suol dire: se sembra un'anatra, nuota come un'anatra e ciarlata come un'anatra, probabilmente è un'anatra. Ora, se qualcuno in un videoclip ha la tua stessa razza, sesso ed età, ha i tuoi stessi gesti ed espressioni emotive e, in effetti, è basato su di te, ma non ti assomiglia esattamente... è sei ancora tu?

No, secondo Gil Perry, cofondatore della società israeliana per la privacy FATTO . E questo, sostiene, è il motivo per cui la sua startup funziona. D-ID acquisisce riprese video, ad esempio catturate da una telecamera all'interno di un negozio, e utilizza la visione artificiale e il deep learning per creare un'alternativa che protegga l'identità del soggetto. Il processo trasforma te nel video in un avatar che ha tutti gli stessi attributi ma ha un aspetto leggermente diverso.

Il vantaggio per le aziende è che questo nuovo video anonimo non rivela più l'esatta identità di un cliente, il che, afferma Perry, significa che le aziende che utilizzano D-ID possono eliminare la necessità del consenso e analizzare il filmato per scopi commerciali e di marketing. Un negozio potrebbe, ad esempio, inviare il video di una donna bianca dall'aspetto felice a un algoritmo che può far emergere l'annuncio più efficace per lei in tempo reale. (Vale la pena notare che la legittimità del riconoscimento delle emozioni è stata messa in discussione, con un importante gruppo di ricerca sull'IA che ha recentemente chiesto di vietarne completamente l'uso.)

Esempi del servizio di anonimizzazione intelligente di D-ID mostrano diversi livelli di successo nell'oscurare l'identità nei video. In una dimostrazione , l'ex primo ministro britannico David Cameron somiglia un po' a David Cameron con i baffi. In un altro fermo immagine , una donna sembra in qualche modo diversa, ma le due immagini sembrano ancora in modo sconcertante. In un terzo, Brad Pitt diventa irriconoscibile.

D-ID non nominerebbe clienti particolari che utilizzano la sua tecnologia, ma Perry ha affermato che la società lavora principalmente con rivenditori, case automobilistiche e grandi conglomerati che implementano telecamere a circuito chiuso in Europa. Ann Cavoukian, membro del comitato consultivo D-ID ed ex commissario alla privacy per la provincia canadese dell'Ontario, afferma che la soluzione è totalmente vantaggiosa per tutti.

Altri esperti, tuttavia, affermano che la società interpreta erroneamente la Regola generale sulla protezione dei dati in Europa, non fa ciò che dovrebbe e, anche se lo fa, probabilmente non dovrebbe farlo comunque.

Violazione del GDPR?

Tre importanti esperti di privacy europei che hanno parlato con MIT Technology Review hanno espresso le loro preoccupazioni sulla tecnologia di D-ID e sulle sue intenzioni. Tutti affermano che, a loro avviso, D-ID viola effettivamente il GDPR. (Potrebbe, tuttavia, essere legale in aree extra UE.)

La razza è una categoria speciale ai sensi del GDPR, il che significa che il trattamento dei dati che deduce che la razza è illegale senza il consenso esplicito, spiega Gaëtan Goldberg, un avvocato per la privacy dei dati con il watchdog del GDPR NOYB. Le violazioni delle regole del GDPR possono comportare multe di 20 milioni di euro o del 4% del fatturato annuo di un'azienda, a seconda di quale sia il più alto.

Quando è stato presentato con queste preoccupazioni, David Mirchin, un avvocato per la privacy che consiglia D-ID, non è stato d'accordo con gli esperti. Afferma che non c'è mai un punto in cui la soluzione di anonimizzazione intelligente di D-ID analizzi, riveli o memorizzi questo tipo di dati sensibili. Perry aggiunge che D-ID è felice di rendere anonimi anche i dati sull'etnia. Gli avvocati esterni, tuttavia, sostengono che il semplice rilevamento dei volti, anonimi o meno, è una violazione.

Perry e Mirchin sostengono anche che va bene fornire dati biometrici anonimi agli algoritmi. Ma mentre il GDPR non si applica ai dati anonimi, la startup in realtà non rende anonimo il video in ogni caso, afferma Michael Veale, esperto di privacy presso l'University College London. Il video criptato non sarebbe considerato anonimo ai sensi del GDPR. Con dati veramente anonimi, un'informazione non può essere ricollegata a un particolare individuo anche quando è combinata con altri dati. Questa è una barra alta.

Ma anche se i filmati alterati non ti assomigliano esattamente, possono essere combinati con altre informazioni, ad esempio dati sulla posizione presi dai social media o record di carte di credito, e rintracciati. Inoltre, afferma Veale, la tecnologia non darebbe automaticamente alle aziende carta bianca per riutilizzare le telecamere a circuito chiuso per scopi commerciali piuttosto frivoli che non sono qualcosa con un serio interesse pubblico, come la lotta alla criminalità.

Spirito della legge

Il fatto che D-ID si posizioni come una soluzione per la privacy è rivelatore. Con elementi delle nuove leggi sulla protezione dei dati come il GDPR e il California Consumer Privacy Act che rimangono aperti all'interpretazione, alcune aziende si stanno dimostrando ingegnose nel marketing di se stesse. Queste tecnologie sono conformi alle normative in un modo che avvantaggia le aziende che vogliono guadagnare dai dati, piuttosto che le persone i cui dati vengono acquisiti. Questa è una violazione dello spirito della legge, affermano i critici. Britt Paris, studiosa di scienze dell'informazione presso la Rutgers University, definisce lo sfruttamento del D-ID e un esempio di ulteriore invasione della dataficazione della vita quotidiana.

Ma Cavoukian, membro del consiglio D-ID, afferma di non essere una fondamentalista della privacy e pensa che non ci sia nulla di sbagliato nel raccogliere dati fintanto che le identità esatte delle persone sono oscurate.

Se non vuoi che vengano raccolti dati su di te, al giorno d'oggi, anche se non ci sono problemi di privacy perché i tuoi identificatori sono stati spogliati, non sarai in grado di andare molto lontano fuori casa, lei dice. Queste sono le realtà del giorno.

La sorveglianza è sempre più diffusa. Un recente studio del Pew ha rilevato che la maggior parte degli americani pensa di essere costantemente monitorata ma non può fare molto al riguardo e si prevede che il mercato del riconoscimento facciale crescerà da circa $ 4,5 miliardi nel 2018 a 9 miliardi di dollari entro il 2024 . Tuttavia, la realtà della sorveglianza non impedisce agli attivisti di reagire. D-ID può considerarsi una via di mezzo tra il purismo della privacy e il recupero dei dati grezzi, ma senza la tecnologia, forse le aziende coperte dal GDPR non utilizzererebbero affatto questi dati video.

Queste regole sono lì per uno scopo, giusto? afferma Lilian Edwards, esperta di GDPR presso la Newcastle Law School. [D-ID] dice 'Raccogli dati visivi rispettando le normative sulla privacy' e ciò che significa veramente è 'Raccogli dati visivi evitando le normative sulla privacy'. Sai, la legge in realtà non è completamente stupida.

nascondere