211service.com
Vero o falso? L'intelligenza artificiale lo rende molto difficile da sapere
I titoli delle notizie potrebbero non essere le uniche cose false in futuro.
Le potenti tecniche di apprendimento automatico (vedi The Dark Secret at the Heart of AI ) stanno rendendo sempre più facile manipolare o generare video e audio realistici e impersonare chiunque tu voglia con incredibile precisione.
Ha chiamato un'app per smartphone FaceApp , rilasciato di recente da un'azienda con sede in Russia, può modificare automaticamente il viso di qualcuno per aggiungere un sorriso, aggiungere o sottrarre anni o scambiare i sessi. L'app può anche applicare effetti di abbellimento che includono la levigatura delle rughe e, cosa più controversa, l'alleggerimento della pelle.
E la scorsa settimana ha chiamato un'azienda Lyrebird , che è stata creata dall'Università di Montreal, ha dimostrato una tecnologia che si dice possa essere utilizzata per impersonare la voce di un'altra persona. La società ha pubblicato clip dimostrative di Barack Obama, Donald Trump e Hillary Clinton che approvavano la tecnologia.
Questi sono solo due esempi di come i più potenti algoritmi di intelligenza artificiale possono essere utilizzati per generare contenuti anziché semplicemente analizzare i dati.
Anche potenti hardware e software grafici, nonché nuove tecnologie di acquisizione video, stanno guidando questa tendenza. L'anno scorso i ricercatori della Stanford University hanno dimostrato un programma di scambio di volti chiamato Face2Face . Questo sistema può manipolare le riprese video in modo che le espressioni facciali di una persona corrispondano a quelle di qualcuno che viene monitorato utilizzando una telecamera di rilevamento della profondità. Il risultato è spesso stranamente realistico.
La capacità di manipolare voci e volti in modo così realistico potrebbe sollevare una serie di problemi, come riconoscono i creatori di Lyrebird.
Le registrazioni vocali sono attualmente considerate come prove evidenti nelle nostre società e in particolare nelle giurisdizioni di molti paesi, si legge in una dichiarazione etica pubblicata sul sito Web dell'azienda. La nostra tecnologia mette in dubbio la validità di tali prove in quanto consente di manipolare facilmente le registrazioni audio. Questo potrebbe avere conseguenze pericolose.
Sia FaceApp che Lyrebird utilizzano reti convoluzionali generative profonde per abilitare questi trucchi. Ciò significa che l'azienda sta applicando una tecnica emersa negli ultimi anni come un modo per far sì che gli algoritmi vadano oltre il semplice apprendimento a classificare le cose e generare dati plausibili.
Come molte attività nell'intelligenza artificiale oggi, ciò comporta l'utilizzo di reti neurali molto grandi o profonde. Tali reti vengono normalmente alimentate con dati di addestramento e ottimizzate in modo che rispondano nel modo desiderato al nuovo input. Ad esempio, possono essere addestrati a riconoscere volti o oggetti nelle immagini con una precisione sorprendente.
Ma le stesse reti possono quindi essere fatte per generare i propri dati in base a ciò che è stato in grado di interiorizzare sul set di dati su cui sono stati addestrati.
È possibile addestrare una tale rete a generare immagini da zero che sembrano quasi come la cosa reale. In futuro, utilizzando le stesse tecniche, potrebbe anche diventare molto più semplice manipolare i video. A un certo punto è probabile che la generazione di interi video con reti neurali diventi possibile, afferma Alexandre de Brebisson , cofondatore di Lyrebird. È più impegnativo perché c'è molta variabilità nello spazio ad alta dimensione che rappresenta i video e i modelli attuali non sono ancora perfetti.
Date le tecnologie che stanno emergendo, potrebbe diventare sempre più importante essere in grado di rilevare video e audio falsi.
Justus Thies , uno studente di dottorato presso la Friedrich Alexander University in Germania e uno dei ricercatori dietro Face2Face, l'app per lo scambio di volti in tempo reale, afferma di aver avviato un progetto volto a rilevare la manipolazione dei video. I risultati intermedi sembrano promettenti, dice.