Ecco come l'IA di Facebook cerca le cose brutte

Categoria: Intelligenza artificiale Inserito 29 novembre

Il contesto: La stragrande maggioranza della moderazione di Facebook viene ora eseguita automaticamente dai sistemi di apprendimento automatico dell'azienda, riducendo la quantità di contenuti strazianti che i suoi moderatori devono rivedere. Nella sua ultima rapporto sull'applicazione degli standard comunitari , pubblicato all'inizio di questo mese, la società ha affermato che il 98% dei video e delle foto dei terroristi vengono rimossi prima che qualcuno abbia la possibilità di vederli, per non parlare di denunciarli.

Allora, cosa stiamo vedendo qui? L'azienda ha addestrato i suoi sistemi di apprendimento automatico per identificare ed etichettare oggetti nei video, da quelli banali, come vasi o persone, a quelli pericolosi, come pistole o coltelli. L'IA di Facebook utilizza due approcci principali per cercare contenuti pericolosi. Uno consiste nell'impiegare reti neurali che cercano caratteristiche e comportamenti di oggetti conosciuti e li etichettano con percentuali variabili di confidenza (come possiamo vedere nel video sopra).

Formazione in corso: Queste reti neurali sono addestrate su una combinazione di video pre-etichettati dei suoi revisori umani, rapporti degli utenti e, presto, video presi dalla polizia metropolitana di Londra. Le reti neurali sono in grado di utilizzare queste informazioni per indovinare cosa potrebbe mostrare l'intera scena e se contiene comportamenti o immagini che dovrebbero essere contrassegnate. Ha fornito maggiori dettagli su come funzionano i suoi sistemi in una conferenza stampa questa settimana.

Allora cosa? Se il sistema decide che un file video contiene immagini o comportamenti problematici, può rimuoverlo automaticamente o inviarlo a un revisore del contenuto umano. Se infrange le regole, Facebook può quindi creare un hash, una stringa univoca di numeri, per denotarlo e propagarlo in tutto il sistema in modo che altri contenuti corrispondenti vengano automaticamente eliminati se qualcuno tenta di ricaricarlo. Questi hash possono essere condivisi con altre società di social media in modo che possano anche rimuovere copie del file incriminato.

Questi video di [Polizia metropolitana] sono incredibilmente utili per noi. Gli eventi terroristici sono rari, per fortuna, ma significa che la quantità di dati sull'addestramento è così piccola, ha detto il responsabile tecnico Nicola Bortignon durante una telefonata.

Un punto debole: Facebook sta ancora lottando per automatizzare la sua comprensione del significato, delle sfumature e del contesto del linguaggio. Ecco perché l'azienda si affida alle persone per segnalare la stragrande maggioranza dei post di bullismo e molestie che infrangono le sue regole: solo il 16% di questi post è identificato dai suoi sistemi automatizzati. Con l'avanzare della tecnologia, possiamo aspettarci di vedere un aumento di questa cifra. Tuttavia, far sì che l'IA comprenda veramente la lingua rimane una delle maggiori sfide del campo.

L'immagine più grande: A marzo, un terrorista ha ucciso 49 persone in due moschee a Christchurch, in Nuova Zelanda. Ha trasmesso in streaming il massacro su Facebook e i suoi video sono circolati nel sito per mesi. È stato un campanello d'allarme per il settore. Se è successo di nuovo ora, c'è una migliore possibilità che venga catturato e rimosso più rapidamente.