L'algoritmo 'Flasher Detection' mira a ripulire la chat video

Una delle tendenze più straordinarie nell'uso di Internet è stata la rapida ascesa dei servizi di chat video come Chatroulette. Questi servizi collegano casualmente le webcam delle persone che visitano il sito.

Ma Chatroulette ha un problema. Il sito è dominato da flasher che espongono i loro genitali.

Circa 6,3 milioni di visitatori hanno utilizzato Chatroulette nel luglio 2010, forse a causa della natura sessuale del suo contenuto.

Ma questo rappresenta una minaccia significativa per i minori. Non esiste un modo semplice per controllare l'età delle persone che visitano i siti Web e i minori possono accedervi facilmente. Secondo Xinyu Xing dell'Università del Colorado a Boulder e alcuni amici, un numero significativo di utenti di Chatroulette sembra essere minorenne.

Le nostre osservazioni su un tipico sabato sera indicano che fino al 20-30% degli utenti di Chatroulette sono minorenni, affermano in un articolo pubblicato oggi su arXiv.

Xing e co hanno una soluzione, tuttavia. Questo team ha sviluppato un algoritmo di rilevamento del lampeggiatore che individua i trasgressori, consentendo loro di essere espulsi.

Si scopre che catturare i lampeggiatori è più difficile di quanto possa sembrare a prima vista. Un modo è quello di utilizzare un meccanismo di crowdsourcing in cui gli utenti segnalano i trasgressori il cui feed video può essere valutato da persone addestrate e fermato se necessario.

Ma questo è un compito lungo e costoso che è soggetto ad abusi. E con più di 20.000 utenti in qualsiasi momento, è improbabile che funzioni per Chatroulette a lungo termine.

Un altro approccio consiste nell'utilizzare algoritmi esistenti progettati per rilevare contenuti pornografici. Il modo esatto in cui funzionano questi algoritmi non è del tutto chiaro, ma sembrano cercare il contenuto della pelle nelle immagini.

Sfortunatamente, questo tipo di software non funziona bene con i contenuti delle chat video, affermano Xing e co. Questo perché le immagini video sono spesso scarsamente illuminate, il che rende difficile distinguere la pelle dalle pareti bianco-giallastre sullo sfondo, ad esempio.

Quindi Xing e co hanno sviluppato il proprio algoritmo, chiamato SafevChat, che hanno testato su circa 20.000 immagini fisse prese dai video di Chatroulette e fornite dal fondatore del servizio Andrey Ternovskiy. Il loro documento fornisce una visione dettagliata di come funziona.

Il nuovo approccio è interessante perché analizza le immagini utilizzando diversi criteri e quindi fonde i risultati prima di decidere se l'immagine è accettabile o meno.

Per superare il problema delle pareti e dei mobili color pelle, combinano il rilevamento della pelle con il rilevamento del movimento che confronta i fotogrammi sequenziali per vedere se la pelle si muove. E usano rilevatori di viso, occhi e naso per distinguere la pelle facciale da quella non facciale. I risultati vengono fusi e l'immagine viene quindi classificata come normale o offensiva, dopo essere stata addestrata sul set di dati iniziale.

Xing e quindi dicono che funziona bene e significativamente meglio di un programma di rilevamento di immagini pornografiche commerciale chiamato PicBlock. Loro hanno un video che mostra come funziona sul loro sito web .

In effetti, SafeVChat funziona così bene che Chatroulette ha iniziato a usarlo sul suo sito Web all'inizio di questo mese.

Se questo rende Chatroulette più o meno popolare, dovremo aspettare e vedere. Ma con un po' di fortuna, renderà il sito più sicuro per tutti gli interessati.

Rif: arxiv.org/abs/1101.3124 : SafeVchat: rilevamento di contenuti osceni e comportamenti scorretti degli utenti nei servizi di chat video online

nascondere