211service.com
Yahoo ha uno strumento che può catturare gli abusi online sorprendentemente bene
I troll sembrano nascondersi in ogni angolo di Internet e si divertono a rovinarti la giornata. Ma se le nostre caselle di posta possono essere mantenute relativamente prive di spam, perché le macchine non possono eliminare automaticamente i messaggi offensivi da tweet o commenti?
È una domanda che sembra rilevante per il tessuto stesso della cultura di Internet di oggi. La scorsa settimana, Twitter vietato una giornalista che ha accusato di aver orchestrato una campagna di abusi rivolti a una delle star del tutto al femminile acchiappa fantasmi riavviare. Twitter ha affermato che introdurrà nuove linee guida e strumenti per la segnalazione di abusi attraverso il suo servizio. Certamente, innumerevoli altri incidenti su Twitter e altrove passano inosservati ogni giorno.
I ricercatori, infatti, stanno facendo alcuni progressi verso la tecnologia che può aiutare a fermare gli abusi. Un team di Yahoo recentemente sviluppato un algoritmo in grado di catturare messaggi offensivi meglio di qualsiasi altro sistema automatizzato fino ad oggi. I ricercatori hanno creato un set di dati di abuso raccogliendo messaggi sugli articoli di Yahoo che sono stati contrassegnati come offensivi dagli editori di commenti dell'azienda.
Il team di Yahoo ha utilizzato una serie di tecniche convenzionali, inclusa la ricerca di parole chiave abusive, punteggiatura che spesso sembrava accompagnare messaggi offensivi e indizi sintattici sul significato di una frase.
Ma i ricercatori hanno anche applicato un approccio più avanzato alla comprensione automatizzata del linguaggio, utilizzando un modo per rappresentare il significato delle parole come vettori con molte dimensioni. Questo approccio, noto come incorporamento di parole, consente di elaborare la semantica in modo sofisticato. Ad esempio, anche se un commento contiene una stringa di parole che non sono state identificate come abusive, le rappresentazioni di quella stringa nello spazio vettoriale possono essere sufficienti per identificarla come tale.
Quando tutto è stato combinato, il team è stato in grado di identificare i messaggi offensivi (dal proprio set di dati) con una precisione di circa il 90%.
Catturare il restante 10 percento può rivelarsi complicato. Sebbene i ricercatori di intelligenza artificiale stiano facendo progressi significativi nell'addestrare le macchine per analizzare il linguaggio, l'intelligenza artificiale deve ancora dotare i computer delle capacità intellettuali necessarie per districare il significato. Come mostra un concorso tenutosi a una recente conferenza sull'intelligenza artificiale, i computer non possono districare le ambiguità più semplici nelle frasi.
Molte aziende tecnologiche, tra cui Twitter, hanno ricercatori di intelligenza artificiale dedicati a far avanzare lo stato dell'arte in aree come il riconoscimento delle immagini e la comprensione del testo. Ma finora sembra che sia stato fatto uno sforzo sorprendentemente piccolo per catturare sistematicamente abusi o molestie. Twitter ha rifiutato di dire se il suo team di intelligenza artificiale sta lavorando attivamente al problema (anche se sembra probabile). Ma è improbabile che l'azienda introduca una bacchetta magica per filtrare i messaggi dannosi. Il problema con il filtro dell'odio automatizzato è che le parole sono piene di significati che possono essere decompressi solo con una vera intelligenza.
Identificare automaticamente gli abusi è sorprendentemente difficile, afferma Alex Krasodomski-Jones, che tiene traccia degli abusi online come ricercatore presso la società con sede nel Regno Unito Centro per l'analisi dei social media . Il linguaggio dell'abuso è amorfo: cambia frequentemente e spesso viene utilizzato in modi che non connotano l'abuso, come quando termini razziali o sessualmente carichi vengono appropriati dai gruppi che un tempo denigrano. Dati 10 tweet, un gruppo di umani raramente sarà d'accordo su quali dovrebbero essere classificati come offensivi, quindi puoi immaginare quanto sarebbe difficile per un computer.
Fino a quando le macchine non acquisiranno una vera intelligenza, sarà impossibile filtrare i messaggi di odio. Ma Krasodomski-Jones offre un altro motivo, più umano, per cui potremmo non volere una soluzione automatizzata: in un mondo in cui ciò che leggiamo è sempre più dettato da algoritmi e filtri, dovremmo stare attenti a richiedere più interferenze del computer.