211service.com
Alle giornaliste e ai politici neri viene inviato un tweet offensivo ogni 30 secondi
L'apprendimento automatico rivela un livello inquietante di molestie, abusi e trolling rivolti a donne e minoranze su Twitter. 18 dicembre 2018
Martora Bjork | Spruzza
Twitter può essere un posto tossico. Negli ultimi anni, il trolling e le molestie sul sito lo hanno reso un'esperienza estremamente spiacevole e sconvolgente per molte persone, in particolare donne e minoranze. Ma identificare e fermare automaticamente tali abusi è difficile da fare in modo accurato e affidabile. Questo perché, nonostante tutti i recenti progressi nell'IA, le macchine generalmente faticano ancora a rispondere in modo significativo alla comunicazione umana. Ad esempio, l'IA di solito ha difficoltà a cogliere messaggi offensivi che possono essere sarcastici o mascherati da una spolverata di parole chiave positive.
Un nuovo studio ha utilizzato l'apprendimento automatico all'avanguardia per ottenere un'istantanea più accurata della portata delle molestie su Twitter. La sua analisi conferma ciò che molte persone sospetteranno già: giornalisti e politici donne e minoranze subiscono una quantità scioccante di abusi sulla piattaforma.
Lo studio realizzato da Amnesty International in collaborazione con l'azienda canadese ElementiAI , mostra che le donne nere, politiche e giornalistiche, hanno l'84% di probabilità in più di essere menzionate in tweet offensivi o problematici rispetto alle donne bianche nella stessa professione.
È semplicemente esasperante, afferma Julien Cornebise, direttore della ricerca presso ElementAI a Londra, un ufficio incentrato sulle applicazioni umanitarie dell'apprendimento automatico. Queste donne sono una parte importante di come funziona la società.
I ricercatori di ElementAI hanno utilizzato per la prima volta uno strumento di apprendimento automatico simile a quello utilizzato per classificare lo spam per identificare i tweet offensivi. I ricercatori hanno quindi fornito ai volontari un mix di tweet pre-classificati e mai visti prima da classificare. I tweet identificati come offensivi sono stati utilizzati per formare una rete di deep learning. Il risultato è un sistema in grado di classificare gli abusi con una precisione impressionante, secondo Cornecise.
Il progetto si è concentrato sui tweet inviati a politici e giornalisti. Lo studio ha visto 6.500 volontari provenienti da 150 paesi aiutare a classificare gli abusi in 228.000 tweet inviati a 778 donne politiche e giornalisti nel Regno Unito e negli Stati Uniti nel 2017.
Lo studio ha esaminato i tweet inviati a membri di sesso femminile del Parlamento del Regno Unito, del Congresso e del Senato degli Stati Uniti, nonché di giornaliste da pubblicazioni come il Daily Mail, Gal Dem, il Guardian, Pink News e il Sun nel Regno Unito e Breitbart e il New York Times negli Stati Uniti.
Ha scoperto che 1,1 milioni di tweet offensivi sono stati inviati alle 778 donne in questo periodo, l'equivalente di uno ogni 30 secondi. Ha anche scoperto che il 7,1% di tutti i tweet inviati alle donne in questi ruoli sono offensivi. I ricercatori dietro lo studio hanno anche rilasciato uno strumento, chiamato Troll Patrol , per verificare se un tweet costituisce abuso o molestia.
Sebbene l'approccio di deep learning sia stato un grande miglioramento rispetto ai metodi esistenti per individuare gli abusi, i ricercatori avvertono che l'apprendimento automatico o l'intelligenza artificiale non saranno sufficienti per identificare sempre il trolling. Cornecise afferma che lo strumento è spesso valido quanto i moderatori umani, ma è anche soggetto a errori. Un po' di giudizio umano sarà richiesto per il prossimo futuro, dice.
Twitter è stato ampiamente criticato per non aver fatto di più per controllare la sua piattaforma. Milena Marin, che ha lavorato al progetto presso Amnesty International, afferma che l'azienda dovrebbe almeno essere più trasparente sui suoi metodi di polizia.
Troll Patrol non riguarda Twitter o costringerlo a rimuovere i contenuti, afferma Marin. Ma ha avvertito che Twitter deve iniziare a essere trasparente su come esattamente utilizza l'apprendimento automatico per rilevare gli abusi e pubblicare informazioni tecniche sugli algoritmi su cui si basa.
In risposta al rapporto, l'ufficiale legale di Twitter Vijaya Gadde ha sottolineato il problema della definizione degli abusi. Vorrei notare che il concetto di contenuto 'problematico' ai fini della classificazione dei contenuti merita ulteriori discussioni, ha affermato Gadde in una nota. Lavoriamo duramente per costruire regole applicabili a livello globale e abbiamo iniziato a consultare il pubblico come parte del processo.