211service.com
Una raccolta di 13.500 Nastygrams potrebbe far avanzare la guerra ai Troll
Una visualizzazione dei post sulle pagine di discussione di Wikipedia a gennaio mostra l'incidenza degli attacchi personali, evidenziata in rosso.
Misoginia, razzismo, volgarità: una raccolta di oltre 13.500 attacchi personali online ha tutto.
I brutti grammi provenivano dalle pagine di discussione di Wikipedia. La raccolta, insieme a oltre 100.000 post più benigni, è stato rilasciato dai ricercatori di Alphabet e della Wikimedia Foundation, l'organizzazione no profit dietro Wikipedia. Dicono che i dati aumenteranno gli sforzi per addestrare il software a comprendere e controllare le molestie online.
Il nostro obiettivo è vedere come possiamo aiutare le persone a discutere gli argomenti più controversi e importanti in modo produttivo su Internet, afferma Lucas Dixon, capo ricercatore presso puzzle , un gruppo all'interno di Alphabet che costruisce tecnologia al servizio di cause come la libertà di parola e la lotta alla corruzione (vedi 'Se solo l'IA potesse salvarci da noi stessi').
I ricercatori di Jigsaw e Wikimedia hanno utilizzato un servizio di crowdsourcing per consentire alle persone di esaminare più di 115.000 messaggi pubblicati sulle pagine di discussione di Wikipedia, verificando che non si trattasse di un attacco personale come definito dalle regole della comunità . I collaboratori hanno già utilizzato i dati per addestrare algoritmi di apprendimento automatico che rivaleggiano con i lavoratori in crowdsourcing nell'individuare attacchi personali. Quando hanno esaminato l'intera raccolta di 63 milioni di post di discussione realizzati dagli editori di Wikipedia, hanno scoperto che solo circa un attacco su 10 aveva portato all'azione dei moderatori.
Realizzata Wikimedia Foundation ridurre le molestie tra gli editori di Wikipedia una priorità lo scorso anno. La politica si aggiunge agli sforzi esistenti per ammorbidire l'atmosfera pungente e burocratica della comunità di Wikipedia, che è stata trovata per scoraggiare i nuovi contributori dalla partecipazione. Entrambi i problemi potrebbero aiutare a spiegare perché ha visto i numeri degli editori scivolare e ha lottato per ampliare la partecipazione oltre un nucleo demografico maschile, occidentale (vedi The Decline of Wikipedia ).
Jigsaw e Wikimedia Foundation non sono i primi a studiare gli abusi online, né sono i primi a progettare software in grado di rilevarli e combatterli. Ma le raccolte di commenti etichettati per segnalare post molesti e non molesti, necessari per addestrare il software di apprendimento automatico, sono stati scarsi, afferma Ellery Wulczyn , un ricercatore di scienza dei dati con Wikimedia Foundation.
Stima che la raccolta di attacchi personali e commenti da Wikipedia sia tra 10 e 100 volte più grande di quelli precedentemente disponibili. Gli algoritmi di apprendimento automatico richiedono un gran numero di esempi etichettati per imparare a filtrare accuratamente i dati.
Tuttavia, non è ancora chiaro se gli algoritmi addestrati per individuare gli abusi possano essere implementati come moderatori efficaci. Il software è lontano dal comprendere tutte le sfumature del linguaggio. Alcune persone potrebbero essere motivate a sintonizzare il loro linguaggio offensivo per eludere il rilevamento, afferma Wulczyn di Wikimedia. Se dovessimo costruire interventi con cui gli esseri umani hanno una relazione contraddittoria, non sappiamo cosa accadrebbe, dice.