211service.com
Un algoritmo di videogioco per risolvere gli abusi online
Come molti spazi online, League of Legends, il videogioco online più giocato al mondo oggi, è un terreno fertile per il linguaggio e il comportamento offensivi. Incoraggiato dall'anonimato e amplificato nel crogiolo ardente di uno sport di squadra competitivo, questo comportamento è stato un tale problema per il suo creatore, Riot Games, che l'azienda ora impiega un team dedicato di scienziati e designer per trovare modi per migliorare le interazioni tra i giochi Giocatori.
Negli ultimi anni il team ha sperimentato una serie di sistemi e tecniche, supportati dall'apprendimento automatico, progettati per monitorare la comunicazione tra i giocatori, punire i comportamenti negativi e premiare i comportamenti positivi. I risultati sono stati sorprendenti, afferma Jeffrey Lin, lead designer dei sistemi sociali di Riot Games. Il software ha monitorato diversi milioni di casi di presunti comportamenti abusivi. Il 92% dei giocatori che sono stati sorpresi a usare un linguaggio offensivo contro altri non si è nuovamente offeso. Lin, che è un neuroscienziato cognitivo, crede che le tecniche del team possano essere applicate al di fuori del contesto dei videogiochi. Pensa che Riot potrebbe aver creato una sorta di antidoto per la tossicità online, indipendentemente da dove si verifica.
Il progetto è iniziato diversi anni fa, quando il team ha introdotto un sistema di governance soprannominato, in linea con il tema fantasy del gioco, il Tribunale. Il gioco identificherebbe potenziali casi di linguaggio offensivo e creerebbe un fascicolo dell'interazione. Questi file sono stati quindi presentati alla comunità di giocatori del gioco (circa 67 milioni di utenti unici), che sono stati invitati a rivedere i registri delle chat di gioco e a votare se consideravano il comportamento accettabile. Nel complesso, il sistema era estremamente accurato, afferma Lin. In effetti, il 98% dei verdetti della community corrispondeva a quelli del team interno di Riot.
Diversi milioni di casi sono stati gestiti in questo modo piuttosto laborioso. Presto Lin e la squadra iniziarono a vedere schemi nel linguaggio tossico usato dai giocatori. Per aiutare a ottimizzare il processo, hanno deciso di applicare ai dati tecniche di apprendimento automatico. Si è rivelato un enorme successo nel segmentare il linguaggio negativo e positivo nelle 15 lingue ufficiali supportate dalla Lega, afferma Lin.
La nuova versione del sistema, ora controllata dalla tecnologia invece che da altri giocatori, ha reso più efficiente fornire feedback e imporre conseguenze per comportamenti tossici nel gioco. Ora può fornire feedback ai giocatori entro cinque minuti, mentre in precedenza poteva richiedere fino a una settimana.
Lin afferma che il sistema ha migliorato notevolmente quelli che la società chiama tassi di riforma. Un giocatore che ha precedentemente ricevuto una penalità, come una sospensione dalle partite classificate, è considerato riformato se evita le penalità successive per un periodo di tempo. Quando abbiamo aggiunto un feedback migliore alle punizioni e incluso prove come i registri delle chat per la punizione, i tassi di riforma sono aumentati dal 50% al 65%, afferma. Ma quando il sistema di apprendimento automatico ha iniziato a fornire un feedback molto più rapido con le prove, i tassi di riforma sono aumentati a un massimo storico del 92%.
Una sfida che il sistema deve affrontare è il discernimento del contesto. Come in ogni sport di squadra, i giocatori spesso creano cameratismo attraverso battute o sarcasmo che, in un altro contesto, potrebbero essere considerati scortesi o aggressivi. Una macchina di solito non riesce a cogliere il sarcasmo. In effetti, questo è forse l'ostacolo più significativo alla lotta agli abusi online con l'apprendimento automatico. È abbastanza corretto affermare che le IA che comprendono il linguaggio si comportano meglio quando sono necessarie informazioni contestuali minime per calcolare la risposta corretta, spiega Chris Dyer, un assistente professore alla Carnegie Mellon University che lavora sull'elaborazione del linguaggio naturale. I problemi che richiedono l'integrazione di molte informazioni dal contesto in cui viene fatta un'espressione sono molto più difficili da risolvere e il sarcasmo è estremamente dipendente dal contesto.
Attualmente, Lin e il suo team cercano di risolvere il problema con ulteriori controlli e contrappesi. Anche quando il sistema identifica un giocatore che ha mostrato un comportamento tossico, altri sistemi vengono controllati per rafforzare o porre il veto al verdetto. Ad esempio, tenterà di convalidare ogni singolo rapporto archiviato da un giocatore per determinare l'accuratezza del rapporto storico. Poiché più sistemi funzionano insieme per fornire conseguenze ai giocatori, attualmente stiamo vedendo un sano tasso di falsi positivi di 1 su 5.000, afferma Lin.
Per frenare davvero gli abusi, Riot ha progettato punizioni e disincentivi per convincere i giocatori a modificare il proprio comportamento. Ad esempio, potrebbe limitare le risorse di chat per i giocatori che si comportano in modo abusivo o richiedere ai giocatori di completare le partite non classificate senza incidenti prima di poter giocare alle partite con la classifica migliore. La società premia anche i giocatori rispettosi con rinforzi positivi.
Lin crede fermamente che le lezioni che lui e il suo team hanno imparato dal loro lavoro abbiano un significato più ampio. Una delle intuizioni cruciali della ricerca è che il comportamento tossico non deriva necessariamente da persone terribili; viene da persone normali che hanno avuto una brutta giornata, dice Justin Reich, un ricercatore del Berkman Center di Harvard, che ha studiato il lavoro di Riot. Ciò significa che le nostre strategie per affrontare i comportamenti tossici online non possono essere mirate solo ai troll incalliti; devono rendere conto della nostra tendenza umana collettiva a permettere che il peggio di noi stessi emerga sotto l'anonimato di Internet.
Tuttavia, Reich ritiene che il lavoro di Lin dimostri che il comportamento tossico non è un elemento fisso del Web, ma un problema che può essere affrontato attraverso una combinazione di ingegneria, sperimentazione e coinvolgimento della comunità. Le sfide che stiamo affrontando in League of Legends possono essere viste su qualsiasi gioco, piattaforma, community o forum online, motivo per cui riteniamo di essere a un punto cruciale nella linea temporale delle comunità e delle società online, afferma Lin. Per questo motivo, siamo stati molto aperti nel condividere i nostri dati e le migliori pratiche con l'industria in generale e speriamo che altri studi e aziende diano un'occhiata a questi risultati e si rendano conto che la tossicità online non è un problema impossibile dopo tutto.