Un alleato dell'IA per combattere il bullismo nei mondi virtuali

Saiman Chow

In qualsiasi universo romanzato, la distinzione tra antagonismo giocoso e seria molestia può essere difficile da discernere. Gli insulti tra amici che giocano insieme a un videogioco sono spesso una forma di cameratismo. Tra estranei, invece, parole simili assumono una qualità diversa, più fastidiosa. Essere in grado di distinguere tra i due è fondamentale per qualsiasi produttore di videogiochi che voglia promuovere una comunità accogliente.

Spirit AI spera di aiutare gli sviluppatori a supportare i giocatori e scoraggiare comportamenti di bullismo con un sistema di rilevamento e intervento degli abusi chiamato Ally. Il software monitora le interazioni tra i giocatori, ciò che le persone si dicono e come si comportano, attraverso le azioni disponibili all'interno di un gioco o di una piattaforma sociale. È in grado di rilevare molestie verbali e anche provocazioni non verbali, ad esempio un giocatore che perseguita l'avatar di un altro o abusa degli strumenti di segnalazione.

Stiamo esaminando modelli di interazione, combinati con classificatori in linguaggio naturale, piuttosto che fare affidamento su un elenco di singole parole chiave, spiega Ruxandra Dariescu, uno degli sviluppatori di Ally. Le molestie sono un problema sfumato.

Quando Ally identifica un comportamento potenzialmente offensivo, controlla se il potenziale aggressore e l'altro giocatore hanno avuto interazioni precedenti. Dove Ally differisce dal software di moderazione esistente è che invece di inviare semplicemente un avviso agli sviluppatori del gioco, è in grado di inviare un personaggio virtuale controllato dal computer per fare il check-in con il giocatore, uno che, attraverso gli strumenti in linguaggio naturale di Spirit AI, è in grado di conversare nel tono e nello stile del gioco (vedi Algoritmo di un videogioco per risolvere gli abusi online).

Storia correlata

Leggi Avanti Come un team di psicologi e scienziati di Riot Games sta svelando il segreto per eliminare gli abusi all'interno di un videogioco online.

Il bot di Ally potrebbe dire: ho notato che tu e il giocatore 42 sembrate estranei. Potrebbero averti detto qualcosa di inappropriato, quindi volevo solo controllare se stai bene? Il giocatore è quindi in grado di rispondere al bot, dice Dariescu. Se l'interazione viene respinta come battuta amichevole, il sistema la registra e aggiorna le sue regole in modo da non intervenire su comportamenti simili in futuro. Se l'utente si sente abusato, il sistema interviene con il colpevole.

Ally è compatibile con tutti i giochi online e Spirit AI sta lavorando per aggiungere funzionalità al comportamento della polizia nei giochi di realtà virtuale (vedi The War on the Disturbingly Real Trolls in Virtual Reality). Lo strumento può essere configurato in vari modi per interagire con i giocatori e intraprendere diversi tipi di azione. Spirit AI vede Ally come un modo per aumentare il team di gestione della community di un gioco, che può monitorare l'attività in una dashboard.

La società, che è stata ufficialmente costituita nel 2016 e attualmente ha uno staff di 15 persone, non rivelerà con quali sviluppatori di giochi sta attualmente lavorando, ma il software ha attirato l'attenzione nel mondo dei giochi. Al livello più semplice, gli strumenti di gestione della community supportati dall'IA possono estendere la portata del team, afferma Imre Jele, un designer veterano di vasti giochi multiplayer online come RuneScape. Ma ciò di cui sono più entusiasta sono i sistemi di intelligenza artificiale che vanno oltre l'identificazione e la punizione del comportamento che infrange le regole. In definitiva, l'obiettivo di questi membri del team di intelligenza artificiale dovrebbe essere quello di uscire dalla polizia e dare forma a interazioni positive e costruire comunità più sane.

Storia correlata

Leggi Avanti Quando ti senti come se fossi davvero all'interno di un corpo virtuale, proteggere il tuo spazio personale è importante.

Spirit intende certamente che il software offra più di una semplice forza di polizia digitalizzata che può essere convocata nei giochi online. Abbiamo identificato il potenziale di questa tecnologia non solo per prevenire comportamenti scorretti, ma anche incoraggiare comportamenti positivi e prosociali, afferma Dariescu. Il software potrebbe anche utilizzare l'intercettazione ambientale per identificare problemi più ampi che i giocatori potrebbero avere con il design di un gioco, fornendo informazioni allo sviluppatore su come migliorare l'esperienza complessiva del giocatore.

Ci sono, tuttavia, limitazioni quando si tratta di interventi di IA in caso di molestie, secondo Jele. Molte interazioni tra la gestione della comunità e i team di supporto dei giocatori richiedono profonda empatia e simpatia, dice: I giocatori hanno supportato gli sviluppatori con i loro soldi e meritano la migliore cura possibile, che solo gli esseri umani possono fornire al momento.

nascondere