Gli algoritmi percettivi stanno combattendo per individuare più contenuti tossici del Web

Categoria: Non categorizzato Inserito 20 dic

Un nuovo concorso potrebbe aiutare a ripulire Internet. Kaggle, un sito che consente alle organizzazioni di organizzare concorsi di data science, ha appena rivelato il suo ultimo progetto, che chiede ai concorrenti di creare IA che rilevino commenti tossici .

Ai concorrenti viene chiesto di costruire un sistema in grado di affrontare diversi tipi di tossicità come minacce, oscenità, insulti e odio basato sull'identità. A sostenere la competizione c'è Jigsaw, una parte di Alphabet, che gestisce un'iniziativa di ricerca chiamata Conversation AI per migliorare il discorso online. Per vincere il premio di $ 35.000 su Kaggle, una voce dovrà battere i risultati di un sistema creato da Jigsaw, chiamato Perspective API. Da quando è stato lanciato martedì, 199 squadre hanno aderito alla competizione.

Internet potrebbe certamente fare con strumenti più e migliori per ripulire le minacce e l'incitamento all'odio. Facebook, YouTube e Twitter hanno tutti lottato per controllare tali contenuti in passato e la maggior parte delle grandi aziende tecnologiche insiste sul fatto che l'IA può aiutarli a ripulirli in futuro. Ma nessuno di loro l'ha ancora inchiodato e i governi sono scontenti del fallimento nel far rimuovere rapidamente l'incitamento all'odio.

Le grandi aziende tecnologiche ci stanno provando, però. Facebook ha lanciato uno strumento chiamato Deeptext nel 2016 per rilevare il sentimento nei commenti al fine di sradicare i contenuti inappropriati. Ci vuole circa 66.000 commenti una settimana ma ha ancora migliaia di persone che monitorano i feed. Twitter, nel frattempo, annunciato questa settimana che vieterà gli account che inviano tweet e messaggi minacciosi.

Forse la competizione di Kaggle aiuterà finalmente a risolvere il problema.