Instagram utilizza l'intelligenza artificiale per impedire alle persone di pubblicare commenti offensivi

Categoria: Intelligenza artificiale Inserito lug 09

La piattaforma di social media segnalerà eventuali commenti offensivi prima che vengano pubblicati e chiederà al poster di riconsiderare.

Il contesto: L'abuso online è sempre stato un problema complicato a causa della sua portata e sfumatura. Ciò che conta come degno di censura è a dibattito perpetuo : filtra troppo e viola l'espressione personale; filtra troppo poco e crea un ambiente ostile. Aggiungi a ciò la complessità di lingue, culture e norme diverse e la sfida diventa davvero ingombrante.

Intelligenza artificiale: Ecco perché le piattaforme di social media come Facebook si sono rivolte all'intelligenza artificiale per aiutarle a smistare l'enorme volume di post e commenti. Ma il linguaggio è sempre stato particolarmente difficile da analizzare per l'IA: cose semplici come i doppi sensi, il sarcasmo o persino gli errori di ortografia possono far inciampare un sistema nell'errare il loro significato. Per aggirare il problema, Facebook impiega migliaia di moderatori di contenuti fare un passo avanti quando i suoi algoritmi non riescono a pronunciare un giudizio finale. Le indagini hanno scoperto che quei lavori sono spesso brutali ed estenuanti, tuttavia.

La soluzione di Instagram: Instagram, che è di proprietà di Facebook, sta ora provando un nuovo approccio. Piuttosto che fare affidamento esclusivamente sui suoi algoritmi per censurare il materiale offensivo, si baserà anche sull'autocensura degli utenti. Durante la pubblicazione di un commento, se il modello AI della piattaforma lo contrassegna come dannoso, il poster vedrà un pop-up che chiede Sei sicuro di volerlo pubblicare?

Nei primi test, Instagram ha scoperto che la funzione ha incoraggiato molte persone ad annullare i loro commenti, secondo quelli di ieri annuncio del post sul blog . È una tattica intelligente per cercare di alleviare parte del carico sulla moderazione dei contenuti umani senza essere troppo restrittivi.

Dati di allenamento: Questa non è la prima volta che Instagram usa l'IA per ripulire la lingua. Nel giugno del 2017, anche lanciato un filtro di commenti offensivi che utilizza l'apprendimento automatico per nascondere l'abuso più evidente. Da allora la piattaforma ha continuato a migliorare il suo modello di apprendimento automatico, probabilmente utilizzando i milioni di punti dati generati dagli utenti quando hanno segnalato commenti in passato. L'ultima funzionalità chiede inoltre agli utenti di notificare a Instagram se ha contrassegnato il loro commento come offensivo per errore, un altro ciclo di feedback che potrebbe generare dati di allenamento più utili.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.