O desafio de detectar discurso de ódio
ÚLTIMA ATUALIZAÇÃO 19 DE JAN DE 2022
A detecção de discurso de ódio pela tecnologia e pelas equipes de análise humana é especialmente difícil. As expressões idiomáticas e as nuances variam muito entre culturas, idiomas e regiões. Além disso, às vezes as pessoas compartilham palavras que normalmente seriam discurso de ódio, mas fazem isso para aumentar o reconhecimento do problema ou para usar de forma autorreferencial em uma tentativa de recuperar o termo.
Esses são os desafios de detectar o discurso de ódio em textos. A maioria do discurso de ódio que encontramos no Facebook e no Instagram aparece em fotos ou vídeos. Um meme, por exemplo, pode usar texto e imagens juntos para atacar um grupo específico de pessoas. Esse é um desafio ainda maior para a tecnologia.
Conteúdo como esse se torna mais complicado quando as pessoas tentam evitar a detecção alterando-o. Por exemplo, elas podem escrever as palavras incorretamente, evitar determinadas frases ou modificar imagens e vídeos.
Progresso no uso da inteligência artificial para detectar discurso de ódio
Aprimoramos nossas ferramentas de detecção de discurso de ódio ao longo de vários anos. Agora, conseguimos remover grande parte desse conteúdo antes que as pessoas o denunciem e, em alguns casos, antes que alguém o veja.
Usamos a IA para identificar imagens e texto idênticos a um conteúdo que já removemos como discurso de ódio. Nossa tecnologia também procura avaliar, nas reações e nos comentários, a similaridade de um conteúdo.
Essas técnicas ajudam nossa tecnologia a detectar o discurso de ódio com mais precisão, mesmo quando o significado não é óbvio ou o conteúdo é alterado para evitar a detecção.
Leia uma análise detalhada no blog do Facebook AI