As dificuldades da deteção de discurso de incentivo ao ódio
ATUALIZADO 19/01/2022
O discurso de incentivo ao ódio é particularmente difícil de detetar por tecnologia e pelas equipas de revisão humana. As expressões idiomáticas e os detalhes variam muito entre culturas, idiomas e regiões. Além disso, por vezes, as pessoas proferem palavras que normalmente seriam consideradas discurso de incentivo ao ódio, mas fazem-no para chamar a atenção para o problema ou se referirem a si próprias numa tentativa de reclamar os termos em questão.
Estas são dificuldades apenas na deteção de discurso de incentivo ao ódio em texto. Muito do discurso de incentivo ao ódio que encontramos no Facebook e no Instagram está em fotos ou vídeos. Um meme, por exemplo, pode combinar texto e imagens para atacar um grupo específico de pessoas. Isto é um desafio ainda maior para a tecnologia.
Este tipo de conteúdos torna-se mais complicado quando as pessoas tentam contornar a deteção ao alterar os conteúdos. Por exemplo, as pessoas podem escrever palavras incorretamente, evitar determinadas expressões ou modificar os seus vídeos e imagens.
Progresso na utilização de inteligência artificial para detetar discurso de incentivo ao ódio
Melhorámos as nossas ferramentas de deteção de discurso de incentivo ao ódio ao longo dos últimos anos, pelo que atualmente removemos uma grande parte deste tipo de conteúdos antes de as pessoas os denunciarem (e, em alguns casos, antes de qualquer pessoa os ver).
Utilizamos IA para identificar imagens e textos idênticos aos conteúdos que já removemos por constituírem discurso de incentivo ao ódio. A nossa tecnologia também analisa reações e comentários para avaliar o grau de semelhança de um determinado conteúdo.
Estas técnicas ajudam a nossa tecnologia a detetar mais eficazmente o discurso de incentivo ao ódio, mesmo quando o sentido não é claro ou quando os conteúdos são alterados para contornar a deteção.
Ler uma análise aprofundada no blogue de IA do Facebook