Como criamos e usamos listas de calúnias específicas de mercados
ÚLTIMA ATUALIZAÇÃO 12 DE AGO DE 2022
Como desenvolvemos listas de calúnias específicas de mercados
Nossos Padrões da Comunidade definem “calúnia” como uma palavra inerentemente ofensiva que é usada como um insulto a uma característica protegida. Várias equipes, incluindo de políticas, de mercados e de engajamento de partes interessadas, estão envolvidas na designação de uma calúnia. Para criarem essas listas, nossas equipes regionais realizam análises qualitativas e quantitativas contínuas sobre o idioma e a cultura de uma região ou de uma comunidade (que chamamos de “mercado”). Isso inclui analisar como uma palavra é usada no local e coloquialmente, a prevalência da palavra nas nossas plataformas e o significado associado a elas durante o uso. As equipes podem usar conhecimentos culturais baseados em artigos de notícias, estudos acadêmicos e outras pesquisas linguísticas. Nossas equipes regionais são assistidas por outros especialistas nas nossas políticas e processos operacionais. O contexto cultural é fornecido (artigos de notícias, artigos acadêmicos etc.), e pelo menos 50 itens de conteúdo contendo determinado termo devem ser coletadas e avaliadas. Uma vez concluída essa análise, as equipes de política revisam tudo o que aparece nos mercados locais, para que o conteúdo seja avaliado com base na política relevante da Meta. As equipes de mercado são responsáveis por garantir que as listas de calúnias relevantes sejam exaustivas e atualizadas sempre que possível.
Também analisamos as formas como certas palavras são usadas nas nossas plataformas para determinar até que ponto elas se encaixam na nossa definição de calúnia. Por exemplo, o uso de palavras nas nossas plataformas pode indicar algumas calúnias que incluem variações não identificadas anteriormente ou termos relacionados que devem ser considerados. Analisaremos o uso de calúnias nas nossas plataformas para identificar esses casos. Além disso, as listas e políticas de calúnia incluem orientações sobre as circunstâncias em que uma determinada calúnia pode ser usada, como quando utilizadas de forma autorreferencial clara ou em seu significado alternativo, quando se faz um relato sobre ela ou condena ou se discute a utilização dela, ou quando é usada de forma explicitamente positiva.
Como aplicamos as listas de calúnias específicas de mercados
Um idioma pode ser compartilhado entre nações e culturas, mas as calúnias são frequentemente específicas de uma região ou comunidade (que chamamos de “mercado”). É por isso que utilizamos listas de calúnias específicas para os mercados, não apenas idiomas. Em todas as áreas de violação, temos analistas que cobrem várias regiões em vários idiomas (para cobrir todos os dialetos na medida do possível). Esses analistas são designados a filas baseadas em conhecimentos de idiomas e no conjunto de habilidades do tipo de violação, de modo que saibam quais listas de calúnias serão mais relevantes para suas respectivas filas de conteúdo. Nosso roteiro de moderação de conteúdo incorpora tanto o idioma quanto a região para determinar o(s) analista(s) apropriado(s) para o conteúdo, mas geralmente o idioma desempenha um papel maior nesse roteiro complexo. Por exemplo, as filas do mercado do Cone Sul abrangerão conteúdos provenientes do Chile, Uruguai, Argentina e Paraguai, países nos quais o idioma principal é o espanhol. Cada algoritmo de fila de mercado também tem uma condição chamada "Detectar tudo". Essa condição permite que todos os empregos em um idioma não atribuído aos países que o mercado abrange sejam direcionados automaticamente para mercados mais relevantes para aquele idioma. Por exemplo, os empregos em idioma francês com origem geográfica no Mercado do Cone Sul (Argentina, por exemplo) seriam direcionados às filas de análise dos mercados franceses e vice-versa. Quando aparece uma calúnia em um idioma diferente do resto de um conteúdo, nossa tecnologia de análise em grande escala a destaca como aparecendo em uma lista de calúnias de um mercado diferente. Assim, é sinalizada em escala e em todas as filas de mercado como linguagem potencialmente violadora.
Os algoritmos de enfileiramento são responsáveis tanto pelo idioma quanto pelo país, pois as calúnias podem ter ressalvas (ou outros usos benignos) relacionadas ao que está acontecendo no mundo no momento e no contexto do mercado. O contexto do mercado é importante para os analistas determinarem se uma palavra aparece em um caso permitido ou não. Na falta de contexto e de qualquer outro caso admissível, tendemos a considerar o conteúdo como violador.
Como auditamos e atualizamos as listas de calúnias específicas de mercados
Realizamos uma auditoria anual das nossas listas de calúnias. Isso é feito por nossas equipes operacionais em colaboração com nossas equipes regionais de mercado, que juntas analisam as calúnias e decidem se a palavra mantém o caráter ofensivo que inicialmente a qualificou para a lista. Também incentivamos nossas equipes regionais, incluindo parceiros de análise em grande escala, a monitorar continuamente o desenvolvimento linguístico do mercado e, com base nisso, propor novas calúnias que devem ser acrescentadas à lista de mercado ou sugerir a revisão das existentes. Finalmente, pedimos à sociedade civil e às organizações não governamentais com as quais nos engajamos que nos enviem sugestões sobre quais palavras devem ser consideradas calúnias.