Taxa proativa
ÚLTIMA ATUALIZAÇÃO 22 DE FEV DE 2023
Essa métrica mostra a porcentagem de todo o conteúdo ou das contas com medidas tomadas que encontramos e sobre os quais tomamos providências antes que os usuários fizessem uma denúncia. Usamos essa métrica como um indicador da eficácia com que detectamos violações.
Nossos investimentos em tecnologia de machine learning são fundamentais para nos ajudar a fazer uma detecção mais rápida.
Equilibramos o machine learning com uma equipe treinada de especialistas que analisam e tomam medidas quanto ao conteúdo violador.
A frequência com que podemos detectar proativamente possíveis conteúdos violadores é alta para algumas violações, o que significa que encontramos a maior parte do conteúdo e tomamos providências antes de os usuários fazerem uma denúncia para nós. Isso se aplica principalmente nas áreas em que conseguimos criar uma tecnologia de machine learning que identifica automaticamente o conteúdo que possa violar nossos padrões.
Essa tecnologia é muito promissora, mas ainda está longe de ser eficaz para todos os tipos de violações. Por exemplo, ainda existem limitações na capacidade de entender o contexto e as nuances, especialmente de conteúdo baseado em texto. Isso cria outros desafios para a detecção proativa de determinadas violações.
A métrica pode aumentar ou diminuir devido a fatores externos. Por exemplo, um ataque cibernético em que os spammers compartilham dez milhões de posts com o mesmo URL malicioso. Se detectássemos o URL malicioso antes da denúncia de algum usuário, a taxa proativa aumentaria durante o ataque cibernético e diminuiria depois, mesmo que nossa tecnologia de detecção não tivesse mudado durante o período. Essa métrica também pode aumentar ou diminuir com base no modo como nossos processos e ferramentas mudam. Por exemplo, ela poderá aumentar se nossa tecnologia de detecção melhorar, mas diminuir se nosso método para denúncias de usuários melhorar e contarmos menos com a detecção proativa.
Como essa métrica é baseada na quantidade de conteúdo sobre o qual tomamos medidas, muitas das mesmas considerações são aplicadas. Nossa taxa proativa não mostra quanto tempo levamos para detectar o conteúdo violador ou quantas vezes ele foi visualizado antes da detecção. Também não reflete quantas violações não conseguimos detectar nem quantas vezes o conteúdo foi visualizado. E, portanto, a porcentagem de conteúdo que detectamos proativamente pode ser muito alta, maior que 99% em algumas categorias, mesmo que a pequena porcentagem restante possa causar um impacto significativo nas pessoas.
Como calculamos nossa taxa proativa
Calculamos essa porcentagem como: o número de itens de conteúdo sobre o qual tomamos medidas e sobre os quais tomamos providências antes que os usuários do Facebook ou do Instagram os denunciassem dividido pelo número total de itens de conteúdo sobre os quais tomamos medidas.
Para contas falsas no Facebook, calculamos essa métrica como a porcentagem de contas desativadas do Facebook por serem falsas que encontramos e sobre as quais tomamos medidas antes que os usuários fizessem uma denúncia. Isso é calculado da seguinte forma: o número de contas desativadas encontradas por nós e sobre as quais tomamos medidas, antes de denúncias de usuários, dividido pelo número total de contas desativadas por serem falsas.
Advertências
Calculamos nossa taxa proativa usando uma atribuição estrita de denúncias de usuários para o conteúdo. Por exemplo, se alguém denunciar uma Página e, durante a análise dela, identificarmos e tomarmos medidas sobre algum conteúdo violador dentro da Página, registraremos que tomamos providências sobre esse conteúdo de forma proativa (a menos que haja outras denúncias de usuários específicas sobre ele).
Veja o mais recente Relatório de Aplicação de Padrões da Comunidade