Como é que a Meta define prioridades na revisão de conteúdos

ATUALIZADO 12/11/2024
As tecnologias da Meta detetam e removem a maioria dos conteúdos em infração antes de os mesmos serem denunciados. Quando alguém publica no Facebook, no Instagram, no Messenger ou no Threads, as nossas tecnologias verificam se os conteúdos desrespeitam os Padrões da Comunidade. Na maioria dos casos, a identificação é um assunto simples. A publicação desrespeita claramente as nossas políticas ou não desrespeita.
Noutros casos, a identificação é mais difícil. Talvez a opinião da publicação não seja clara, a linguagem seja particularmente complexa ou as imagens dependam demasiado do contexto. Nestes casos, fazemos uma revisão com recurso a humanos.
Fatores de prioridade para revisão humana
Quando determinamos quais são os conteúdos que as nossas equipas de revisão humana devem rever em primeiro lugar, consideramos três fatores principais:
GRAVIDADE
Qual é a probabilidade de os conteúdos conduzirem a danos, tanto online como offline?
VIRALIDADE
Com que rapidez estão os conteúdos a ser partilhados?
PROBABILIDADE DE ESTAR EM INFRAÇÃO
Qual é a probabilidade de os conteúdos em questão estarem de facto a infringir as nossas políticas?
Dado que queremos evitar danos o mais possível, os nossos sistemas de revisão utilizam a tecnologia para dar prioridade a conteúdos de alta gravidade com o potencial de provocar danos offline e a conteúdos virais que se estão a espalhar rapidamente.
As equipas de revisão humana ajudam a melhorar a nossa tecnologia
As nossas equipas de revisão humana utilizam os seus conhecimentos em determinadas localizações e domínios de políticas para tomar decisões difíceis, por vezes diferenciadas. Cada vez que os revisores tomam uma decisão, utilizamos essas informações para treinar a nossa tecnologia. Com o tempo, perante milhões de decisões, a nossa tecnologia melhora, o que nos permite remover mais conteúdos em infração.
Ajudar os revisores a tomar as decisões corretas
A tecnologia ajuda as equipas de revisão humana a fazer o que fazem melhor
Tal como acontece com muitos modelos de aprendizagem automática, a nossa tecnologia melhora com o passar do tempo, dado que recebe mais exemplos de conteúdos em infração. Quer isto dizer que as equipas de revisão humana têm conseguido focar-se mais nos conteúdos graves, virais, diferenciados, novos e complexos. Este é exatamente o tipo de decisões nas quais as pessoas têm tendência a tomar decisões mais inteligentes do que a tecnologia.
Perguntas frequentes sobre a definição de prioridades na revisão de conteúdos
Anteriormente, as equipas de revisão humana despendiam a grande maioria do seu tempo a rever conteúdos denunciados por pessoas. Isto significa que estavam muitas vezes a despender demasiado tempo em conteúdos de baixa gravidade ou que não estavam em infração e não despendiam tempo suficiente nos conteúdos mais graves com o maior potencial de danos. Isto significa também que muitas decisões humanas não foram assim tão úteis para o aperfeiçoamento da tecnologia de aplicação das regras.
A nossa abordagem atual no que respeita à definição de prioridades debruça-se sobre estes assuntos, o que nos permite rever primeiro os conteúdos potencialmente mais prejudiciais e aperfeiçoar a nossa tecnologia mais rapidamente.
Não necessariamente. Tanto as equipas de revisão humana como a tecnologia desempenham um papel na revisão das denúncias de utilizadores. Nos casos em que a nossa tecnologia pode analisar determinados conteúdos, esta vai tomar medidas de imediato (ou não) relativamente aos conteúdos em questão.
Para abordar as questões de equidade e inclusão associadas à implementação da inteligência artificial (IA) nas tecnologias da Meta, criámos a nossa equipa de IA Responsável, uma equipa dedicada e multidisciplinar de especialistas em ética, cientistas sociais e políticos, especialistas em políticas, investigadores e engenheiros da inteligência artificial. O objetivo geral da equipa é desenvolver normas, ferramentas e processos para fazer face aos problemas da responsabilidade da IA e ajudar a assegurar que estes recursos sistémicos se encontram amplamente disponíveis na Meta.