Como a tecnologia ajuda a priorizar a análise

ÚLTIMA ATUALIZAÇÃO 19 DE JAN DE 2022
Quando as pessoas denunciam ou a tecnologia da Meta detecta um conteúdo potencialmente violador, a automação nos ajuda a encaminhá-lo rapidamente para os analistas que têm a experiência certa no idioma e no assunto.
Em seguida, usamos a tecnologia para classificar e priorizar o conteúdo. Assim, nossas equipes de análise podem se concentrar primeiro nos casos mais importantes. Isso inclui conteúdo com potencial de dano no meio físico, como posts relacionados a terrorismo e suicídio, bem como conteúdo viral que viole nossas políticas e possa alcançar um público amplo.
Para que as equipes de análise passem mais tempo concentradas nas decisões certas, estamos sempre aprimorando nossa tecnologia e nossos processos.
Como a Meta prioriza o conteúdo a ser analisado
Por que as equipes de análise são importantes para o monitoramento de conteúdo
Para reduzir danos na nossa comunidade, nossa tecnologia e as equipes de análise humana estão sempre trabalhando juntas. Veja aqui como os analistas, em conjunto com a tecnologia, ajudam a fortalecer todo o sistema de monitoramento de conteúdo.
Treinando nossa tecnologia
Quando os analistas tomam uma decisão referente a um conteúdo, simultaneamente eles treinam e aperfeiçoam a tecnologia para ajudá-la a identificar outros conteúdos semelhantes ao longo do tempo. Esse ciclo de feedback entre humano e tecnologia é vital para manter nossos sistemas atuais.
Durante a análise de conteúdo violador, as equipes de análise rotulam manualmente a política em que basearam a decisão, ou seja, eles marcam a política que o conteúdo, a conta ou o comportamento viola. Esses dados importantes de rotulação ajudam a melhorar a qualidade dos algoritmos da inteligência artificial que buscam conteúdo prejudicial de forma proativa.
Nossa tecnologia funciona bem em duas áreas específicas: detecção de violações recorrentes e identificação de conteúdo extremo ou obviamente explícito. Mas, quando há um grau alto de ambiguidade, complexidade ou nuance em relação à aplicação das nossas políticas a um conteúdo, os analistas costumam tomar decisões melhores que as da tecnologia.