Transformando a aplicação de regras de conteúdo com a IA

ÚLTIMA ATUALIZAÇÃO 19 DE MAR DE 2026
Sempre usamos uma combinação de tecnologia e pessoas para analisar conteúdo e aplicar nossos Padrões da Comunidade. Conforme anunciamos recentemente, estamos fazendo testes com a integração de sistemas de IA mais avançados nos nossos processos de aplicação de regras de conteúdo existentes. Nosso objetivo é continuar aproveitando os resultados positivos das mudanças que fizemos no ano passado para reduzir erros, com sistemas atualizados que podem detectar violações de conteúdo mais graves e conteúdo ilegal, interromper mais golpes e responder mais rapidamente a eventos do mundo real.
No entanto, mesmo usando mais nova tecnologia para expandir os limites do possível, as pessoas permanecerão no centro da nossa abordagem. Nossos especialistas continuam sendo responsáveis por escrever e criar nossas políticas; projetar, treinar e avaliar nossos sistemas de IA; mensurar o desempenho e tomarão as decisões mais complexas e de alto impacto. É uma evolução da forma como combinamos a escala e os recursos de IA avançada com o conhecimento e o julgamento das pessoas, com cada um fortalecendo o outro, para manter as pessoas seguras em nossas plataformas.
O que vai mudar e o que não vai mudar
Implementação gradual e cuidadosa
Estamos abordando essa transição com cuidado, dedicando o tempo necessário para garantir que a implementação seja cuidadosa e deliberada. Cada modelo de IA passa por testes rigorosos e em várias fases antes da implementação. Só quando a tecnologia tiver um desempenho consistentemente melhor do que os nossos sistemas atuais em todos os testes, mudaremos para o monitoramento com IA.
Novidades: mais idiomas cobertos e melhor detecção
Esses sistemas de IA mais avançados cobrem idiomas falados por 98% das pessoas online, muito além da nossa cobertura anterior de cerca de 80 idiomas, o que nos ajuda a aplicar políticas de maneira mais precisa e consistente em bilhões de conteúdos. Esses sistemas também conseguem entender mais contextos e nuances culturais, incluindo subculturas de nicho, palavras que mudam rapidamente e variam de região para região, bem como significados de emojis e gírias.
Testes iniciais já mostraram resultados promissores ao encontrar essas nuances para a tomada de providências. Por exemplo, quando nossos sistemas de IA detectaram um site falso imitando um endereço da web legítimo e fingindo ser uma loja popular de produtos esportivos ao notar o logotipo real sendo usado com preços baixos incomuns e um endereço da web suspeito.
O que permanece igual: princípios básicos do monitoramento
  • As pessoas continuam sendo o elemento central: as pessoas continuam desempenhando um papel fundamental na nossa abordagem de monitoramento de conteúdo. As equipes de especialistas são os arquitetos do monitoramento da IA da Meta. Elas definem as políticas, treinam os modelos, validam o desempenho e lidam com decisões de alto risco e alto impacto, como tomar a decisão final sobre apelações de desativação de conta e informar as autoridades policiais quando exigido por lei.
  • Padrões da Comunidade: nossos Padrões da Comunidade não serão alterados como parte dessa mudança e continuarão a definir nossas regras para o que é permitido nas nossas plataformas. A única coisa que está mudando é a forma de aplicação dessas políticas.
  • Denúncias e apelações: você ainda pode denunciar conteúdos que acredita violar nossas políticas. E, se tomarmos medidas em relação ao seu conteúdo ou conta, você ainda poderá recorrer da decisão.
Como funciona
Nossa abordagem combina recursos de IA com conhecimento humano integrado durante todo o processo.
Testes rigorosos antes da implementação
Antes de qualquer sistema de IA tomar decisões de monitoramento reais, o testamos rigorosamente e incorporamos proteções. Comparamos as decisões da tecnologia com as dos nossos analistas mais experientes e a implementamos apenas quando constatamos um desempenho consistentemente melhor em relação aos nossos métodos atuais de monitoramento de conteúdo.
Padrões de qualidade claros
Cada modelo deve atender a referências de precisão específicas antes da implantação. Avaliamos o desempenho para garantir a consistência, a eficácia, a imparcialidade e a precisão, assegurando que estamos identificando corretamente as violações reais e diferenciando conteúdos violadores de não violadores.
Monitoramento contínuo
Depois de implementado, cada modelo é continuamente avaliado. Rastreamos a precisão, monitoramos alterações inesperadas no desempenho e podemos ajustar ou refinar rapidamente os modelos se surgirem problemas. Nossos sistemas são desenvolvidos para iteração e correção rápidas. As equipes e a tecnologia analisam as tendências para identificar problemas antecipadamente.
Experiência humana em cada estágio
As pessoas criam as políticas. As pessoas treinam a IA. As pessoas monitoram o desempenho. E as pessoas lidam com decisões cada vez mais complexas, sutis e de alto risco. A IA permite uma aplicação melhor em escala e melhora a consistência. Os humanos fornecem julgamento e supervisão do sistema.
Desempenho em áreas de política
Nossos modelos de IA estão mostrando melhorias, mesmo nos testes iniciais em diversas áreas de políticas:
Fraude e golpes
Uma solução de IA criada para impedir que golpistas enganem as pessoas para coletar os dados de login encontrou e interrompeu cinco mil tentativas de golpe por dia que nenhuma equipe de análise já havia identificado.
Conteúdo adulto em violação
Os sistemas de IA criados para detectar violações de propostas de cunho sexual para adultos capturaram mais do que o dobro de conteúdo violador do que as pessoas, diminuindo também a taxa de erros em mais de 60%. Isso significa que estamos encontrando e removendo conteúdo prejudicial mais rapidamente enquanto protegemos mais pessoas contra a aplicação indevida das nossas regras.
Falsificação de identidade
A inteligência artificial reduziu em 80% as denúncias de usuários sobre falsificação de identidade de pessoas de grande notoriedade. Em vez de apenas corresponder nomes, a IA pode reconhecer quando alguém está fingindo ser uma figura pública, analisando mais contexto - detalhes do perfil, padrões de postagem e características associadas que sinalizam inautenticidade.
Pensando no futuro
Essa transição está acontecendo em fases, com testes minuciosos a cada etapa. Publicamos dados de monitoramento no nosso Relatório de Aplicação de Padrões da Comunidade e continuaremos compartilhando o que aprendemos, incluindo sucessos e desafios, à medida que o monitoramento de IA se expande para mais áreas de política. Também planejamos fortalecer a nossa equipe global de pessoas especializadas na Meta com ampla experiência na aplicação dos nossos padrões e políticas.
A transparência sobre essa transição e nossos processos de monitoramento é importante. Para saber mais sobre como agimos perante violações hoje, consulte Tomar medidas. Para saber mais sobre nossas políticas, leia os Padrões da Comunidade. Envolveremos regularmente várias partes interessadas à medida que desenvolvemos nossas políticas e continuaremos a fazer isso ao longo dessa transição, trabalhando com reguladores, especialistas externos e o Comitê de Supervisão para solicitar feedback sobre nossa abordagem.
Nossa abordagem é desenvolvida para se adaptar a novas ameaças, à evolução dos gírias e aos desafios emergentes, como a linguagem codificada para a venda de drogas. Ela se baseia no princípio de que os melhores resultados são obtidos combinando tecnologia avançada com o julgamento humano.