Nossa abordagem em relação a organizações e indivíduos perigosos

ÚLTIMA ATUALIZAÇÃO 11 DE NOV DE 2024
Não há lugar na nossa plataforma para grupos ou indivíduos que promovem violência, crime organizado, ódio ou terrorismo. Ao longo de anos de trabalho, desenvolvemos e continuamos a criar políticas e processos sobre indivíduos e organizações perigosas para lidar com esse tipo de conteúdo. Embora estejamos comprometidos em fornecer espaço para que as pessoas possam falar sobre eventos que acontecem ao redor do mundo e que impactam suas vidas, famílias e comunidades, nossa política existe para traçar um limite para o que não é permitido nas nossas plataformas.
policy-image
Nossas políticas são desenvolvidas para manter nossas plataformas seguras
A Meta tem uma das políticas mais abrangentes do setor, visando organizações terroristas, grupos de ódio, organizações criminosas organizadas como cartéis, entidades que promovem violência e autores de eventos de violação designados, como tiroteios em massa ou ataques terroristas.
De acordo com essa Política sobre Organizações e Indivíduos Perigosos, designamos e banimos indivíduos e organizações envolvidos em atividades e removemos a glorificação e o apoio a eles quando tomamos conhecimento disso. Também designamos e banimos entidades que promovem violência, ou seja, entidades envolvidas na preparação ou na defesa de futuros atos violentos, mas que não necessariamente se envolveram em violência até o momento. Também removemos a glorificação e o apoio a elas.
Nossas políticas são públicas, e você pode ler mais detalhes sobre elas na nossa página de Padrões da Comunidade. Além disso, publicamos regularmente, no nosso relatório trimestral sobre os Padrões da Comunidade, informações sobre quanto desse conteúdo removemos.
Como e por que designamos
Não permitimos que organizações ou indivíduos que divulguem uma missão violenta ou de ódio ou que estejam envolvidos em violência tenham presença nas plataformas da Meta. Avaliamos essas entidades com base no seu comportamento online e offline e, mais significativamente, sua ligação com atos de violência. De acordo com esta política, designamos indivíduos, organizações e redes de pessoas. Para garantir um monitoramento mais eficaz, proporcional e consistente, dividimos as designações em dois níveis. Você pode ler mais sobre esses níveis e os tipos de organizações que cada um abrange, nos nossos Padrões da Comunidade.
Temos nosso próprio processo interno robusto, que leva em consideração muitas fontes de informação, as quais usamos para avaliar organizações e indivíduos para possível designação. Desenvolver nossas próprias definições e processos de designação, independentemente de região ou ideologia, nos permite ser robustos, justos e proativos na proteção das nossas plataformas.
Esse trabalho não é estático. Estamos continuamente analisando riscos e avaliando grupos e indivíduos para designação com base no seu comportamento, mudanças de circunstâncias, novas informações, análises internas de especialistas e contribuições de partes interessadas externas. Por exemplo, como anunciamos em janeiro de 2024, quando uma organização ou um indivíduo designado mudar seu comportamento, eles também serão qualificados para remoção da nossa lista, especificamente se (1) não forem designados pelo governo dos EUA como um Chefe do Tráfico de Narcóticos Especialmente Designado (SDNTK, na sigla em inglês); uma Organização Terrorista Estrangeira (FTO, na sigla em inglês); ou um Terrorista Global Especialmente Designado (SDGT, na sigla em inglês); (2) não estiverem mais envolvidos em violência ou ódio; e (3) não simbolizarem violência e ódio nem forem usados para incitar mais violência ou espalhar propaganda violenta ou de ódio.
Embora valorizemos profundamente a transparência e estejamos continuamente avaliando os prós e contras, atualmente não compartilhamos os detalhes da nossa lista de designações para mitigar riscos legais e de segurança e evitar que esses agentes perigosos contornem nossos mecanismos de monitoramento.
Como aplicamos medidas contra organizações e indivíduos perigosos
Investimos substancialmente em pessoas, tecnologia, parcerias e pesquisas para combater a atividade de organizações e indivíduos perigosos.
  • Tecnologia: abordamos esse espaço por meio de uma combinação de IA e inteligência humana. Também investimos em pesquisa e trabalhamos com especialistas e organizações externas para nos mantermos atualizados sobre esse ambiente em constante mudança. Usamos IA para detectar vídeos, imagens, áudio, texto e até mesmo gráficos como logotipos e representações de violência. Também disponibilizamos ferramentas de código aberto em todo o setor para ajudar parceiros a acessar tecnologia para combater organizações e indivíduos perigosos nas suas próprias plataformas. Por exemplo, em dezembro de 2022, para ajudar a tornar mais fácil para todas as empresas, em todo o setor, manter suas plataformas livres de conteúdo terrorista, disponibilizamos o “Hasher Matcher Actioner” (HMA), uma ferramenta de software de código aberto e gratuita que ajudará as plataformas a identificar cópias de imagens ou vídeos e a tomar medidas contra elas em massa.
  • Pessoas: o contexto e a linguagem são frequentemente complexos, e a tecnologia nem sempre consegue distinguir a glorificação de uma organização e um indivíduo perigoso de uma crítica culturalmente específica. É por isso que a Meta investiu bilhões de dólares e tem quase 40 mil pessoas trabalhando em segurança e proteção. Nesse âmbito, temos uma equipe multifuncional de centenas de pessoas, com experiência específica que vai desde aplicação da lei e segurança nacional até inteligência antiterrorismo e estudos acadêmicos em radicalização, dedicada a esse trabalho.
  • Parcerias: enquanto houver atividade prejudicial no mundo, ela existirá na internet, e nenhuma empresa pode resolver esses problemas sozinha. É por isso que parcerias com outras entidades, como empresas, sociedade civil, pesquisadores e governos, são tão cruciais. Interagimos com governos e agências intergovernamentais ao redor do mundo e fazemos parcerias com organizações com experiência em terrorismo, extremismo violento, inteligência cibernética e comportamento adversário online.
    • GIFCT: unimos forças com o YouTube, a Microsoft e o Twitter em 2017 para criar o Fórum Global da Internet para Combater o Terrorismo (GIFCT, na sigla em inglês), uma organização criada com o objetivo de impedir que terroristas e extremistas violentos explorem plataformas digitais. O GIFCT se tornou uma ONG independente em 2019 e coordena a resposta a crises em todo o setor em resposta a ataques.
    • Autoridades policiais: quando tomamos conhecimento de uma ameaça específica, iminente e plausível à vida humana, não hesitamos em notificar as autoridades policiais. A Meta também trabalha com autoridades policiais em casos de ataques violentos, embora sempre examinemos minuciosamente todas as solicitações governamentais que recebemos para garantir que sejam legalmente válidas e consistentes com os padrões internacionalmente reconhecidos de direitos humanos, incluindo o devido processo legal, a privacidade, a liberdade de expressão e o estado de direito. Se determinarmos que uma solicitação parece ser deficiente ou muito ampla, nós a recusaremos. Você pode ler mais sobre nosso trabalho com as autoridades policiais aqui.
  • Pesquisa independente: encomendamos pesquisas independentes de grupos de reflexão, acadêmicos e ONGs sobre vários tópicos de uso violento da internet por extremistas e terroristas para ajudar nosso setor a entender e avançar nessas questões importantes. Em 2022, a Meta anunciou uma parceria de pesquisa com a Central sobre Terrorismo, Extremismo e Contraterrorismo (Center on Terrorism, Extremism, and Counterterrorism) do Instituto de Estudos Internacionais de Middlebury para analisar tendências em evolução no extremismo violento e ferramentas eficazes que ajudem as comunidades a combatê-lo.
  • Interrupções estratégicas da rede: embora a maior parte do nosso monitoramento contra o terrorismo e o ódio organizado venha da remoção rotineira de conteúdo, às vezes isso não é suficiente. Este é um espaço adverso, e entidades perigosas designadas às vezes tentam burlar nosso monitoramento e reconstituir redes na nossa plataforma. Para combater essas redes, usamos uma abordagem fundamental chamada Interrupção Estratégica de Rede (SND, na sigla em inglês). Uma SND nos permite remover uma rede de agentes de organizações e indivíduos perigosos e já banidos de uma só vez, seja quando eles são designados pela primeira vez ou como parte do nosso trabalho contínuo para manter esses grupos designados fora da nossa plataforma. Desarticular esses aglomerados por completo dificulta o retorno deles à plataforma. Isso também envia uma mensagem clara de que estamos cientes da presença deles e que esses grupos não são bem-vindos nas nossas plataformas. Por fim, essa técnica nos permite estudar como essas organizações e indivíduos perigosos podem tentar contornar nossa detecção e retornar aos nossos apps depois que removermos suas contas.
Trabalho de prevenção
Na Meta, nos dedicamos a manter a segurança e a integridade das nossas plataformas. Uma das maneiras de conseguir isso é por meio da prevenção antecipada, que envolve tomar medidas proativas para impedir a disseminação de organizações e indivíduos perigosos antes que elas se enraízem em pessoas ou comunidades. Isso inclui o uso de intervenções direcionadas e a promoção de discurso positivo. Acreditamos que o diálogo construtivo é essencial e nos esforçamos para criar um ambiente que incentive essas trocas.
Para fortalecer ainda mais nossos esforços, trabalhamos ativamente com Organizações da Sociedade Civil (CSOs, na sigla em inglês) dedicadas a combater o extremismo, o ódio organizado e as atividades criminosas. Apoiamos essas organizações fortalecendo sua capacidade e fornecendo os recursos necessários para criar conteúdo de contradiscurso. Esse conteúdo desafia narrativas extremistas e oferece perspectivas alternativas, ajudando a promover um ambiente online mais positivo e inclusivo.
Nossa abordagem para combater o extremismo é multifacetada e proativa, envolvendo uma combinação de prevenção, colaboração e promoção de discurso positivo.
  • A The Resiliency Initiative é um programa que treina CSOs na Ásia, na África e nos Estados Unidos em estratégias de campanha de Prevenção/Combate ao Extremismo Violento (P/CVE) e desenvolve sua capacidade para campanhas eficazes de contradiscurso. Como parte da The Resiliency Initiative, a Meta lançou uma parceria nos EUA com a Search for Common Ground (SFCG) para apoiar parceiros comunitários que estão trabalhando localmente a fim de combater a violência alimentada pelo ódio e construir resiliência social e comunitária.
  • Pesquisas mais seguras: também, quando apropriado, indicamos recursos às pessoas quando elas pesquisam termos associados a organizações e indivíduos perigosos. Quando os usuários pesquisam por termos relativos a organizações e indivíduos perigosos no Facebook, no Instagram e no Threads, eles se deparam com recursos, ajudando a impedir pesquisas por conteúdo desse tipo e fornecendo recursos educacionais aos usuários.
    Também realizamos um programa de busca em vários países, incluindo a Austrália, os Estados Unidos, o Reino Unido, a Alemanha, a Índia, a Indonésia e o Paquistão. Se alguém pesquisar termos específicos para cada mercado e normalmente se concentrar em danos específicos de organizações e indivíduos perigosos, ofereceremos informações e recursos adicionais em colaboração com uma CSO local especializada em oferecer serviços de suporte a usuários em risco de extremismo.
  • Fornecimento de recursos para organizações comunitárias: também administramos um Programa de Anúncios de Segurança, que trabalha para dar suporte a parceiros de CSOs a fim de prevenir danos de forma proativa, fornecendo a eles créditos de publicidade e suporte estratégico quando estiverem executando programas de contradiscurso. Trabalhando em conjunto com essas organizações, pretendemos aumentar nossas parcerias para combater organizações e indivíduos perigosos.
Esse trabalho é contínuo, e sabemos que, enquanto organizações e indivíduos perigosos existirem no mundo, eles existirão na internet, e é por isso que permanecemos alertas. Esses grupos adotam novas táticas para evitar a detecção e/ou tentar driblar nossas políticas e nosso monitoramento. Esse comportamento adversário é o motivo pelo qual estamos constantemente trabalhando para estar um passo à frente, avaliando e atualizando nossa abordagem.