A nossa abordagem a pessoas e organizações perigosas

ATUALIZADO 11/11/2024
Na nossa plataforma, não há espaço para grupos ou pessoas que promovem violência, crime organizado, ódio ou terrorismo. Ao longo de anos de trabalho desenvolvemos, e continuamos a desenvolver, políticas relativas a pessoas e organizações perigosas e processos para abordar este tipo de conteúdos. Embora estejamos empenhados em disponibilizar um espaço para as pessoas poderem falar sobre eventos que acontecem em todo o mundo e afetam as suas vidas, famílias e comunidades, a nossa política existe para definir um limite sobre o que não é permitido nas nossas plataformas.
policy-image
As nossas políticas foram concebidas para manter as nossas plataformas seguras
A Meta possui uma das políticas mais abrangentes do setor destinada à deteção de organizações terroristas, grupos de ódio, organizações de crime organizado como cartéis, entidades que promovem a violência e responsáveis por eventos em infração designados, como tiroteios em massa ou ataques terroristas.
Ao abrigo da presente política relativa a pessoas e organizações perigosas, designamos e banimos pessoas e organizações envolvidas em atividades, e removemos a glorificação e o apoio das mesmas quando tomamos conhecimento. Também designamos e banimos entidades que promovem a violência – entidades que estejam envolvidas na preparação ou promoção de violência no futuro, mas que não estiveram necessariamente envolvidas em violência até à data – e também removemos a glorificação e o apoio às mesmas.
As nossas políticas são públicas e podes ler mais detalhes sobre as mesmas na nossa página dos Padrões da Comunidade. Além disso, publicamos regularmente detalhes sobre a quantidade de conteúdos deste tipo que removemos no nosso relatório trimestral sobre os Padrões da Comunidade.
Como e por que motivo designamos
Não permitimos que as organizações ou pessoas que declarem ter uma missão violenta ou que incentivem o ódio ou que estejam envolvidas em violência tenham uma presença nas plataformas da Meta. Avaliamos estas entidades com base no seu comportamento online e offline e, de forma mais significativa, nas suas ligações à violência. Ao abrigo da presente política, designamos pessoas singulares, organizações e redes de pessoas. Para garantir uma aplicação das regras mais eficaz, proporcionada e consistente, dividimos as designações em dois níveis. Podes ler mais sobre estes níveis, e os tipos de organizações que cada um engloba, nos nossos Padrões da Comunidade.
Dispomos do nosso próprio processo interno robusto – que tem em consideração várias fontes de informação – que utilizamos para avaliar pessoas e organizações para uma possível designação. Desenvolver as nossas próprias definições e o processo para a designação, independentemente da região ou ideologia, permite-nos proteger as nossas plataformas de forma robusta, justa e proativa.
Este trabalho não é estático. Estamos continuamente a analisar riscos e a avaliar grupos e pessoas para designação com base no respetivo comportamento, circunstâncias em alteração, novas informações, análise interna de especialistas e contribuições de partes interessadas externas. Por exemplo, conforme anunciado em janeiro de 2024, quando uma organização ou pessoa designada altera o respetivo comportamento, também é elegível para a remoção da nossa lista – especificamente se 1) não for designada pelo governo dos EUA como Specially Designated Narcotics Trafficking Kingpin (SDNTK) (chefe de tráfico de narcóticos especialmente designado); Foreign Terrorist Organization (FTO) (organização terrorista estrangeira); ou Specially Designated Global Terrorist (SDGT) (terrorista global especialmente designado); 2) já não estiver envolvida em violência ou ódio; e 3) não for simbólica para violência e ódio ou a ser utilizada para promover violência ou divulgar propaganda violenta ou de ódio.
Embora a transparência seja muito importante para nós e estejamos continuamente a avaliar as contrapartidas, neste momento, não partilhamos os detalhes da nossa lista de designação, com o objetivo de mitigar os riscos jurídicos e de segurança e impedir que estes agentes perigosos contornem os nossos mecanismos de aplicação das regras.
Como aplicamos as regras contra organizações e pessoas perigosas
Investimos profundamente nas pessoas, na tecnologia, nas parcerias e na pesquisa para combater atividade de pessoas e organizações perigosas.
  • Tecnologia: abordamos este espaço através de uma combinação de IA e inteligência humana – e também investimos na investigação e trabalhamos com organizações e especialistas externos para nos mantermos a par deste ambiente em mudança. Utilizamos IA para detetar vídeo, imagens, áudio, texto e até gráficos como logótipos e representações de violência. Também disponibilizamos ferramentas de código aberto no setor para ajudar os parceiros a acederem a tecnologia para combater pessoas e organizações perigosas nas suas próprias plataformas. Por exemplo, em dezembro de 2022, para ajudar todas as empresas da indústria a manterem as respetivas plataformas livres de conteúdos terroristas, disponibilizámos a "Hasher Matcher Actioner" (HMA), uma ferramenta de software de código aberto gratuita que vai ajudar as plataformas a identificar cópias de imagens ou vídeos e tomar medidas em massa contra as mesmas.
  • Pessoas: o contexto e a linguagem são complexos e a tecnologia nem sempre consegue distinguir a glorificação de uma pessoa e organização perigosas de uma crítica culturalmente específica. É por este motivo que a Meta investiu milhares de milhões de dólares e tem cerca de 40 mil pessoas a trabalhar em proteção e segurança. Neste grupo, temos uma equipa multifuncional dedicada a este trabalho com centenas de pessoas especializadas em matérias desde aplicação da lei e segurança nacional a inteligência contraterrorismo e estudos académicos em radicalização.
  • Parcerias: enquanto existirem atividades prejudiciais no mundo, vão também existir na Internet, e nenhuma empresa pode resolver estes problemas de forma autónoma. É por este motivo que as parcerias com outras entidades – empresas, sociedade civil, investigadores e governos – são tão cruciais. Trabalhamos com governos e agências intergovernamentais em todo o mundo, e criamos parcerias com organizações especializadas em terrorismo, extremismo violento, inteligência cibernética e comportamento contraditório online.
    • GIFCT: em 2017, unimos forças com o YouTube, a Microsoft e o Twitter para criar o Global Internet Forum to Counter Terrorism (GIFCT) (fórum mundial da Internet contra o terrorismo), uma organização criada com o objetivo de impedir que os terroristas e extremistas violentos explorem as plataformas digitais. O GIFCT tornou-se uma ONG independente em 2019 e coordena a resposta a situações críticas no setor na resposta a ataques.
    • Aplicação das regras: quando tomamos conhecimento de uma ameaça à vida humana específica, iminente ou credível, não hesitamos em notificar as autoridades. A Meta também trabalha com as autoridades em matéria de ataques violentos, apesar de escrutinarmos sempre todos os pedidos governamentais que recebemos para garantir que são legalmente válidos e consistentes com as normas internacionalmente reconhecidas sobre direitos humanos, incluindo o direito à apreciação equitativa, à privacidade, à liberdade de expressão e ao primado do Estado de direito. Se determinarmos que um pedido parece ser irregular ou demasiado amplo, recusamo-lo. Podes ler mais sobre o nosso trabalho com as autoridades aqui.
  • Investigação independente: encomendamos investigações independentes a grupos de reflexão, académicos e ONG sobre vários tópicos relacionados com a utilização da Internet por parte de extremistas violentos e terroristas, para ajudar o nosso setor a compreender e a fazer progressos nestes assuntos relevantes. Em 2022, a Meta anunciou uma parceria de investigação com o Center on Terrorism, Extremism, and Counterterrorism (centro de terrorismo, extremismo e contraterrorismo) do Middlebury Institute of International Studies (instituto de Middlebury de estudos internacionais) para analisar as tendências em evolução de extremismo violento e as ferramentas eficazes para ajudar as comunidades a combatê-las.
  • Interrupções estratégicas da rede: embora a maioria da nossa aplicação das regras contra terrorismo e incentivo ao ódio organizado se baseie na rotina de remoção de conteúdos, por vezes, isso não é suficiente. Este é um espaço contraditório e, por vezes, entidades perigosas designadas tentam contornar a nossa aplicação das regras e recriar redes na nossa plataforma. Para combater estas redes, utilizamos uma abordagem denominada interrupção estratégica da rede. Uma interrupção estratégica da rede permite-nos remover de uma só vez uma rede de pessoas e organizações perigosas já banidos, quando foram designados pela primeira vez ou como parte do nosso trabalho em curso para manter estes grupos designados fora da nossa plataforma. Desativar estes conjuntos na sua totalidade faz com que seja mais difícil para os mesmos regressar à plataforma. Também transmite uma mensagem clara de que temos conhecimento da sua presença e de que estes grupos não são bem-vindos nas nossas plataformas. Por fim, esta técnica permite-nos estudar a forma como estas pessoas e organizações perigosas podem tentar contornar a nossa deteção e tentar regressar às nossas apps depois de termos removido as respetivas contas.
Trabalho de prevenção
Na Meta, estamos dedicados a manter a segurança e integridade das nossas plataformas. Um dos métodos para atingir este objetivo é a prevenção a montante, que envolve tomar medidas proativas para impedir a propagação de pessoas e organizações perigosas antes de poderem enraizar-se em pessoas ou comunidades. Tal inclui utilizar intervenções direcionadas e promover um discurso positivo. Acreditamos que o diálogo construtivo é essencial e procuramos criar um ambiente que incentive estes intercâmbios.
Para reforçar os nossos esforços, trabalhamos ativamente com organizações da sociedade civil dedicadas ao combate do extremismo, do incentivo ao ódio organizado e de atividades criminosas. Apoiamos estas organizações através do aumento da respetiva capacidade e do fornecimento dos recursos necessários para criar conteúdos de contra-argumento. Estes conteúdos desafiam as narrativas extremistas e oferecem perspetivas alternativas, o que ajuda a promover um ambiente online mais positivo e inclusivo.
A nossa abordagem ao combate ao extremismo é multifacetada e proativa, ao envolver uma combinação de prevenção, colaboração e promoção de um discurso positivo.
  • A Resiliency Initiative (iniciativa de resiliência) é um programa que dá formação a organizações da sociedade civil na Ásia, em África e nos Estados Unidos da América através de estratégias de campanha de prevenção/combate ao extremismo violento e aumenta a respetiva capacidade para realizar campanhas de contra-argumento eficazes. Como parte da Resiliency Initiative, a Meta lançou uma parceria sediada nos EUA com a Search for Common Ground (SFCG) para apoiar parceiros baseados na comunidade que trabalham localmente para combater a violência fomentada pelo ódio e criar resiliência social e comunitária.
  • Pesquisas mais seguras: quando pertinente, também encaminhamos pessoas para recursos quando pesquisam termos associados a pessoas e organizações perigosas. Quando os utilizadores pesquisam termos de pessoas e organizações perigosas no Facebook, no Instagram e no Threads, são-lhes fornecidos recursos para ajudar a impedir pesquisas de conteúdos de pessoas e organizações perigosas e fornecer recursos educativos.
    Também desenvolvemos um programa de investigação em vários países, incluindo a Alemanha, a Austrália, os Estados Unidos da América, a Índia, a Indonésia, o Paquistão e o Reino Unido. Se alguém pesquisar termos específicos a cada mercado e, geralmente, se concentra em determinados danos de pessoas e organizações perigosas, disponibilizamos-lhe informações e recursos adicionais em colaboração com uma organização da sociedade civil local especializada em prestar serviços de apoio a utilizadores em risco de extremismo.
  • Fornecer recursos a organizações comunitárias: também desenvolvemos um programa de anúncios de segurança, que trabalha para apoiar organizações da sociedade civil parceiras com o objetivo de prevenir danos, de forma proativa, ao fornecer-lhes créditos de publicidade e apoio estratégico quando desenvolvem programas de contra-argumento. Ao trabalhar em conjunto com estas organizações, procuramos expandir as nossas parcerias para o combate a pessoas e organizações perigosas.
Este trabalho está em curso e sabemos que enquanto existirem pessoas e organizações perigosas no mundo, vão também existir na Internet. É por este motivo que nos mantemos alerta. Estes grupos utilizam novas táticas para evitar a deteção e/ou tentar contornar as nossas políticas e a aplicação das regras. Este comportamento contraditório é o motivo pelo qual estamos continuamente a trabalhar para estar sempre um passo à frente, através da avaliação e atualização da nossa abordagem.