Nuestro enfoque en cuanto a organizaciones y personas peligrosas

ÚLTIMA ACTUALIZACIÓN 11 NOV. 2024
En nuestra plataforma no hay lugar para grupos o personas que fomenten la violencia, el crimen organizado, el odio o el terrorismo. Tras años de trabajo, hemos desarrollado (y lo seguimos haciendo) políticas y procesos relativos a personas y organizaciones peligrosas para abordar este tipo de contenido. Si bien tenemos el compromiso de ofrecer un espacio en el que las personas puedan hablar sobre los acontecimientos que ocurren en el mundo y repercuten en su vida, sus familias y sus comunidades, el propósito de nuestra política es establecer un límite claro de lo que no está permitido en nuestras plataformas.
policy-image
Nuestras políticas se han diseñado para proteger las plataformas
Meta cuenta con una de las políticas más completas del sector en lo referente a organizaciones terroristas, grupos de odio, organizaciones de crimen organizado (por ejemplo, cárteles), entidades que fomentan la violencia y autores de hechos infractores designados, como tiroteos masivos o ataques terroristas.
En virtud de esta Política sobre organizaciones y personas peligrosas, designamos y vetamos a personas y organizaciones implicadas en dichas actividades, además de suprimir el contenido que las glorifica o apoya en cuanto tenemos constancia de ello. También designamos y vetamos las entidades que inducen a la violencia (aquellas que se preparan para futuros actos violentos o los promueven, pero que no necesariamente los han cometido anteriormente) y suprimimos el contenido que las apoya o glorifica.
Nuestras políticas son públicas y puedes obtener más información al respecto en la página de las Normas comunitarias. Además, en nuestro informe trimestral de cumplimiento de las Normas comunitarias, publicamos periódicamente información sobre la cantidad de contenido de este tipo que suprimimos.
Cómo y por qué efectuamos designaciones
No admitimos que organizaciones ni personas que proclamen una misión violenta o de odio, o estén involucradas en actos de violencia, tengan presencia en Meta. Evaluamos estas entidades en función de su comportamiento dentro y fuera de internet, atendiendo principalmente a sus vínculos con la violencia. De conformidad con esta política, designamos a personas, organizaciones y redes de personas. Para garantizar que la aplicación de las políticas sea más efectiva, proporcionada y coherente, dividimos las designaciones en dos niveles. Puedes ver más detalles sobre dichos niveles y los tipos de organizaciones que incluye cada uno de ellos en las Normas comunitarias.
Contamos con un sólido proceso interno (que tiene en cuenta muchas fuentes de información) para evaluar la posible designación de organizaciones y personas. Desarrollar nuestras propias definiciones y procesos de designación, independientes de regiones o ideologías, nos permite ser firmes, equitativos y proactivos a la hora de proteger nuestras plataformas.
No se trata de una labor estática. Evaluamos los riesgos y analizamos grupos y personas para su posible designación de manera continua y en función de su comportamiento, circunstancias cambiantes, nueva información disponible, análisis de expertos internos y aportes de partes externas. Por ejemplo, como anunciamos en enero de 2024, cuando una organización o persona designada rectifica su comportamiento, también reúne los requisitos para que la suprimamos de nuestra lista, específicamente si (1) el gobierno de Estados Unidos no la ha designado como traficante de narcóticos especialmente designado, organización terrorista extranjera o terrorista mundial especialmente designado; (2) ya no participa en actos de violencia u odio; y (3) no es símbolo de odio y violencia, ni se la utiliza para incitar a más violencia o distribuir propaganda violenta o de odio.
Si bien valoramos muchísimo la transparencia y evaluamos continuamente las ventajas y desventajas de publicar los detalles de nuestra lista de designación, actualmente no lo hacemos a fin de mitigar riesgos legales y de seguridad, así como para evitar que estos agentes peligrosos eludan nuestros mecanismos de aplicación de políticas.
Cómo aplicamos la política sobre organizaciones y personas peligrosas
Hacemos inversiones importantes en recursos humanos, tecnología, asociaciones e investigaciones para luchar contra la actividad de personas y organizaciones peligrosas.
  • Tecnología: abordamos este espacio a través de una combinación de IA e inteligencia humana. Además, invertimos en investigaciones y colaboramos con organizaciones y expertos externos para estar al tanto de este entorno en constante cambio. Usamos la IA para detectar vídeos, imágenes, audio, texto e incluso elementos gráficos, como logotipos y representaciones de violencia. Asimismo, ponemos a disposición del sector herramientas de código abierto para que nuestros socios puedan acceder a una tecnología que les permita luchar contra personas y organizaciones peligrosas en sus propias plataformas. Por ejemplo, en diciembre de 2022, a fin de que a todas las empresas del sector les resultara más fácil mantener sus plataformas libres de contenido terrorista, pusimos a disposición una herramienta de software de código abierto gratuita denominada Hasher Matcher Actioner (HMA), que permite a las plataformas detectar copias de imágenes o vídeos y tomar medidas al respecto de forma masiva.
  • Personas: el contexto y el idioma suelen ser asuntos complejos, por lo que la tecnología no siempre es capaz de distinguir la glorificación de una persona u organización peligrosa de una crítica culturalmente específica. Por ello, Meta ha invertido miles de millones de dólares y cuenta con casi 40 000 personas que trabajan en seguridad y protección. Entre ellas, tenemos un equipo interdisciplinario compuesto por cientos de personas con conocimientos específicos, como aplicación de leyes y seguridad nacional, inteligencia antiterrorismo y estudios académicos sobre la radicalización, que llevan a cabo esta labor.
  • Asociaciones: mientras haya actividades perjudiciales en el mundo, también las habrá en internet. Eso es algo que ninguna empresa puede resolver por sí sola. Así pues, es indispensable colaborar con otras partes, como empresas, la sociedad civil, investigadores y gobiernos. Colaboramos con gobiernos y agencias intergubernamentales de todo el mundo, y nos asociamos con organizaciones expertas en terrorismo, extremismo violento, ciberinteligencia y comportamientos adversarios online.
    • GIFCT: en 2017 unimos fuerzas con YouTube, Microsoft y Twitter para crear el Foro Global Contra el Terrorismo (GIFCT), una organización creada con el objetivo de prevenir que terroristas y extremistas violentos exploten las plataformas digitales. GIFCT se convirtió en una ONG independiente en 2019 y coordina la respuesta ante emergencias del sector cuando se producen ataques.
    • Cuerpos de seguridad: cuando tenemos constancia de una amenaza específica, creíble e inminente contra la vida de una persona, no dudamos en notificárselo a los cuerpos de seguridad. Meta colabora también con los cuerpos de seguridad cuando ocurren ataques violentos, aunque siempre analizamos en detalle cada solicitud gubernamental para constatar que es legalmente válida y coherente con las normas de derechos humanos reconocidas a nivel internacional, incluidas las de debido proceso, privacidad, libertad de expresión y estado de derecho. Si determinamos que una solicitud parece deficiente o demasiado ambigua, la rechazamos. Puedes obtener más información sobre nuestra labor con los cuerpos de seguridad aquí.
  • Investigaciones independientes: encargamos investigaciones independientes a grupos de expertos, académicos y ONG sobre diversos temas relacionados con el extremismo violento y el uso de internet con fines terroristas, de modo que nuestro sector esté al tanto de estos asuntos importantes y evolucione en consecuencia. En 2022, Meta anunció una investigación conjunta con el Center on Terrorism, Extremism, and Counterterrorism del Middlebury Institute of International Studies para analizar los cambios en las tendencias del terrorismo violento y las herramientas efectivas que ayudan a las comunidades a combatirlo.
  • Interrupciones de red estratégicas: si bien la mayoría de las medidas que aplicamos contra el terrorismo y el odio organizado proceden de la supresión rutinaria de contenido, en ocasiones no son suficientes. Estamos ante un espacio conflictivo, y las entidades designadas a veces intentan eludir nuestras medidas y volver a conformar redes en nuestra plataforma. Para combatir dichas redes, usamos un enfoque clave que denominamos interrupciones de red estratégicas. Estas interrupciones nos permiten suprimir de una sola vez una red de personas u organizaciones peligrosas ya prohibidas, ya sea cuando se las designa por primera vez, o como parte de nuestro trabajo constante para mantener estos grupos designados fuera de nuestra plataforma. Si se desarticulan estos grupos por completo, regresar a la plataforma les resulta más difícil. Además, esta medida envía un mensaje claro: estamos al tanto de su presencia y no son bienvenidos en nuestras plataformas. Por último, esta técnica nos permite estudiar cómo estas personas y organizaciones peligrosas intentan eludir nuestra detección, y cómo pueden intentar volver a nuestras aplicaciones tras suprimir sus cuentas.
Labor de prevención
En Meta, nos esforzamos por mantener la seguridad e integridad de nuestras plataformas. Para lograrlo, recurrimos, entre otras estrategias, a la prevención temprana, que implica tomar medidas proactivas para prevenir la difusión de contenido de personas y organizaciones peligrosas antes de que arraigue entre las personas o comunidades. Esto incluye realizar intervenciones dirigidas y promover discursos positivos. Creemos que es indispensable entablar un diálogo constructivo y nos esforzamos por generar un entorno que motive dichos intercambios de ideas.
Para reforzar aún más nuestras iniciativas, trabajamos activamente con organizaciones de la sociedad civil que se dedican a luchar contra el extremismo, el odio organizado y las actividades criminales. Con el fin de apoyar a estas organizaciones, reforzamos sus capacidades y les proporcionamos los recursos necesarios para crear contenido contra ideologías extremistas. Este contenido desafía la narrativa extremista y ofrece perspectivas alternativas, lo que permite fomentar un entorno online más positivo e inclusivo.
Aplicamos un enfoque polifacético y proactivo en la lucha contra el extremismo, que combina la prevención, la colaboración y la promoción de discursos positivos.
  • The Resiliency Initiative es un programa que capacita a organizaciones de la sociedad civil para que pongan en marcha estrategias de campañas de prevención y lucha contra el extremismo violento en Asia, África y Estados Unidos. Consolida su capacidad para llevar a cabo campañas efectivas de discurso contra ideologías extremistas. Como parte de The Resiliency Initiative, Meta ha iniciado una colaboración en Estados Unidos con Search for Common Ground (SFCG) para respaldar a los socios de la comunidad que trabajan localmente para combatir la violencia engendrada por el odio y consolidar la resiliencia social y comunitaria.
  • Búsquedas más seguras: si corresponde, también dirigimos a las personas a recursos cuando buscan términos asociados con personas y organizaciones peligrosas. Cuando los usuarios buscan términos relacionados con ellas en Facebook, Instagram y Threads, en su lugar se les proporcionan recursos educativos, que también sirven para disuadirlos de buscar este tipo de contenido.
    También llevamos a cabo un programa de investigación en varios países, incluidos Australia, Estados Unidos, Reino Unido, Alemania, India, Indonesia y Pakistán. Si una persona busca términos específicos de cada mercado y se centra particularmente en los daños que las personas u organizaciones peligrosas causan, le ofrecemos información y recursos adicionales en colaboración con una organización de sociedad civil local que se especializa en ofrecer servicios de apoyo a los usuarios que están en riesgo de extremismo.
  • Recursos para las organizaciones comunitarias: también tenemos un programa de anuncios seguros, cuyo fin es respaldar a los socios de organizaciones de la sociedad civil a fin de prevenir daños de manera proactiva. Para ello, les ofrecemos créditos y apoyo estratégico cuando ponen en marcha programas de discurso contra ideologías extremistas. Al trabajar con estas organizaciones, buscamos aumentar las colaboraciones en la lucha contra personas y organizaciones peligrosas.
Se trata de una labor en curso y sabemos que, siempre que haya personas y organizaciones peligrosas en el mundo, las habrá en internet, por lo que estamos alerta en todo momento. Estos grupos adoptan nuevas tácticas para evitar la detección e intentan evadir nuestras políticas y su aplicación. Por eso, trabajamos continuamente para ir un paso por delante de ellos, y es por ello por lo que evaluamos y actualizamos nuestro enfoque constantemente.