Notre approche en matière d’organismes et d’individus dangereux
MIS À JOUR 11 NOV. 2024
Il n’y a pas de place sur notre plateforme pour les groupes ou les personnes qui font la promotion de la violence, du crime organisé, de la haine ou du terrorisme. Au fil des années, nous avons élaboré (et continuons d’élaborer) des politiques et des procédures relatives aux organismes et aux individus dangereux afin de lutter contre ce type de contenu. Bien que nous soyons déterminés à fournir un espace permettant aux personnes d’évoquer les évènements qui se produisent dans le monde et qui ont un impact sur leur vie, leur famille et leur communauté, notre politique vise à fixer des limites concernant le contenu interdit sur nos plateformes.
Nos politiques sont élaborées pour garantir la sécurité de nos plateformes
Meta a mis en place l’une des politiques les plus complètes du secteur, ciblant les organisations terroristes, les groupes incitant à la haine, les organisations criminelles organisées telles que les cartels, les entités incitant à la violence et les auteurs d’évènements violents désignés, tels que les fusillades de masse ou les attaques terroristes.
Dans le cadre de cette politique sur les organismes et les individus dangereux, nous désignons et bannissons les personnes et les organisations impliquées dans ces activités, et nous cessons de les glorifier et de les soutenir lorsque nous en avons connaissance. Nous désignons et bannissons également les entités qui incitent à la violence, c’est-à-dire les entités qui préparent ou prônent des actes de violence, mais qui à ce jour ne se sont pas encore livrées à de tels actes. De plus, nous nous interdisons de les glorifier et de les soutenir.
Nos politiques sont publiques et vous pouvez en savoir plus à ce sujet sur notre page Standards de la communauté. Par ailleurs, nous publions régulièrement des informations sur la quantité de ces contenus que nous supprimons dans notre rapport trimestriel sur les Standards de la communauté.
Fonctionnement et raisons de la désignation
Nous n’autorisons pas la présence d’organismes ou d’individus qui revendiquent une action violente ou haineuse ou qui se livrent à des actes de violence sur les plateformes Meta. Nous évaluons ces entités selon leur comportement en ligne et hors ligne, et plus particulièrement selon les liens qu’elles entretiennent avec la violence. Dans le cadre de cette politique, nous désignons des individus, des organismes et des réseaux de personnes. Afin de garantir une mise en application plus efficace, proportionnée et cohérente, nous avons réparti les désignations sur deux niveaux. Pour en savoir plus sur ces niveaux et sur les types d’organisations qu’ils englobent, consultez nos Standards de la communauté..
Nous avons mis en place notre propre processus interne, qui prend en compte de nombreuses sources d’informations, pour évaluer les organismes et les individus susceptibles d’être désignés. L’élaboration de nos propres définitions et processus de désignation, quelle que soit la région ou l’idéologie, nous permet d’être efficaces, équitables et proactifs pour protéger nos plateformes.
Il s’agit là d’un travail complexe. Nous évaluons en permanence les risques ainsi que les groupes et individus à désigner en fonction de leur comportement, de l’évolution des circonstances, des nouvelles informations, de l’analyse des experts internes et des contributions des parties prenantes externes. Par exemple, comme nous l’avons annoncé en janvier 2024, lorsqu’un organisme ou un individu désigné change de comportement, il peut également être retiré de notre liste, en particulier s’il (1) n’est pas considéré par le gouvernement des États-Unis comme une plaque tournante du trafic de stupéfiants spécialement désignée (SDNTK), une organisation terroriste étrangère (FTO) ou un terroriste international spécialement désigné (SDGT) ; (2) ne se livre plus à des actes de violence ou de haine ; et (3) ne symbolise pas la violence et la haine et n’est pas destiné à inciter à la violence ou à diffuser de la propagande violente ou haineuse.
Bien que nous soyons très attachés à la transparence et que nous évaluions en permanence le pour et le contre, nous ne communiquons pas actuellement les détails de notre liste de désignation afin de réduire les risques juridiques et de sécurité et d’empêcher ces acteurs dangereux de contourner nos mécanismes de mise en application.
Comment nous mettons en application notre politique en matière d’organismes et d’individus dangereux
Nous investissons massivement dans les personnes, les technologies, les partenariats et la recherche pour contrer les activités des organismes et individus dangereux.
- La technologie : nous abordons cet espace en combinant l’IA et l’intelligence humaine et investissons dans la recherche et travaillons avec des spécialistes et des organisations externes pour suivre de près l’évolution de cet environnement. Nous utilisons l’IA pour détecter les vidéos, les images, les sons, les textes et même les illustrations, telles que les logos et les représentations de la violence. Nous mettons également à la disposition de l’ensemble du secteur des outils open source afin d’aider nos partenaires à accéder à la technologie pour lutter contre les organismes et les individus dangereux sur leurs propres plateformes. Par exemple, en décembre 2022, afin de permettre à chaque entreprise du secteur de veiller plus facilement à ce que ses plateformes soient exemptes de contenu de nature terroriste, nous avons mis à disposition « Hasher Matcher Actioner » (HMA), un outil logiciel open source gratuit qui aidera les plateformes à identifier les copies d’images ou de vidéos et à prendre des mesures à leur encontre de façon massive.
- Les personnes : le contexte et le langage sont souvent complexes et la technologie ne peut pas toujours distinguer la glorification d’un organisme ou d’un individu dangereux d’une critique propre à une culture donnée. C’est pourquoi Meta a investi des milliards de dollars et compte près de 40 000 personnes chargées d’assurer la protection et la sécurité. Dans ce cadre, nous disposons d’une équipe interfonctionnelle composée de centaines de personnes dont l’expertise va de l’application de la loi et de la sécurité nationale au renseignement antiterroriste et aux études universitaires sur la radicalisation, qui se consacrent à ce travail.
- Les partenariats : tant que des activités nuisibles existeront dans le monde, elles se produiront sur Internet, et aucune entreprise ne peut résoudre ces problèmes toute seule. Les partenariats avec d’autres acteurs (entreprises, société civile, chercheur·ses et gouvernements) sont donc essentiels. Nous collaborons avec des gouvernements et des organismes intergouvernementaux du monde entier, et nous nous associons à des organisations spécialisées dans le terrorisme, l’extrémisme violent, le cyber-renseignement et le comportement néfaste en ligne.
- GIFCT : nous avons uni nos forces avec YouTube, Microsoft et Twitter en 2017 pour créer le Forum mondial d’Internet contre le terrorisme (GIFCT), une organisation créée dans le but d’empêcher les terroristes et les extrémistes violents d’utiliser les plateformes numériques. Le GIFCT est devenu une ONG indépendante en 2019 et coordonne les services de crise dans le secteur en cas d’attaques.
- Forces de l’ordre : lorsque nous prenons connaissance d’une menace spécifique, imminente et crédible pour la vie humaine, nous n’hésitons pas à en informer les forces de l’ordre. Meta collabore également avec la police en cas d’attaques violentes, mais examine toujours minutieusement chaque demande gouvernementale qu’elle reçoit pour s’assurer qu’elle est juridiquement valable et conforme aux standards internationalement reconnus en matière de droits humains, notamment en ce qui concerne les procédures, la confidentialité, la liberté d’expression et l’État de droit. Si nous estimons qu’une demande est incomplète ou trop large, nous la rejetons. Pour en savoir plus sur notre collaboration avec les forces de l’ordre, cliquez ici.
- Recherche indépendante : nous commandons des recherches indépendantes auprès de groupes de réflexion, d’universitaires et d’ONG sur divers sujets liés à l’utilisation d’Internet par les extrémistes violents et les terroristes afin d’aider notre secteur à comprendre ces questions importantes et à progresser à leur sujet. En 2022, Meta a annoncé un partenariat de recherche avec le Middlebury Institute of International Studies’Center on Terrorism, Extremism, and Counterterrorism afin d’analyser les tendances évolutives de l’extrémisme violent et les outils efficaces qui aident les communautés à y faire face.
- Démantèlements stratégiques des réseaux : bien que la plupart de nos mesures de lutte contre le terrorisme et la haine organisée reposent sur la suppression systématique de contenus, cela ne suffit pas toujours. Il s’agit d’un espace conflictuel, et des entités dangereuses désignées tentent parfois de contourner nos règles et de reconstituer des réseaux sur notre plateforme. Pour lutter contre ces réseaux, nous adoptons une approche clé appelée « Démantèlement stratégique des réseaux ». Cette approche nous permet de supprimer d’un seul coup un réseau d’acteurs dangereux déjà exclus, soit au moment de leur désignation, soit dans le cadre de notre action continue visant à exclure ces groupes désignés de notre plateforme. En supprimant ces groupes dans leur intégralité, il est plus difficile pour eux de revenir sur la plateforme. Elle envoie également un message clair indiquant que nous sommes conscients de leur présence et que ces groupes ne sont pas les bienvenus sur nos plateformes. Enfin, cette technique nous permet d’étudier comment ces organismes et individus dangereux pourraient essayer de contourner notre système de détection et de revenir sur nos applications après suppression de leurs comptes.
- En juin 2023, la revue spécialisée indépendante Proceedings of the National Academy of Sciences (PNAS) a publié un article rédigé par les chercheur·ses de Meta Daniel Robert Thomas et Laila A. Wahedi, qui étudient l’efficacité de notre méthode de démantèlement stratégique des réseaux pour démanteler les groupes incitant à la haine. Nous avons constaté que cette méthode fonctionne et qu’elle favorise une expérience d’utilisation plus saine et plus sûre sur nos plateformes.
Un travail de prévention
Chez Meta, nous nous engageons à garantir la sécurité et l’intégrité de nos plateformes. Pour ce faire, nous recourons notamment à la prévention en amont, qui consiste à prendre des mesures proactives pour empêcher la propagation des organismes et individus dangereux avant qu’ils ne touchent les personnes ou les communautés. Il s’agit notamment d’interventions ciblées et de la promotion d’un discours positif. Nous estimons qu’un dialogue constructif est essentiel et nous nous efforçons de créer un environnement propice à de tels échanges.
Pour intensifier nos efforts, nous collaborons activement avec des organisations de la société civile (OSC) spécialisées dans la lutte contre l’extrémisme, la haine organisée et les activités criminelles. Nous soutenons ces organisations en renforçant leurs capacités et en leur fournissant les ressources nécessaires pour créer du contenu de contre-discours. Ce type de contenu remet en question les récits extrémistes et offre d’autres perspectives, favorisant ainsi un environnement en ligne plus positif et inclusif.
Notre approche de la lutte contre l’extrémisme est multidimensionnelle et proactive. Elle combine la prévention, la collaboration et la promotion d’un discours positif.
- L’initiative pour la résilience est un programme qui forme les OSC d’Asie, d’Afrique et des États-Unis aux stratégies de campagne de prévention et de lutte contre l’extrémisme violent (P/CVE), et renforce leur capacité à mener des campagnes efficaces de contre-discours. Dans le cadre de l’Initiative pour la résilience, Meta a établi un partenariat aux États-Unis avec Search for Common Ground (SFCG) afin de soutenir les partenaires locaux qui œuvrent à la lutte contre la violence haineuse et au renforcement de la résilience de la société et de la communauté.
- Des recherches plus sûres : nous redirigeons également, le cas échéant, les personnes vers des ressources lorsqu’elles recherchent des termes associés à des organismes ou à des individus dangereux. Lorsque les personnes recherchent des termes liés aux organismes et aux individus dangereux sur Facebook, Instagram et Threads, elles se voient plutôt proposer des ressources pédagogiques, ce qui permet de décourager la recherche de contenus associés à ces organismes ou individus.Nous gérons également un programme de recherche dans plusieurs pays, notamment en Australie, aux États-Unis, au Royaume-Uni, en Allemagne, en Inde, en Indonésie et au Pakistan. Si une personne recherche des termes propres à chaque marché et généralement axés sur des préjudices spécifiques causés par les organismes et individus dangereux, nous mettons à sa disposition des informations et des ressources supplémentaires en collaboration avec une OSC locale spécialisée dans l’offre de services d’assistance aux personnes exposées au risque d’extrémisme.
- Fournir des ressources aux organisations communautaires : nous gérons également un programme de publicités sur la sécurité, qui vise à aider les OSC partenaires à prévenir les préjudices de manière proactive en leur fournissant des crédits publicitaires et une assistance stratégique lorsqu’elles mettent en œuvre des programmes de contre-discours. En collaborant avec ces organisations, nous cherchons à développer nos partenariats pour lutter contre les organismes et individus dangereux.
Il s’agit d’un travail continu. De plus, nous savons que tant que des organismes et des individus dangereux existeront dans le monde, ils seront présents sur Internet. C’est pourquoi nous restons vigilants. Ces groupes adoptent de nouvelles stratégies pour éviter d’être repérés ou pour tenter de contourner nos politiques et leur mise en application. C’est en raison de ce comportement néfaste que nous nous efforçons constamment de garder une longueur d’avance, en évaluant et en adaptant notre approche.