Comment nous évaluons les risques mondiaux et nous préparons à y faire face
MIS À JOUR 29 AVR. 2024
Meta évalue constamment les risques de préjudice imminent pendant les évènements critiques afin de pouvoir réagir en adoptant des politiques et des actions de protection ciblées et limitées dans le temps. Cette approche consiste notamment à examiner les risques avant et pendant les évènements locaux, régionaux et nationaux, par exemple les élections.
En réaction à des évènements à haut risque, Meta dispose de plusieurs approches pour faire face à divers scénarios, par exemple en modifiant ou en limitant les fonctionnalités des produits, en introduisant des limites de fréquence d’envoi de messages et en limitant la diffusion de contenu, entre autres.
Nous identifions les tendances potentiellement dangereuses en recueillant des informations issues de rapports publics, en examinant les recommandations de nos partenaires de confiance, en observant en permanence les tendances en matière de contenu, en effectuant des vérifications préalables en matière de droits humains et en examinant les évaluations de nos équipes de renseignement. Ces informations, associées aux Standards de la communauté et aux systèmes d’application existants, nous aident à déterminer le type de mesures correctives à mettre en place au niveau des produits et des politiques afin de prévenir les abus en période de crise, notamment lors d’élections à haut risque. Ceux-ci comprennent notre Protocole de politique de crise, qui nous aide à évaluer les moyens de gérer les risques liés au contenu et à distinguer les mesures que nous pouvons prendre pour adapter nos systèmes en réaction à un risque accru.
Une mesure d’atténuation importante et potentielle pourrait consister à désigner des lieux comme lieux à haut risque temporaire, afin de traiter certains types de contenus potentiellement violents dans des lieux identifiés comme présentant un risque élevé en raison d’évènements dans le monde réel. En plus de ses outils et cadres stratégiques destinés à atténuer les crises, Meta s’appuie également sur les centres d’opérations chargés de l’intégrité des produits (IPOC), qui rassemblent différentes équipes, des spécialistes en la matière et des compétences provenant de toute l’entreprise, selon les besoins et parfois avant qu’une situation particulière ne se présente, afin de réagir en temps réel aux problèmes ou tendances potentiels.
Au cours d’une élection donnée, un IPOC surveillera plusieurs sources, notamment des outils d’analyse de données, les contributions de partenaires de confiance et les médias traditionnels. Nous surveillons également les tendances dans les signalements des utilisateurs et utilisatrices et les contenus signalés par nos classificateurs.
Bien qu’il s’agisse de deux processus distincts, la procédure de désignation des lieux à haut risque temporaire et la procédure d’examen de la désignation d’un protocole de politique de crise s’appuient sur certains des mêmes signaux indiquant un risque accru de violence ou de préjudice hors ligne. Bien que nous puissions envisager de désigner un lieu à haut risque temporaire en cas de crise, cela ne dépend pas de la désignation d’un protocole de politique de crise.
Nos équipes surveillent en permanence nos plateformes afin d’évaluer l’évolution des risques et de déterminer les ajustements à apporter en réponse aux pics ou aux changements dans les signaux que nous suivons. Cliquez ici pour en savoir plus sur les mesures que nous prenons pour adapter nos systèmes en réponse à un risque accru.