Examen précis des contenus à l’impact fort grâce à notre système de recoupement

MIS À JOUR 12 NOV. 2024

Le 6 décembre 2022, le Conseil de surveillance a publié son avis consultatif (PAO) sur les règles de recoupement de Meta. Avec l’accord du Conseil, nous avons accepté d’examiner ce PAO et d’y répondre dans un délai de 90 jours, ce qui nous laisse le temps de prendre pleinement en considération chacune des recommandations. Pour en savoir plus sur le système de recoupement, consultez cette publication de notre Espace modération.

Présentation de la vérification croisée

Les utilisateurs et utilisatrices de Facebook et d’Instagram créent des milliards de contenus chaque jour. La modération du contenu à cette échelle présente des défis, notamment des compromis à faire entre les valeurs et les défis d’importance. Nous nous efforçons de vérifier dans les meilleurs délais les contenus potentiellement en infraction, puis de les supprimer si la violation de nos règles est avérée. Nous devons cependant trouver le juste équilibre entre cet objectif et le risque de « faux positifs » (des suppressions erronées de contenus qui n’enfreignent finalement pas nos règles) afin de protéger l’opinion des utilisateurs. (Nous désignons ici la « suppression » de contenu, terme que nous utilisons afin de décrire plus généralement des actions d’intégrité. Ces actions peuvent par ailleurs inclure, par exemple, l’utilisation d’écrans d’avertissement ou la suppression de pages).

Afin de contrebalancer ces considérations, Meta a mis en place le système de recoupement en vue d’identifier le contenu qui présente un risque plus important de faux positifs et de fournir des niveaux d’examen supplémentaires pour atténuer ce risque. Le recoupement applique des niveaux d’examen supplémentaires à certains contenus considérés comme en infraction par nos systèmes internes (grâce à l’automatisation ou à l’examen manuel), avec pour objectif d’empêcher ou de réduire les principales erreurs de modération de faux positifs susceptibles de survenir autrement en raison de nombreux facteurs, comme la nécessité de comprendre la nuance ou le contexte. (Nous faisons ici référence au « contenu » examiné par notre système de recoupement. Nous utilisons également le recoupement pour vérifier d’autres actions, comme la suppression d’une page ou d’un profil). Lorsque le recoupement apporte des niveaux d’examen supplémentaires, les examinateurs appliquent les mêmes Standards de la communauté que pour les autres contenus publiés sur Facebook ou Instagram.

Le système de recoupement contribue pleinement à la protection des droits humains. Par exemple, il inclut des entités et des publications émanant de journalistes qui travaillent dans des zones de conflit et des leaders de communauté qui sensibilisent l’opinion publique sur les cas de haine ou de violence. Les examens de recoupement prennent en compte le contexte qui s’avère utile au traitement adapté du contenu. Les examens de recoupement peuvent aussi s’appliquer aux entités civiques dont les utilisateurs font preuve d’un vif intérêt envers les propos de leurs leaders.

De plus, le recoupement joue un rôle fondamental dans la gestion des relations qu’entretient Meta avec nombre de nos partenaires commerciaux. La suppression erronée d’un contenu publié sur une page ou par un profil particulièrement suivi, par exemple, peut entraîner des expériences négatives à la fois pour les partenaires commerciaux de Meta et leurs nombreux abonnés. Nous appliquons également le recoupement à certains groupes d’envergure, si l’erreur concernée peut affecter des centaines de milliers ou des millions d’utilisateurs. Le recoupement ne dispense pas les partenaires commerciaux de Meta ni les groupes d’observer nos règles relatives au contenu, mais peut parfois apporter des niveaux d’examen supplémentaires afin de garantir leur bonne application.

Les utilisateurs de Facebook et d’Instagram publient des milliards de contenus chaque jour. Malgré les milliers d’examinateurs dévoués répartis partout dans le monde, il est impossible d’examiner manuellement chaque contenu susceptible d’enfreindre nos Standards de la communauté. Notre technologie détecte et supprime de manière proactive la grande majorité des contenus en infraction avant même que quelqu’un ne les signale. Dès qu’une publication est diffusée sur Facebook ou Instagram, notre technologie évalue si le contenu enfreint les Standards de la communauté. Dans la majorité des cas, la vérification est simple. Soit la publication enfreint clairement nos politiques, soit elle ne les enfreint pas. Il peut cependant arriver que le contenu soit transmis pour examen manuel afin d’approfondir l’évaluation.

Nos systèmes d’examen primaire utilisent la technologie afin de prioriser le contenu de haute gravité incluant du contenu « viral » qui se répand rapidement. Lorsque nos systèmes identifient un contenu pour examen manuel, nos examinateurs établissent des jugements difficiles et souvent nuancés afin de déterminer si le contenu est légitime sur la plateforme. Bien que nous nous évertuions sans relâche à prendre les bonnes décisions, nous devons reconnaître que des faux positifs peuvent survenir et que certains contenus sont classés comme devant être supprimés pour violation des règles de Meta, alors qu’il n’en est rien. Meta a cependant investi dans la prévention contre les erreurs afin de mieux examiner les faux positifs et d’en réduire le risque. Le recoupement constitue l’une de ces stratégies de prévention contre les erreurs.

Le système de recoupement sert à garantir la bonne mise en application des décisions avec des niveaux supplémentaires d’examen manuel. Si un examinateur confirme pendant le recoupement que le contenu enfreint nos Standards de la communauté, nous appliquons ces règles et résolvons en conséquence le contenu qui pose problème. En fonction de la complexité du contenu, nous pouvons appliquer différents niveaux d’examen, et notamment, dans de rares cas, demander l’examen de la direction. Dans l’éventualité où l’examen final déterminerait que le contenu concerné n’enfreint pas nos Standards de la communauté, l’examinateur ou examinatrice peut « annuler » l’action initiale et conserver le contenu sur la plateforme.

Historique des pratiques de vérification croisée

Nous avons initialement mis en place ce système de recoupement en 2013. Les détails du système ont évolué au fil des ans et, chaque fois que c’était possible, nous avons indiqué des dates et des périodes concernant la survenue de ces changements.

En vue de déterminer le contenu ou les entités ayant fait l’objet d’un examen de recoupement, nos équipes ont identifié et dressé des listes d’utilisateurs ou d’entités dont le risque de faux positifs est plus élevé. Le « risque de faux positifs » désigne le risque de sanction incorrecte contre un contenu ou des entités qui en réalité n’enfreignent pas nos Standards de la communauté. En vue d’identifier les utilisateurs et les entités associés à un plus grand risque de faux positif, nos équipes ont appliqué de nombreux critères, comme le type d’utilisateur ou d’entité (par exemple, un élu, un journaliste, un partenaire commercial important, une organisation de défense des droits humains), le nombre d’abonnés et le domaine de l’entité. (L’« entité » représente un terme générique désignant le support sur lequel le contenu peut provenir ou apparaître, tel qu’un compte d’utilisateur, une page ou un groupe).

Si les utilisateurs ou les entités listés publient du contenu ou réalisent des actions que nos systèmes considèrent comme pouvant enfreindre nos règles, nous ajouterons ce contenu ou cette entité à une file d’attente en vue d’un examen de recoupement.

Au début de 2020, nous avons procédé à des changements afin que la plupart des contenus dans la file d’attente soient priorisés en fonction d’un cadre de risque qui attribuait un niveau de risque de faux positif susceptible de survenir en cas de suppression incorrecte du contenu par Meta. Ce cadre de risque reposait généralement sur 3 facteurs : (1) la sensibilité de l’entité, (2) la gravité de la violation supposée, et (3) la gravité de l’action de mise en application potentielle.

Pratiques de vérification actuelles

Comme pour toutes nos règles et procédures, nous cherchons constamment des solutions pour nous améliorer et opérons des changements inlassablement. Nous avons identifié en début d’année d’autres opportunités d’amélioration du système de recoupement. Nous avons notamment apporté des changements structurels au système de recoupement, qui est maintenant composé de deux éléments : l’Examen secondaire général (GSR) et l’Examen secondaire de l’entité sensible (SSR). Tandis que nous continuons d’appliquer l’approche basée sur des listes que nous venons de décrire en vue d’intégrer un certain nombre d’utilisateurs et d’entités au SSR, le GSR nous aide à garantir que le contenu publié par tous les utilisateurs et entités sur Facebook et Instagram est éligible à l’examen de recoupement en fonction d’un système de priorisation dynamique appelé « classement de recoupement ».

Le GSR implique des examinateurs sous contrat et des membres de notre équipe en charge des régions qui effectuent un examen secondaire du contenu et des entités susceptibles d’enfreindre nos règles avant l’application de mesures de modération. Cet examen ne se fonde pas uniquement sur l’identité d’un utilisateur ou d’une entité pour déterminer quel contenu doit faire l’objet d’un examen de recoupement. Le classement de recoupement catégorise le contenu en fonction du risque de faux positif à l’aide de critères tels que la sensibilité du sujet (degré de tendance/sensibilité du sujet), la gravité de la mise en application (gravité de l’action de mise en application potentielle), la probabilité de faux positif, la couverture prévue et la sensibilité de l’entité (dépend largement des listes dressées ci-dessus). À l’heure actuelle, le classement de recoupement est déjà utilisé pour la majorité des examens de recoupement.

Le SSR ressemble au système de recoupement antérieur. Pour identifier le contenu ou les entités auxquels le SSR doit être appliqué, nous continuons de maintenir des listes d’utilisateurs et d’entités pour lesquels les décisions de modération sont soumises à un examen de recoupement supplémentaire en cas de suspicion d’une infraction aux Standards de la communauté. Nous avons toutefois ajouté des contrôles à cette procédure de compilation et d’évaluation de ces listes. Avant septembre 2020, la plupart des employés pouvaient ajouter un utilisateur ou une entité à la liste de recoupement. Après septembre 2020, tous les employés peuvent demander l’ajout d’un utilisateur ou d’une entité aux listes de recoupement, mais seul un groupe d’employés désigné est habilité à réaliser ces ajouts aux listes.

Les responsabilités en matière de gestion de la liste SSR appartiennent actuellement à notre organisation Global Operations (Opérations globales), qui bénéficie du soutien, de l’expérience et des connaissances spécialisées de nos équipes juridique et en charge des partenariats. Bien que l’équipe Global Operations (Opérations globales) établisse des rapports de manière distincte de l’équipe Public Policy (Affaires publiques) de Meta, cette dernière donne son avis dans le cadre de décisions de recoupement, comme c’est déjà souvent le cas lorsque la modération de contenu est concernée au sein de l’entreprise. Dans ces cas-là, notre équipe Global Operations (Opérations globales) peut s’appuyer sur l’expertise de l’équipe Public Policy (Affaires publiques) de Meta, ainsi que sur nos experts régionaux et nos examinateurs dont les connaissances spécialisées s’appliquent quelle que soit la langue concernée, afin d’améliorer les perspectives culturelles et locales. Ce système de rapports distinct contribue à assurer que les examens sont indépendants de toute influence politique ou économique. Afin de préserver la pertinence et l’adéquation des listes, nous avons également mis en place une procédure d’examen annuel diligent pour vérifier que les entités qui figurent sur les listes SSR restent éligibles. Nous continuerons d’affiner cette procédure au fil du temps.

Ces derniers mois, Meta a examiné en moyenne plusieurs milliers de tâches de recoupement par jour, qui sont en grande partie réalisées dans le cadre du GSR. (Eu égard aux millions de contenus signalés et traités pour violation de nos Standards de la communauté chaque jour, il s’agit d’une petite proportion.) Le SSR constitue à présent une minorité de ces examens quotidiens. Nous anticipons une évolution continue du nombre de tâches d’examen de recoupement en raison de la priorisation du GSR d’ici fin 2021 et au début de l’année 2022.

Si du contenu est publié par une personne ou une entité qui fait partie du SSR, en général, il sera tout d’abord évalué par l’équipe en charge des régions. L’équipe d’escalation examinera ensuite le contenu afin de confirmer s’il constitue ou non une violation de nos règles. En règle générale, si l’équipe en charge des régions considère que le contenu n’enfreint pas nos règles, l’équipe d’escalation ne procédera à aucun examen. En revanche, si du contenu est publié par une personne ou une entité qui est priorisée par le classement de recoupement, les examinateurs sous contrat ou l’équipe en charge des régions l’examinent, à moins que l’équipe d’escalation puisse s’en charger directement. Comme avec le système de recoupement antérieur, les problèmes hautement complexes peuvent faire l’objet d’un examen supplémentaire, qui peut notamment, dans de rares cas, être réalisé par la direction. Si l’examen final atteste de la violation de nos Standards de la communauté, nous le supprimerons. Dans le cas contraire, nous n’y toucherons pas.

Au 16 octobre 2021, environ 660 000 utilisateurs et entités ont réalisé des actions qui requièrent une certaine forme de SSR en fonction de leur inclusion dans les listes susmentionnées. Ce chiffre évolue régulièrement à mesure que nous ajoutons ou supprimons des utilisateurs ou des entités à ces listes en nous basant sur l’évolution des critères d’inclusion. Les utilisateurs et les entités éligibles au SSR peuvent être, mais sans s’y limiter :

Entités liées aux réponses de remontée ou aux évènements à haut risque. Il existe actuellement une procédure informelle qui demande aux équipes se préparant à un évènement à haut risque d’identifier les entités pour lesquelles le risque de modération excessive est élevé. Ainsi, si le contenu controversé publié par un utilisateur devient viral (par exemple, une vidéo en direct de violences policières), nous pourrons identifier cet utilisateur aux fins du SSR afin de ne pas supprimer par erreur le contenu concerné.
Entités incluses à des fins de conformité juridique. Nous appliquons le SSR dans certains cas afin d’observer les exigences juridiques ou réglementaires.
Personnalités publiques et éditeurs à très forte visibilité. Nous identifions les entités qui seront soumises au SSR, car une modération excessive de leur contenu est susceptible d’aboutir à une expérience négative pour une grande partie des utilisateurs.
Populations marginalisées. Nous identifions les défenseurs des droits humains, les dissident·es politiques et toute autre population qui, d’après nous, peut être ciblés par un harcèlement, des brigades ou d’importants rapports encouragés par le gouvernement ou antagonistes afin de les protéger contre ces attaques.
Entités civiques. Nous nous appuyons sur des critères objectifs et l’expertise de nos équipes en charge des règles pour les régions afin d’identifier les personnalités politiques, les membres du gouvernement, les institutions, les organisations, les groupes de sensibilisation et les influenceurs civiques. Nous incluons ces entités aux fins du SSR afin de prévenir les erreurs qui limiteraient les discours politiques n’enfreignant pas nos règles et affecteraient malencontreusement la discussion autour des sujets civiques, tels que les élections, la politique publique et les thématiques sociales. Nous cherchons à garantir la parité parmi les entités civiques d’un pays. Par exemple, si nous incluons un cabinet ministériel national dans le SSR, nous y incluons tous les autres ministères gouvernementaux de ce pays.
Entreprises. Nous identifions les annonceurs de grande valeur, ainsi que ceux qui ont déjà été soumis à une mise en application excessive, afin de protéger les revenus et bâtir une relation de confiance durable sur notre plateforme.

Nous réfléchissons actuellement aux solutions d’amélioration des critères d’identification des entités qui devraient faire l’objet d’un SSR. Ainsi, nous explorons l’évolution de nos critères dans certains domaines, par exemple le nombre d’abonnés, le nombre de décisions de modération prises à tort et les exigences juridiques et réglementaires, ainsi que les importantes problématiques politiques et sociétales. Les utilisateurs peuvent demander à ne pas figurer sur la liste SSR en remplissant ce formulaire. Meta ne confirme pas si les utilisateurs figurent sur ces listes ou s’ils en ont été retirés. Nous croyons cependant fermement en l’autonomie des utilisateurs et nous examinerons chaque demande dès que possible.

Outre les deux composantes du processus de recoupement, nous avons également un système interne de prévention des erreurs appelé Examen multiple et dynamique (DMR). Ce système nous permet de faire remonter des cas qui ont déjà été examinés en vue de les faire réexaminer et de veiller à ce qu’une décision obtienne la majorité des votes (par exemple, si une majorité des examinateurs est d’accord avec la décision, le cas est clos). Ainsi, nous sommes davantage assurés d’avoir pris la bonne décision. Nous utilisons ce système pour améliorer la qualité et l’exactitude des examens manuels et limiter ainsi les mauvaises décisions en ajustant le nombre d’examens requis pour qu’une décision soit considérée comme finale en fonction de différents facteurs comme la viralité, le nombre de vues et le degré de dangerosité de la publication (par exemple, infractions potentielles de nos règles sur l’exploitation sexuelle ou les personnes et organisations dangereuses).

Prochaines interventions de vérification croisée en matière de transparence

En réponse à la décision prise en décembre 2022 par le Conseil de surveillance à la suite de notre demande d’avis consultatif sur notre politique de recoupement, nous nous sommes également engagés à prendre toute une série de mesures de transparence relatives à la prévention des erreurs. Il s’agit notamment de :

Prendre l’engagement ferme et structuré, en collaboration avec nos équipes internes en charge des droits civils et de l’homme, nos partenaires de confiance et d’autres organisations externes de la société civile, de chercher à trouver des solutions pour définir de manière éclairée les critères que nous utilisons pour identifier les entités d’intérêt public à inclure dans nos listes de recoupement.
Chercher à établir un processus plus formel d’inclusion aux listes de recoupement de la part de groupes mondiaux, régionaux et locaux de la société civile.
Investir dans des examens de qualité et des ressources de formation tandis que nous cherchons progressivement à ce que toutes les décisions de recoupement soient prises, dans la mesure du possible, par des examinateurs qui connaissent bien la langue et la région concernées.
Mettre en place des accords de service solides pour les décisions de modération dans l’ensemble de nos systèmes de prévention des erreurs, ce qui devrait nous permettre d’optimiser notre modèle actuel de recrutement d’examinateurs et de réaliser des examens le plus rapidement possible dans la langue concernée.

Malgré les importantes améliorations apportées au système de recoupement, nous continuons d’étudier des solutions pour garantir que ce système mette correctement en balance nos objectifs de suppression des contenus en infraction de nos Standards de la communauté tout en réduisant les erreurs de modération dont les conséquences sont les plus graves.