Taux de proactivité
MIS À JOUR 22 FéVR. 2023
Cet indicateur représente le pourcentage de l’ensemble du contenu ou des comptes sur lesquels nous sommes intervenus et que nous avons détectés et traités avant que les utilisateurs et les utilisatrices nous les signalent. Nous utilisons cette mesure comme indicateur de l’efficacité avec laquelle nous détectons les infractions.
Nos investissements dans une technologie de machine learning sont essentiels pour permettre une détection plus rapide.
Nous équilibrons ce machine learning par une équipe de spécialistes formés à cet effet qui examinent les contenus en infraction et interviennent en conséquence.
Le taux auquel nous pouvons détecter les contenus potentiellement en infraction de manière proactive est élevé pour certaines infractions, ce qui signifie que nous détectons et traitons la majorité des contenus avant qu’ils nous soient signalés. C’est particulièrement vrai lorsque nous avons réussi à créer une technologie de machine learning qui identifie automatiquement les contenus susceptibles d’enfreindre nos standards.
Une telle technologie est très prometteuse, mais plusieurs années seront encore nécessaires pour qu’elle soit efficace pour tous les types d’infraction. Par exemple, la capacité à comprendre le contexte et les nuances est encore limitée, en particulier pour les contenus à base de texte, ce qui pose des défis supplémentaires pour la détection proactive de certaines infractions.
Cet indicateur peut augmenter ou diminuer sous l’influence de facteurs externes. Par exemple, une cyberattaque durant laquelle des spammeurs partagent 10 millions de publications contenant la même URL malveillante. Si nous détections l’URL malveillante avant qu’on ne nous la signale, le taux de proactivité augmenterait pendant la cyberattaque et diminuerait après, même si notre technologie de détection restait inchangée pendant la période. Cet indicateur peut également augmenter ou diminuer en fonction de l’évolution de nos procédés et de nos outils. Par exemple, elle pourrait augmenter si notre technologie de détection se perfectionne, mais diminuer si notre outil de signalement par les utilisateurs et les utilisatrices s’améliore et si nous nous appuyons moins sur une détection proactive.
Étant donné que cet indicateur est basé sur la quantité de contenu traité, les mêmes considérations s’appliquent. Notre taux de proactivité ne reflète pas le temps nécessaire pour détecter un contenu en infraction ni le nombre de fois où il a été vu avant d’être détecté. Le nombre total d’infractions que nous n’avons pas réussi à détecter n’est pas non plus reflété, ni le nombre de vues de ce contenu. Et bien que le pourcentage de contenu que nous détectons de manière proactive puisse être très élevé (jusqu’à 99 % dans certaines catégories), même le faible pourcentage restant peut avoir une incidence significative sur les personnes.
Comment calculons-nous notre taux de proactivité ?
Nous calculons ce pourcentage comme suit : le nombre de contenus sur lesquels nous avons agi, et que nous avons détectés et traités avant les personnes qui utilisent Facebook ou Instagram, divisé par le nombre total de contenus sur lesquels nous sommes intervenus.
Pour les faux comptes sur Facebook, nous calculons cet indicateur comme le pourcentage de comptes Facebook désactivés que nous avons repérés et traités avant les utilisateurs et les utilisatrices. Il est calculé comme suit : le nombre de comptes désactivés que nous avons détectés et traités avant les utilisateurs et les utilisatrices, divisé par le nombre total de faux comptes désactivés.
Avertissements
Nous calculons notre taux de proactivité à l’aide d’une attribution stricte des signalements d’utilisateurs et d’utilisatrices quant au contenu. Par exemple, si une personne signale une Page et si, en examinant la Page, nous identifions du contenu en infraction et agissons sur cette Page, nous consignons le traitement de ce contenu de manière proactive (sauf en cas de signalements d’utilisateurs ou d’utilisatrices supplémentaires spécifiques).
Consultez notre dernier rapport d’application de nos Standards de la communauté.