主动检出率
更新日期 2023年2月22日
这项指标反映的是在用户举报之前我们发现并处理的所有内容或账户所占的比例。我们利用这项指标来衡量我们检测违规内容的效率。
我们在机器学习技术方面的投资对于更快地检测违规内容至关重要。
我们会平衡使用机器学习和训练有素的专业审核团队，这些团队成员将负责审核和处理违规内容。
我们针对某些违规类型的主动检出率很高，这意味着我们能够在用户举报之前发现和处理大多数潜在违规内容。在能够利用机器学习技术来自动识别潜在违规内容的情况下更是如此。
这种技术的应用前景非常广阔，但仍需要数年时间的发展才能有效识别所有违规内容。例如，这种技术在理解语境和细微差别（尤其是对于文字内容）方面的能力仍然有限。这为我们主动检出某些违规内容带来了额外的挑战。
主动检出率这项指标可能会因为外部因素而出现波动。例如，在一次网络攻击期间，垃圾信息发布者分享了 1,000 万篇包含同一恶意网址的帖子。如果我们在任何用户举报该恶意网址之前检测到它，那么主动检出率在网络攻击期间会上升，之后便会下降，即使我们的检测技术在此期间并无变化。这项指标还可能会随着我们的流程和工具的变化而增减；假如我们的检测技术变得更好，那么这项指标就可能会上升；但如果我们改进了用户举报，对主动检测的依赖减少，那么它可能会下降。
由于这项指标的计算依据是内容处理量，二者的许多注意事项都是相通的。主动检出率无法反映我们发现违规内容所用的时间，以及违规内容在被检出之前获得的浏览次数。此外，这项指标也无法反映我们未能检出的违规内容总量，以及这些内容获得的浏览次数。尽管我们主动检出的违规内容所占的比例可能很高，在某些类别中甚至高达 99%，但未检出的违规内容即使比例很小，也可能会对用户产生显著的影响。
我们如何计算主动检出率
主动检出率的计算方法为：在 Facebook 或 Instagram 用户举报之前被我们发现并处理的内容数除以我们处理的内容总数。
对于 Facebook 上的虚假账户，这项指标是指在用户举报之前被我们发现、处理并禁用的 Facebook 虚假账户所占的比例。其计算方法为：在用户举报之前被我们发现、处理并禁用的虚假账户数除以我们禁用的虚假账户总数。
注意事项
在计算主动检出率时，我们会以严格标准判定内容是否为用户举报。例如，某位用户举报了某公共主页，随后我们在审核时发现并处理了该公共主页内的一些违规内容，那么这些违规内容会作为我们主动处理的内容记录在报告中（除非已有用户在其他举报中明确举报了这些内容）。
查看最新一期的社群守则执行情况报告