如何利用技术确定内容审核的优先顺序

更新日期 2022年1月19日
无论潜在违规内容是由用户举报还是被 Meta 技术检出，自动化技术都能帮助我们快速将内容发送给具备相关领域和语言专业知识的审核员。
然后，我们可以利用技术来确定内容的优先顺序，以便审核团队可以首先审核最重要的案件。这包括可能造成现实世界伤害的内容，例如与恐怖主义和自杀相关的帖子，以及违反我们政策并有可能覆盖大规模受众的热传内容。
为确保审核团队能够将更多的时间和精力放在做出正确的决定上，我们一直在改进我们的技术和流程。
Meta 如何确定内容审核的优先顺序
审核团队对内容政策执行的重要意义
为了减少我们社群受到的伤害，我们的技术和人工审核团队始终在通力合作。例如，我们通过以下方法来结合审核员与技术的优势，帮助强化我们的整个内容执行系统。
训练我们的技术
当审核员就某条内容做出决定时，他们同时也是在训练和改进我们的技术，使其逐渐能够识别其他类似内容。这种人工与技术之间的反馈回路对于确保我们的系统保持最新至关重要。
在审核违规内容时，审核团队会手动标记其决定所依据的政策，换言之，他们会标记内容、账户或行为违反的政策。这一重要的标记数据有助于我们提高人工智能算法在主动搜寻有害内容时的效率。
我们的技术在两方面的表现尤其出色：检测屡次违规的内容和识别明显的血腥或极端内容。但是，当我们的政策是否适用于某条内容存在极大的不确定性、复杂性或差异时，审核员做出的决定往往会胜过技术。