通过交叉检查系统准确审核高影响力内容

更新日期 2024年11月12日
2022 年 12 月 6 日，监督委员会发布了有关 Meta 交叉检查政策的政策咨询意见。为了完全落实这一系列建议，我们已与监督委员会达成一致意见，同意在 90 天内完成查阅并做出回应。如要详细了解交叉检查系统，请阅读我们政策及信息公示平台上的这篇文章。
交叉检查系统概述
Facebook 和 Instagram 用户每天会创建多达数十亿条内容。审核数量如此庞大的内容无疑面临诸多挑战，包括在重要价值观与目标之间做出权衡。我们力求快速审核可能违规的内容，并删除违反我们政策的内容。但是为了保护用户的表达自由，我们必须在实现此目标与避免“误判”（错误地删除并未违规的内容）风险之间取得平衡。（此处所说的“删除”内容是指广义上的政策执行措施。比如，这类措施还可能包括添加警告画面或删除公共主页等。）
为了平衡这些考量，Meta 采用了交叉检查系统来确定遭到误判可能性更高的内容，并对其采取进一步审核以减少误判风险。当我们的内部系统通过自动化或人工审核将某些内容标记为违规后，我们会通过交叉检查系统进一步审核这些内容，目标是避免或尽量减少最有可能发生的误判。由于种种原因，比如说需要理解细微差别或背景/语境等，这些误判可能会在没有交叉检查的情况下发生。（我们此处所说的“内容”是指通过交叉检查系统接受审核的内容。我们还会使用交叉检查系统来审核其他政策执行措施，例如删除公共主页或个人主页等。）通过交叉检查系统进一步审核时，审核员依然遵循与审核其他所有 Facebook 或 Instagram 内容时相同的社群守则。
交叉检查系统在帮助保护人权方面发挥着重要作用。比如说，交叉检查系统中纳入的实体和帖子有些来自冲突地区的一线记者，有些来自积极发声、提升大众对仇恨或暴力事件认知的社群领袖。在执行交叉检查审核时，审核员会考虑有助于正确处理相关内容的背景和语境。交叉检查审核还可能适用于民权实体，这类实体的受众渴望看到其领袖的言论。
此外，交叉检查对于管理 Meta 与我们众多业务合作伙伴的关系也十分重要。例如，若错误地删除粉丝众多的业务合作伙伴公共主页或个人主页发布的内容，可能会给 Meta 的业务合作伙伴及其诸多粉丝带来负面体验。我们还会对一些成员众多的小组执行交叉检查，因为对这些小组的一次误判可能会影响数十万乃至数百万用户。虽然设有交叉检查机制，Meta 的业务合作伙伴或小组依然需要遵守我们的内容政策，但在一些情况下，这种机制通过进一步审核内容，可确保政策的准确执行。
Facebook 和 Instagram 用户每天发布的内容多达数十亿条。即便 Meta 在世界各地有数千名专职审核员，也不可能人工审核每一条可能违反我们社群守则的内容。我们删除的绝大部分违规内容都是在用户举报前就通过技术手段主动检测到的。当用户在 Facebook 或 Instagram 发帖时，我们的技术会检查该内容是否有可能违反社群守则。在很多情况下，做出判断很简单。帖子要么明显违反我们的政策，要么没有违规。但在其他没有那么容易判断的情况下，相关内容就会上报给人工审核员进行进一步评估。
我们的主要审核系统利用技术来优先审核高危内容，其中包括迅速蔓延的“热传”内容。如果系统将内容标记为应上报，我们的审核员就会在棘手的情况下做出判断，确定该内容是否应该保留在平台上，这些判断往往很微妙。虽然我们一直尽力做出正确的决定，但不得不承认确实存在误判的情况，一些被判定违反了 Meta 政策而予以删除的内容实际上并未违规。因此，Meta 投资于误判预防，引入进一步审核机制，力求减少误判风险。交叉检查就是我们预防误判的一种策略。
交叉检查系统通过进一步的人工审核，帮助确保我们准确做出政策执行决定。如果在交叉检查过程中，审核员确认某条内容违反了社群守则，我们会执行相关政策，对违规内容做出相应处理。根据内容的复杂度，我们可能会采取多重审核，包括在极少数情况下，由领导层进行审核。如果最终审核员判定相关内容未违反社群守则，审核员可以“撤销”最初的处理措施，将内容保留在平台上。
过去的交叉检查机制
我们在 2013 年首次实行了现在被称为交叉检查的系统。该系统的具体机制已历经多年的发展变化，我们尽可能提供了相关的日期和日期范围，来解释这些变化是何时发生的。
为了明确哪些内容或实体应该接受交叉检查审核，我们的团队确定了被认为误判风险较高的用户或实体，并为他们编制了名单。“误判风险”是指对实际上并未违反社群守则的内容或实体执行政策不当的风险。为了确定哪些用户和实体的误判风险较高，我们的团队采取了多种标准，包括用户或实体的类型（例如民选官员、记者、重要业务合作伙伴、人权组织），粉丝的数量以及实体的主题。（实体是一个广义术语，指代内容产生或出现的位置，例如用户账户、公共主页或小组。）
如果这些名单中的用户或实体发布的内容或采取的操作被我们的系统标记为可能违反政策，相关内容或实体将进入交叉检查审核的待审队列。
从 2020 年开始，我们做出了一些调整，以便能使用风险框架来确定队列中大多数内容的优先审核顺序，该框架为每条内容指定了一个误判风险级别，其是指如果 Meta 错误移除某项内容而可能导致的误判风险高低。一般而言，该风险框架依赖于三个因素：(1) 实体敏感程度，(2) 涉嫌违规行为的严重程度，以及 (3) 可能采取的政策执行措施的严重程度。
现在的交叉检查机制
就像对待我们的所有政策和流程一样，我们不断寻找方法来改进交叉检查系统，并且也一直在做出改变。今年早些时候，我们找到了更多改进交叉检查系统的方法。在交叉检查系统的结构上，我们做出的一项调整就是将交叉检查细分为两种类型：常规补审 (General Secondary Review, GSR) 和敏感实体补审 (Sensitive Entity Secondary Review, SSR)。我们会继续使用上述基于名单的方法，将一定比例的特定用户和实体纳入敏感实体补审。同时，借助常规补审，我们正在确保 Facebook 和 Instagram 上所有用户和实体的内容都有资格接受交叉检查审核。常规补审将使用“交叉检查排序工具”来确定内容的补审资格，这是一种动态的优先排序系统。
参与常规补审的人员包括合同审核员和我们区域团队的成员，他们将在涉嫌违反政策的内容和实体受到处理之前对其执行补审。用户或实体的身份并不是确定哪些内容应该接受交叉检查审核的唯一标准。交叉检查排序工具根据误判风险对内容进行排序，使用的标准包括话题敏感程度（话题的热门程度/敏感程度）、政策执行严重程度（可能采取的执行措施的严重程度）、误判几率、预计影响范围和实体敏感程度（主要基于上文所述名单）等。交叉检查排序工具已用于如今的大多数交叉检查审核中。
敏感实体补审类似于过去的交叉检查系统。为了确定哪些内容或实体应该接受敏感实体补审，我们会长期维护用户和实体名单，如果他们发布的内容被标记为可能违反社群守则，则相关内容或实体在受到处理之前会接受进一步的交叉检查审核。但与此同时，我们对编制和修改这些名单的流程采取了更严格的控制措施。在 2020 年 9 月之前，大多数员工都能为交叉检查名单添加用户或实体。但 2020 年 9 月之后，尽管任何一位员工都可以请求为交叉检查名单添加用户或实体，但只有一组指定的员工有权在名单中添加内容。
敏感实体补审名单目前由我们的全球运营团队负责管理，并由我们拥有专业知识和经验的法律团队和合作伙伴团队提供支持。虽然我们的全球运营团队采用的是与 Meta 公共政策团队相独立的报告结构，但在交叉检查决策过程中，全球运营团队还是会征求公共政策团队的意见，因为后者参与了整个公司诸多领域的内容审核。在这种情况下，我们的运营团队可能会利用 Meta 公共政策团队的专业知识，并结合我们的区域专家及非语言类专业审核员的意见，来赋予决策更多的本地视角和文化视角。独立的报告结构有助于确保审核免受政治或经济因素的影响。为确保名单相关且恰当，我们还制定了一套周密的年度审核流程，以审核敏感实体补审名单上的实体是否仍旧符合补审资格。我们会随着时间的推移不断完善该流程。
最近几个月，Meta 平均每天都要执行数千项交叉检查审核任务，其中绝大多数是通过常规补审完成的。（相比每天数百万条因违反社群守则而被标记和处理的内容，这个数字只是沧海一粟。）现在，在每天的交叉检查审核中，敏感实体补审只占其中的一小部分。我们预计，到 2021 年底和 2022 年，由于常规补审的优先排序机制，接受交叉检查审核的内容数量还会继续变化。
如果某条内容来自敏感实体补审名单中的用户或实体，则通常先由我们的区域团队审核该内容。然后，升级处理团队将进行复审，确认该内容是否违规。一般来说，如果区域团队认为该内容没有违反我们的政策，则升级处理团队将不会进行复审。如果交叉检查排序工具确定应该优先审核来自某个用户或实体的某条内容，则通常会由合同审核员或区域团队执行此工作，除非升级处理团队有余力进行审核。与过去的交叉检查机制一样，我们可能会对高度复杂的问题进行多重审核，包括在极少数情况下由领导层审核。如果最终审核结果认为该内容违反了社群守则，我们会将其删除。若结果反之，内容将保留在平台上。
截至 2021 年 10 月 16 日，上述名单中已纳入了大约 660,000 个因误判风险较高而需要某种形式的敏感实体补审的用户和实体。这一数字会经常变动，因为我们会根据不断变化的纳入标准在上述名单中添加或删除用户和实体。有资格接受敏感实体补审的用户和实体包括但不限于：
  • 有可能激化舆论或与高风险事件相关的实体。目前，我们有一个非正式流程，高风险事件响应团队可借助此流程，确定有哪些实体很可能受到过当的处理。比如说，如果某位用户发布了有争议的热传内容（例如警察施暴的直播视频），我们可能会将该用户纳入敏感实体补审，以免误删其内容。
  • 为了符合法律规定而纳入的实体。在某些情况下，我们使用敏感实体补审是为了遵守法律或法规要求。
  • 高知名度的公众人物和发行商。我们将这类实体纳入敏感实体补审是因为，一旦处理措施过当，会给大量用户造成负面体验。
  • 边缘化人群。如果我们认为人权捍卫者、持不同政见者或其他人士有可能成为国家支持的或其他敌意骚扰、大规模网军操控或大规模报道的目标，就会将他们纳入敏感实体补审，以免他们受到此类攻击。
  • 民权实体。我们遵循客观标准，同时依赖我们当地政策团队的专业知识和经验，来确定纳入敏感实体补审名单的政界人士、政府官员、机构、组织、倡议团体和有影响力的民权人士。我们将这些实体纳入敏感实体补审名单，是为了避免因误判而限制并未违规的政治言论，以及无意中影响人们对选举、公共政策和社会议题等公民话题的讨论。我们旨在一视同仁地对待一个国家/地区的所有民权实体，比如说，如果我们将某个国家的内阁部长纳入敏感实体补审，那么我们会将该国政府的所有部长都纳入敏感实体补审。
  • 商家企业。我们会确定高价值广告主和遭遇过当政策执行的广告主，以维护我们平台的收益并建立长期信任关系。
我们目前正在评估如何改进将实体纳入敏感实体补审名单的标准。比如说，我们正在探讨从一些方面着手来完善我们的标准，例如粉丝数量、先前的误判次数、法律/法规要求，以及重要的政治/社会议题。用户可通过填写此表单，申请不被纳入敏感实体补审名单。Meta 不会确认用户是否位于这些名单上，或是已从这些名单中移除。不过，我们坚决拥护用户的自主权，并将尽快审核每项申请。
除了交叉检查系统的两种类型之外，我们还设有内部误判预防系统，称为动态化多人审核 (Dynamic Multi Review, DMR) 机制。借助该机制，我们可以将已审核的案件发回重审，以获取对该案件决定的多数投票（例如，如果大多数审核员同意该决定，则结案），以此来提高我们做出正确决定的把握。我们使用该机制来提高人工审核的质量和准确性，并根据内容的传播力、浏览量和造成伤害的可能性（例如可能违反我们有关性剥削或危险人物和组织的政策）等多种不同因素，调整做出最终决定所需的审核次数，从而降低误判风险。
未来的交叉检查透明度干预措施
为响应监督委员会 2022 年 12 月关于交叉检查政策咨询意见请求的决定，我们还承诺采取一系列预防误判的透明度干预措施。这些干预措施包括：
  • 与我们的内部人权和民权团队、信任合作伙伴以及其他外部民间社会组织开展有条不紊且强有效的交流互动，研究如何为评估公共利益实体能否纳入交叉检查名单制定更好的标准。
  • 征求全球、区域和当地民间社会团体的意见，研究建立一个更加正式的交叉检查名单提名流程。
  • 投资于质量审核和培训资源，因为我们将尽可能为所有交叉检查决策配备会讲相应语言并熟悉本区域实际情况的审核员。
  • 为我们误判预防系统中的审核决定实施强有效的服务级别协议 (Service Level Agreement, SLA)，让我们能够优化当前的审核员配置模型，以尽快完成具体语言环境下的内容审核。
尽管我们已经对交叉检查系统做出重大改进，但我们仍在探索各种方法来进一步保证此系统能恰当平衡我们的目标，亦即在删除违反我们社群守则的内容的同时，确保最大限度减少会造成重大影响的政策执行失误。