我们如何评估和应对全球风险

更新日期 2024年4月29日

Meta 会持续评估重大事件中的紧迫危害风险，以便采取针对性强、时效明确的策略与产品措施，守护用户安全。这一做法包括在地方、地区及全国性活动（包括选举）举办前及举办期间，排查潜在风险。

针对高风险事件，Meta 可采取多种应对措施来处理各类情况，例如调整或限制产品功能、设置消息发送流量限制、限制内容传播等。

我们通过以下方式识别具有潜在危害的趋势：收集公开报告中的信息、参考可信合作伙伴提出的建议、持续观察内容趋势、开展人权尽职调查，以及审查情报团队出具的评估报告。这些信息结合现有的社群守则及政策执行系统，帮助我们确定可能采用的产品类型及政策缓解措施，以在危机期间（包括高风险选举期间）防范滥用行为。这包括我们的危机政策协议 (CPP)，它可帮助我们评估处理内容风险的方式，并梳理可以采取哪些措施来调整系统以应对加剧的风险。

一项重要且可行的缓解措施包括：将部分地区划定为临时高风险地区 (THRL)。这是一项政策工具，用于在处理因真实世界事件而被划定为高风险的区域中，出现的特定类型潜在暴力内容。除用于缓解危机的政策工具与框架外，Meta 还会依赖“诚信产品运营中心”(IPOC) 开展工作。这一机制会在需要时以及在特定情况发生前，整合公司内部不同团队、专业领域专家及各类资源，以实时应对潜在问题或趋势。

在特定选举期间，IPOC 会监控多种信息来源，包括数据分析工具、可信合作伙伴提供的信息以及传统媒体。我们还会监控用户举报的趋势，以及由我们的分类系统标记的内容所呈现的趋势。

虽然 THRL 的划定流程与 CPP 的指定审查流程是两项独立工作，但两者在识别暴力风险或线下伤害风险加剧时，都会参考一些相同的信号。尽管我们可能会在危机期间考虑划定 THRL，但此举并不以 CPP 的指定为前提，也不依赖于该指定。

我们的团队会持续监控平台，评估不断变化的风险环境，并协助判断是否需要以及如何进行相应调整，来应对所追踪信号的激增或变化。参阅此处了解有关我们针对风险加剧调整系统的方法的更多信息。