我们打击危险组织和人物的方案

更新日期 2024年11月11日
在我们的平台上，宣扬暴力、有组织犯罪、仇恨或恐怖主义的团体或个人没有容身之地。经过多年努力，我们制定了危险组织和人物 (DOI) 政策与流程来处理此类内容，这类政策与流程的制定还在继续。虽然我们致力于为用户提供交流空间，让他们能谈论世界各地发生的影响其生活、家庭和社群的事件，但我们的政策也规定了我们平台上禁止发布的内容。
policy-image
我们的政策旨在保护平台安全
在打击危险组织和人物方面，Meta 的政策属于业内最全面的政策之列，这包括打击恐怖组织、仇恨团体、诸如卡特尔之类的有组织犯罪组织、暴力煽动实体，以及大规模枪击或恐怖袭击等已认定暴力犯罪事件的肇事者。
根据本危险组织和人物政策，我们会认定和封禁参与这类活动的人物和组织，并移除我们所发现的美化和支持他们的内容。我们还会认定和封禁暴力煽动实体，这是指参与策划或煽动未来暴力活动，但迄今为止不一定从事过暴力活动的实体，并且我们会移除美化和支持他们的内容。
我们的政策是公开的，您可以在社群守则页面阅读更多与之相关的详细信息。此外，我们会定期在每季度的社群守则报告中发布信息，详细说明我们移除了多少此类内容。
我们如何认定危险实体，为什么要这么做
我们禁止宣扬暴力或仇恨使命或从事暴力活动的任何组织或人物使用 Meta 旗下平台。我们会评估此类实体，依据包括他们在网络中和现实世界中的行为，最重要的是，他们是否从事暴力活动。根据这项政策的规定，我们会认定一些个人、组织和团体属于危险实体。为了确保政策执行更加有效、相称和一致，我们将所认定的危险实体分为两级。您可阅读我们的社群守则，详细了解这些分级，以及每一级包含的组织类型。
我们拥有健全的内部流程，其中会考虑许多信息来源，我们会使用从这些来源获得的信息来评估组织和人物是否符合认定条件。制定我们自己的定义和流程来认定危险实体，不受地区或意识形态的影响，这种做法让我们能够以稳健、公平和主动的方式保护旗下平台。
这项工作并不是一成不变的。我们持续根据行为表现、不断变化的环境、新信息、内部专家分析和外部利益相关方提供的意见，对各个团体和个人进行风险评估与认定。例如，正如我们在 2024 年 1 月所宣布的，如果被认定的组织或人物改变其行为，其亦有资格从我们的名单中移除，特别是当他们符合以下情况时：(1) 未被美国政府认定为特别指定毒品贩运头目 (SDNTK)；外国恐怖组织 (FTO)；或特别指定的全球恐怖分子 (SDGT)；(2) 不再参与暴力或仇恨活动；且 (3) 不再作为暴力和仇恨的象征，或不被用于煽动进一步暴力或者传播暴力或仇恨性质的宣传内容。
尽管我们高度重视透明度，并持续权衡各方利弊，但是为避免安全及法律风险，并防止这些危险分子规避我们的政策执行机制，我们目前不会公开认定名单的具体细节。
我们如何打击危险组织和人物
为了打击危险组织和人物的活动，我们不惜在人员、技术、合作伙伴关系和研究方面投入重金。
  • 技术层面：我们结合使用 AI 和人类智慧来处理该领域的问题，同时投资研究项目，并与外部专家和组织合作，以紧跟不断变化的环境。我们使用 AI 来检测视频、图片、音频、文本甚至是图形，例如徽标和对暴力的描绘。我们还会在全行业提供开源工具，帮助合作伙伴掌握相关技术，在他们自己的平台上打击危险组织和人物。例如，在 2022 年 12 月，为助力全行业的企业更便捷地清除其平台上的恐怖主义内容，我们推出了免费开源软件工具“Hasher Matcher Actioner”(HMA)。该工具可协助平台批量识别图片或视频的副本内容并采取处理措施。
  • 人员层面：语境/背景和语言表达往往具有复杂性，技术手段并不总能准确区分对危险组织和人物的美化与特定文化背景下的批判性内容。正因如此，Meta 已投入数十亿美元资金，并组建近 4 万人的团队专职负责安全保障工作。其中包括一支由数百人组成的跨职能团队，他们具备执法、国家安全、反恐情报及极端化问题学术研究等多元专业背景，全力投身此项工作。
  • 合作伙伴关系：只要世界上存在有害行为，互联网上就难免出现其踪迹，而没有任何企业能独自解决这些问题。因此，与各方建立合作伙伴关系就显得至关重要，这包括与公司、民间社会、研究机构和政府合作。我们与世界各国政府及政府间机构合作，并与精通恐怖主义、暴力极端主义、网络情报和网络敌对行为等领域的专业组织建立合作伙伴关系。
    • GIFCT：我们于 2017 年联合 YouTube、Microsoft 和 Twitter 共同创立了全球反恐互联网论坛（Global Internet Forum to Counter Terrorism，简称 GIFCT），该组织旨在防止恐怖分子和暴力极端分子利用数字平台。2019 年，GIFCT 成为独立的非政府组织，负责协调全行业对袭击事件的危机响应。
    • 执法部门：当我们发现人类生命受到具体、紧迫且可信的威胁时，会立即向执法部门通报。Meta 还会围绕暴力袭击事件与执法部门开展合作，尽管我们始终会严格审查所收到的每项政府请求，以确保其具有法律效力并符合国际公认的人权标准，包括正当程序、隐私、自由表达和法治方面的标准。若我们认为某项请求缺乏依据或范围过广，我们会将其驳回。您可以点击此处，详细了解我们与执法部门之间的合作。
  • 独立研究：我们委托智囊团、学者及非政府组织就暴力极端主义与恐怖分子利用互联网的各类议题开展独立研究，旨在协助行业深入理解这些重要问题并推动相关进展。2022 年，Meta 宣布与明德大学国际研究学院的恐怖主义、极端主义及反恐怖主义中心开展研究合作，分析暴力极端主义不断演变的趋势，以及可帮助社群打击暴力极端主义的有效工具。
  • 战略性网络：尽管我们在打击恐怖主义和有组织仇恨活动上主要依赖于常规内容移除机制，但有时这仍显不足。这是一个斗智斗勇、充满对抗的领域，已认定的危险实体有时会试图规避我们的政策执行机制，在我们的平台上重建网络。为了打击这些网络，我们使用了一种称为战略性网络瓦解（Strategic Network Disruption，简称 SND）的重要方法。利用 SND，我们可以在首次认定危险组织或人物时，或者在防止这些已认定实体使用我们平台的持续工作中，一次性清除由已被封禁的危险组织和人物组成的网络。将这些团伙连根拔起，可以让他们更难重返平台。这也传递出一个明确信号：我们清楚这些组织的存在，并且绝不欢迎此类团体出现在我们的平台上。最后，利用此方法，我们还能研究这些危险组织和人物可能会如何尝试绕过我们的检测，以及在我们移除其账户后，他们可能会如何试图重返我们的应用。
预防工作
在 Meta，我们致力于维护旗下平台的安全和诚信。我们实现这一目标的途径之一是上游预防，即采取主动措施，在危险组织和人物内容对个人或社群产生影响之前就遏制其传播。这包括使用有针对性的干预措施和宣传积极的言论。我们相信，建设性对话至关重要，并且努力营造能促进此类交流的环境。
为加强相关工作，我们积极与致力于打击极端主义、有组织仇恨活动和犯罪活动的民间社会组织 (CSO) 开展合作。我们为这些组织提供支持，包括培养他们的能力和提供必要的资源，支持他们创作反制言论内容。这些内容对极端主义言论提出质疑，并提供了多元视角，有助营造更加积极、包容的网络环境。
我们采用多管齐下、积极主动的措施打击极端主义，结合使用预防措施、协同合作与传播积极言论等策略。
  • Resiliency Initiative（抵御力倡议）是一项培训计划，旨在为亚洲、非洲及美国的民间社会组织提供暴力极端主义预防/打击 (P/CVE) 运动的策略指导，并提升他们开展有效反制言论运动的能力。作为这项倡议的组成部分，Meta 与 Search for Common Ground (SFCG) 在美国开展了合作，旨在支持扎根社区的当地合作伙伴打击由仇恨煽动的暴力行为，并在社会和社区建设抵御力。
  • 更安全的搜索：当用户搜索与危险组织和人物相关的词条时，我们也会适时为其提供资源指引。当用户在 Facebook、Instagram 和 Threads 搜索与危险组织和人物相关的词条时，我们会主动提供相关资源。此举既能有效劝阻对危险组织和人物内容的搜索，又为用户提供了教育资源。
    我们还在多个国家/地区开展了搜索干预计划，其中包括澳大利亚、美国、英国、德国、印度、印度尼西亚和巴基斯坦。如果有人搜索了每个市场特有的词条，并通常重点关注特定危险组织或人物造成的伤害，我们就会利用与当地民间社会组织的合作关系，为他们提供更多信息和资源，这些民间社会组织专门为面临极端主义风险的用户提供支持服务。
  • 为社群组织提供资源：我们还开展了安全广告计划，用于支持合作的民间社会组织主动预防伤害，该计划会在这些组织开展反制言论项目时向他们提供广告抵用金和战略支持。通过与这些组织联手，我们希望发展合作关系，共同打击危险组织和人物。
这是一项持续进行的工作，我们知道，只要世界上存在危险组织和人物，互联网上就难免出现其踪迹，这正是我们始终保持警惕的原因。这些危险组织和人物会采取新策略来逃避检测和/或尝试规避我们的政策和执行措施，正是这种对抗性行为促使着我们不断评估和更新应对措施，努力做到领先一步。