我們對危險組織和人物的具體作法

上次更新日期 2024年11月11日
我們不允許推廣暴力、組織性犯罪、仇恨或恐怖主義的團體或個人出現在平台上。經過多年來的努力，我們已制定（並將持續制定）「危險人物和組織」（DOI）政策與流程，以處理此類內容。儘管我們致力為用戶提供空間，讓他們能夠討論發生在世界各地對其生活、家庭和社群有影響的事件，但我們也制定政策，為不允許出現在平台上的內容劃定界線。
policy-image
我們的政策旨在確保平台安全
Meta 擁有業界最完善的政策之一，鎖定恐怖組織、仇恨團體、組織性犯罪集團（例如販毒集團）、煽動暴力行為的實體，以及大規模槍擊事件或恐怖攻擊等特定違規事件的加害者為目標。
根據此 「危險組織和人物」政策，我們會指定並禁止涉及此類活動的個人和組織，並在發現美化和支持此類活動的內容時將其移除。我們也會指定並禁止煽動暴力行為的實體（參與準備或鼓吹未來的暴力行為，但至今可能未曾參與暴力行為的實體），並移除美化和支持此類實體的內容。
我們的政策均已公開發佈，您可以在《社群守則》頁面參閱更多詳情。此外，我們會定期在季度《社群守則》報告中發佈有關我們移除此類內容數量的詳細資訊。
我們指定等級的方式和原因
我們不允許宣揚暴力／仇恨宗旨或參與暴力行為的組織或人物在 Meta 平台設立據點。我們會評估此類實體在網路上和現實中的行為，尤其是他們與暴力行為的關聯。根據本政策，我們會劃分個人、組織和用戶網絡，為確保更有效、更一致且符合比例原則的政策執行，我們將指定對象分為兩個等級。您可以在《社群守則》中深入瞭解這些等級以及各等級所包含的組織類型。
我們有自己專屬的健全內部程序，可將眾多資訊來源納入考量，以評估組織和個人是否可能遭到指定。制定我們專屬的指定定義和程序，不受區域或意識形態影響，讓我們能夠以健全、公平、主動的方式保護自家平台。
這項工作並非一成不變。我們會持續評估風險，並根據團體和個人的行為、不斷變化的情勢、新資訊、內部專家分析，以及外部利害關係人的意見，對團體和個人的指定與否進行評估。舉例來說，正如我們 2024 年 1 月的宣佈內容，當指定的組織或個人改變其行為，他們也符合資格可從我們的清單中除名，特別是如果其（1）未遭美國政府指定為特別認定毒品走私毒梟（SDNTK）；外國恐怖組織（FTO）；或特別認定全球恐怖份子（SDGT）；（2）不再涉及暴力或仇恨；以及（3）不作為暴力和仇恨的象徵，或用於煽動進一步的暴力行為，或散播宣傳暴力或仇恨的內容。
雖然我們非常重視資訊透明度，並持續評估其中的利弊得失，但為了降低安全和法律風險，並防止這些危險的有心人士規避我們的政策執行機制，我們目前並未分享指定名單的詳細資訊。
我們如何針對危險組織和人物執行政策
我們投入大量人力、技術、合作關係和研究來對抗危險組織和人物的活動。
  • 技術：我們結合人工智慧與真人智慧來切入此領域，並投資研究以及與外部專家和組織合作，以掌握這個瞬息萬變的環境。我們使用人工智慧來偵測影片、圖像、音訊、文字、描述，甚至包括標誌等圖形，以確認是否有暴力內容。我們也向業界提供開源工具，協助合作夥伴使用技術，在其自家平台打擊危險組織和人物。例如，在 2022 年 12 月，為了協助業界所有公司都能更輕鬆地將恐怖份子內容拒於其平台外，我們推出了「Hasher Matcher Actioner」（HMA）這項可免費使用的開源軟體工具，以協助平台識別圖像和影片的副本，並對其採取大規模處置。
  • 用戶：背景資訊和語言往往十分複雜，科技未必能夠區分美化危險組織和人物的內容和特定文化的批評方式。因此，Meta 投資了數十億美元，並投入近四萬的人力維護網路與帳號安全工作，其中包含由上百人組成的跨職能團隊，其具備從執法和國家安全到反恐情報和激進化相關學術研究等各方面的專業知識，致力從事這項工作。
  • 合作夥伴關係：有害的活動只要存在於世界上，就也會存在於網際網路，沒有任何一家公司可以獨自解決這些問題。因此，與公司、公民團體、研究人員和政府等其他單位合作至為重要。我們與世界各地的政府和跨政府組織互動合作，並與在恐怖主義、暴力極端主義、網路情報和線上敵對行為等領域擁有專業知識的組織合作。
    • GIFCT：在 2017 年，我們與 YouTube、Microsoft 和 Twitter 聯手創立全球反恐網路論壇（GIFCT），成立此組織的宗旨是為了防止恐怖分子和暴力極端分子不當利用數位平台。GIFCT 於 2019 年成為獨立的非政府組織，為整個業界因應攻擊的危機應變措施進行協調。
    • 執法機關：當察覺到迫在眉睫、具體可信且攸關人身安全的威脅，我們會毫不猶豫地通知執法機關。Meta 也會針對暴力攻擊與執法機關合作，但我們一定會仔細審查所收到的每項政府要求，以確保其具有法律效力，並符合國際公認的人權標準，包括正當程序、隱私權、自由表達和法治。如果我們認為某項要求似乎理由薄弱或過於廣泛，則會拒絕要求。您可以在此處參閱更多我們與執法機關合作的相關資訊。
  • 獨立研究：我們委託智囊團、學者和非政府組織針對暴力極端份子和恐怖份子網路使用行為的各項主題進行獨立研究，以協助業界瞭解這些重大議題，並取得進展。2022 年，Meta 宣布與明德大學蒙特雷國際研究學院的恐怖主義、極端主義與反恐中心合作進行研究，分析暴力極端主義的演變趨勢，以及有助於社群對抗暴力極端主義的有效工具。
  • 策略性網路斷線：雖然我們針對恐怖主義和組織性仇恨行為的政策執行大多來自例行內容移除，但有時這些努力還是不夠。這是一個敵對的領域，指定的危險實體有時會試圖迴避我們的政策執行，在平台上重新建構網路。為了打擊這些網路，我們運用一種稱為策略性網路斷線（SND）的關鍵作法。無論是在其首次遭到指定時，或是在我們為了讓這些指定團體遠離平台而持續進行的工作當中，策略性網路斷線都可讓我們一次性地移除已遭禁止的危險組織和人物的網路。徹底停用這些叢集，可使其更難重新返回平台。此舉也傳達一項明確的訊息：我們知道他們的存在，而我們平台不歡迎這些團體。最後，這項技術可讓我們研究這些危險組織和人物可能會如何試圖規避我們的偵測，以及在我們移除其帳號後，他們可能會如何試圖重回我們的應用程式。
預防措施
Meta 致力維護我們平台的安全和信譽。我們實現這項目標的方法之一是從上游開始防範，在危險組織和人物紮根於個人或社群之前，便採取主動措施防止其擴散。相關作法包括使用針對性的干預措施和推廣正向言論。我們相信建設性的對話至關重要，並致力創造鼓勵此類交流的環境。
為了進一步加強我們的努力，我們積極與致力遏止極端主義、組織性仇恨行為和犯罪活動的公民團體組織（CSO）合作。我們透過增強這些組織的能力以及提供創造反制言論內容所需要的資源來支援這些組織。這些內容挑戰極端主義份子的敘述，並提供不同觀點，以協助促進更正向、更具包容性的網路環境。
我們對反制極端主義採取多面向的積極主動作法，其中結合防範、合作以及推廣正向言論等措施。
  • Resiliency Initiative 這項計畫為亞洲、非洲和美國各地的公民團體組織提供預防／反制暴力極端主義（P/CVE）宣導活動策略方面的訓練，並建立其發起有效反制言論宣導活動的能力。作為 Resiliency Initiative 計畫的一環，Meta 與 Search for Common Ground（SFCG）在美國發起合作關係，以支援在當地運作的社群合作夥伴反制源自仇恨的暴力行為，並建立社會與社群應變調適能力。
  • 更安全的搜尋：當用戶搜尋有關危險組織和人物的詞彙時，我們也會在適當情況下將其導向相關資源。當用戶在 Facebook、Instagram 和 Threads 搜尋危險組織和人物的詞彙時，系統會轉而向其提供資源，協助阻止搜尋危險組織和人物的內容，並向用戶提供教育資源。
    我們也在澳洲、美國、英國、德國、印度、印尼和巴基斯坦等數個國家執行搜尋計畫。如果有用戶搜尋各個市場專屬的詞彙，且通常著重於特定危險組織和人物危害，我們會與當地專門為有極端主義風險之用戶提供支援服務的公民團體組織合作，向用戶提供額外資訊和資源。
  • 向社群組織提供資源：我們也會執行安全廣告計畫，透過在公民團體組織合作夥伴執行反制言論計畫時，向其提供廣告抵用金和策略支援，協助他們主動防止傷害。藉由與這些組織戮力合作，我們旨在拓展合作夥伴關係，以打擊危險組織和人物。
這項努力仍在持續當中，而我們瞭解只要危險組織和人物存在於世界上，就也會存在於網際網路當中，因此我們必須保持警覺。這些團體會採取新策略來避免遭到偵測，並／或試圖規避我們的政策和政策執行，而這種敵對行為正是我們持續努力領先一步、評估和更新作法的原因。