我們就危險組織和人物採取的措施
上次更新日期 2024年11月11日
我們的平台並不允許存在任何宣揚暴力、組織犯罪、仇恨或恐怖主義的群體或人士。經過多年的努力，我們經已制定並持續改進與危險人物和組織（DOI）相關的政策及流程，以處理相關內容。雖然我們致力為人們提供空間，讓他們能夠討論發生在世界各地並影響其生活、家庭和社群的事件，但我們的政策仍必須劃清界限，限制我們平台上不允許出現的內容。
我們的政策旨在確保平台的安全
Meta 擁有業界最全面的政策之一，用以打擊恐怖組織、仇恨團體、販毒集團等有組織犯罪組織、煽動暴力的實體，以及大規模槍擊或恐怖攻擊等指定違規事件的肇事者之相關內容。
根據這項危險人物和組織相關政策，我們會指定並封鎖涉及相關活動的人士和組織，並在發現美化和支持此類對象或事件的內容時將其移除。與此同時，我們也會指定並封鎖煽動暴力的實體，即是正在籌劃或提倡未來的暴力行為，但目前可能尚未實際參與暴力活動的實體，而且我們同樣會移除美化和支持他們的內容。
我們的政策內容均可供公眾查閱，歡迎前往《社群守則》頁面閱讀更多相關詳情。此外，我們會定期在季度社群守則執行狀況報告中公佈有關我們移除此類內容的數量之詳細資訊。
我們的指定方式與原因
我們不允許任何組織或人士在 Meta 各平台上宣揚暴力或仇恨行為，或參與暴力行為。我們會根據這些實體在網上和現實世界中的行為來加以評估，而最重要的判斷因素在於他們與暴力行為之間的關聯。我們會根據此政策來指定人士、組織和網絡。為了確保我們能更有效、更合理和更一致地執行政策，我們會將這些指定項目分為兩個級別。您可以參閱我們的《社群守則》，進一步了解這些級別，以及每個級別涵蓋的組織類型。
我們設有健全的內部流程以考慮各方面的資訊來源，從而評估可能被指定的組織和人士。我們制定了自己的定義和指定程序，且不受地區或意識形態所影響，因此能夠以穩健、公平且積極主動的方式保護我們的平台。
這並非一勞永逸的工作。我們會持續評估風險，並根據群體和人士的行為、局勢變化、新的資訊、內部專家的分析以及外部利害關係人的意見，評估我們對這些組織和個人的指定是否恰當。舉例來說，正如我們 2024 年 1 月的公告所述，當指定組織或人士改變其行為時，便亦符合資格從我們的名單中除名，特別是如果他們符合以下條件：（1）未有被美國政府指定為「特別指定的毒梟組織」（SDNTK）、「外國恐怖組織」（FTO）或「特別指定的全球恐怖分子」（SDGT）；（2）不再參與暴力或仇恨活動；以及（3）不屬於暴力和仇恨行為的象徵，或未有用來煽動進一步的暴力活動，或散播暴力或宣揚仇恨意識。
儘管我們非常重視資訊透明度，並將持續評估各種利弊得失，但目前我們不會公開指定名單的詳細內容，以降低安全和法律風險，同時防止這些危險分子規避我們的政策執行機制。
我們如何執行有關危險組織和人物的政策
我們在人力、技術、合作夥伴和研究方面投入了大量資源，以打擊危險組織和人物相關活動。
- 技術方面：我們結合了 AI 技術和人類智慧來處理這個領域。與此同時，我們也投入了資源以展開各種研究，並與外部專家和機構合作，以持續掌握這個不斷變化的環境。我們會運用 AI 技術來偵測違規的影片、圖像、音訊、文字，以至標誌和描繪暴力的影像等圖案。我們也向業界開放各項開放原始碼工具，協助合作夥伴取得必要的技術資源，以在其平台上打擊危險組織和人物的相關內容。例如，在 2022 年 12 月，為了讓業內所有公司能夠更輕鬆地清除其平台上的恐怖主義內容，我們推出了免費的開放原始碼軟件工具「雜湊配對執行工具」（Hasher Matcher Actioner，HMA），以協助平台識別圖像或影片的副本，並批量處理此類內容。
- 人力方面：背景資訊和用語往往相當複雜，而科技未必每次都能分辨出用戶是在美化危險組織和人物，還是針對特定文化提出批判。因此，Meta 投入了數十億美元，並安排近 4 萬名員工負責網絡安全和帳戶安全方面的工作。在這個團隊中，我們設立了一個跨職能團隊，而這個專責團隊由數百名專家組成，他們的專業領域涵蓋執法和國家安全、反恐情報，以及激進主義學術研究等方面。
- 合作夥伴方面：只要世界上存在著有害活動，互聯網就無法倖免，且沒有任何一間公司能夠獨自解決這些問題。正因如此，我們必須與各界建立合作關係，包括其他公司、公民社會、研究人員和各地政府。我們與世界各地的政府和政府間機構都有保持聯繫，並與在恐怖主義、暴力極端主義、網絡情報和網上對抗行為等領域具備專業知識的機構建立合作關係。
- GIFCT：我們在 2017 年與 YouTube、Microsoft 和 Twitter 攜手合作，共同成立了「全球互聯網反恐論壇」（Global Internet Forum to Counter Terrorism，GIFCT）；這個組織的成立目標是防止恐怖分子和暴力極端主義者濫用數碼平台。GIFCT 在 2019 年成為獨立的非政府組織，負責協調業界對攻擊事件的危機應變方案。
- 執法機關：當我們得知任何具體、迫在眉睫且可信的人身安全威脅時，我們會毫不猶豫地通知執法機關。Meta 也會就著暴力攻擊事件與執法機關合作，但我們會仔細審查我們收到的每項政府要求，以確保其具有法律效力，並符合國際認可的人權標準，包括正當程序、私隱權、言論自由和法治原則。如果我們認為某個要求缺乏理據或範圍過於廣泛，便會予以拒絕。歡迎前往在此，進一步了解我們與執法機關的合作關係。
- 獨立研究：我們會委託各個智庫、學術機構和非政府組織，針對暴力極端主義者和恐怖分子使用互聯網的各項議題進行獨立研究，以助業界理解這些重要議題並取得進展。2022 年，Meta 宣佈與明德大學蒙特雷國際研究學院的恐怖主義、極端主義和反恐中心建立研究合作關係，共同分析暴力極端主義的發展趨勢，以及開發可助社群對抗此趨勢的有效工具。
- 策略性網絡干擾：儘管我們對恐怖主義和有組織的仇恨行為之處理方式主要都是定期移除違規內容，但有時這樣做還不夠。這是一個存在敵對關係的領域，被指定的危險實體有時會試圖規避我們的政策違規處置，並在我們的平台上重整旗鼓。為了打擊這類網絡，我們採用了一個稱為「策略性網絡干擾」（Strategic Network Disruption，SND）的關鍵方法。有了這種做法，我們便可在遭封鎖危險人物和組織首次被指定時，一次過移除其全部網絡；我們亦可在其後持續執行此工作，以確保這些被指定的組織不再出現在我們的平台中。若能完全封堵這些群體，便能減少他們重返平台的機會。這同時也能傳達一個明確的訊息：我們清楚知道這些組織的存在，而且我們的平台並不歡迎他們。最後，這項技術能讓我們研究這些危險人物和組織如何試圖規避我們的偵測機制，以及當我們移除其帳戶後，他們可能會採取哪些方式，以試圖重返我們的應用程式。
- 2023 年 6 月，獨立學術期刊《美國國家科學院院刊》（PNAS）發表了一篇論文，該論文是由 Meta 研究員 Daniel Robert Thomas 和 Laila A. Wahedi 共同撰寫，當中研究了我們的「策略性網絡干擾」在干擾仇恨團體方面的成效。研究結果發現這個策略行之有效，並有助我們為旗下平台創造更健康、更安全的用戶體驗。
防範措施
Meta 致力保護我們平台的安全性和完整性。我們實現這個目標的其中一種方法，就是在上游採取防範措施，這包括在危險人物和組織的理念扎根於個別用戶或社群之前，主動阻止其內容的散播，如使用針對性干預措施及提倡正面言論。我們相信，推廣具有建設性的對話至關重要，而我們也致力創造一個能夠鼓勵此類交流的環境。
為了進一步加強我們的工作，我們積極與致力打擊極端主義、有組織的仇恨行為和犯罪活動的公民社會組織（CSO）合作。我們會提升這些組織的能力，並為其提供必要的資源來製作言論反制內容，從而支持這些組織。這類內容會就著極端主義的敘事方式提出質疑，並提供不同的觀點，以助營造一個更正面且包容的網絡環境。
我們會採用多方面且主動的方式來對抗極端主義，包括採取預防措施、展開協作關係，以及促進正面言論。
- The Resiliency Initiative 行動計劃旨在培訓亞洲、非洲和美國的公民社會組織，幫助他們掌握預防／打擊暴力極端主義（P/CVE）的宣傳策略，並提升他們進行有效言論反制宣傳活動的能力。在該行動計劃中，Meta 在美國境內與 Search for Common Ground（SFCG）建立了合作關係，以協助在當地打擊仇恨引發之暴力行為的社群合作夥伴，並幫助他們建立社會和社群的復原能力。
- 更安全的搜尋功能：我們亦會視乎情況，在用戶搜尋與危險組織和人物相關的字詞時，將其帶往相關資源。當用戶在 Facebook、Instagram 和 Threads 上搜尋危險人物和組織的相關字詞時，系統會改為向他們提供相關資源，以助阻止用戶搜尋危險人物和組織的相關內容，同時提供教育性資源。我們也在多個國家／地區推行搜尋計劃，包括澳洲、美國、英國、德國、印度、印尼和巴基斯坦。每當有人搜尋與特定市場相關，且通常關乎特定危險組織和人物危害的字詞時，我們就會與當地專為極端主義風險人群提供支援服務的公民社會組織合作，為這些用戶提供更多資訊和資源。
- 為社群組織提供資源：我們也推出了「安全廣告計劃」，旨在支持公民社會組織合作夥伴主動預防危害。當這些合作夥伴推出言論反制宣傳計劃時，我們會為其提供廣告抵用金和策略性支援。我們與這些組織合作，以期擴大合作夥伴網絡，共同打擊危險組織和人物。
這是一項長期工作，而我們也深明，只要世界上還存在著危險組織和人物，他們就會出現在互聯網上，因此我們必須隨時保持警惕。這些組織會採取新的策略來規避偵測機制，和／或試圖規避我們的政策和執法行動，而正是因為這種對抗行為，我們更需要不斷努力保持領先一步，持續評估和更新我們的應對方法。