透過交叉檢查系統準確審查高影響力的內容

上次更新日期 2024年11月12日
2022 年 12 月 6 日，監察委員會針對 Meta 的「交叉檢查」政策發佈了 PAO。為了全面處理多項推薦做法，我們已與監察委員會達成共識，將於 90 天內審視相關推薦做法並給予回覆。如要進一步了解交叉檢查系統，請參閱我們的政策公開透明平台帖子。
交叉檢查系統概覽
Facebook 和 Instagram 用戶每天都會建立數十億則內容。要審核如此大量的內容並不容易，而其中一個挑戰就是要在各種重要的價值觀和目標之間權衡取捨。我們致力盡快審查疑似違規的內容，並在確認內容違反政策時加以移除。不過，我們在實現這項目標的同時，也必須平衡「誤判」風險（即誤將沒有違規的內容移除），以保護用戶的發言權。（我們在此是指內容「移除」，這個用詞是用於更廣義地描述為維持信譽而採取的處置。例如，這類處置也可能包括使用警告畫面或移除專頁。）
為了在這些考慮因素之間取得平衡，Meta 實行了交叉檢查系統，以識別更有可能出現誤判的內容，並提供更多層審查程序，以降低這類風險。交叉檢查程序可為經我們內部系統標示為違規（經自動化系統或人工審查）的特定內容，提供多一層審查程序，旨在防止或盡量減少最高風險的審核誤判問題，這類情況如果沒有經過多一層審查，可能就會因為需要了解細微差別或背景資訊等各種因素而出現問題。（我們在此是指透過我們的交叉檢查系統審查的「內容」。我們也會使用交叉檢查系統審查其他的處置，例如移除專頁或個人檔案。）雖然交叉檢查會提供多一層審查，但審查人員仍是採用同樣約束 Facebook 或 Instagram 所有其他內容的同一套《社群守則》。
交叉檢查系統在幫助保護人權方面發揮著至關重要的作用。例如，交叉查證系統會涵蓋屬於衝突地區新聞從業人員和社群領袖的實體和帖子，這類實體和帖子通常是為了喚起大眾對仇恨或暴力行為的關注。交叉檢查系統在審查內容時，會考慮一些有助其妥善處置此類內容的背景資訊。交叉檢查系統的審查也可能適用於公民實體，因為在這類情景下，用戶更有興趣了解其領袖所說的話。
此外，在管理 Meta 與眾多業務合作夥伴的關係方面，交叉檢查系統也扮演著重要的角色。舉例來說，如果誤將有大量追蹤者的專頁或個人檔案所發佈的內容移除，可能會為 Meta 的業務合作夥伴及其大量追蹤用戶帶來負面體驗。我們也會將交叉檢查系統套用在一些大型群組上，因為在這些群組中，即使是小錯誤也可能會影響數十萬甚至數百萬名用戶。交叉檢查系統並不代表 Meta 業務合作夥伴或群組可獲豁免，無需遵守我們的內容政策；這個系統只是有時會提供多一層審查程序，以確保準確執行我們的內容政策。
Facebook 和 Instagram 用戶每天都會發佈數十億則內容。即使我們在世界各地有成千上萬名專門審查內容的人員，我們也無法手動審查每一則可能違反我們《社群守則》的內容。我們移除的絕大多數的違規內容，都是我們的技術在用戶舉報之前就已主動偵測出來。每當有人在 Facebook 或 Instagram 上發佈內容時，我們的技術就會檢查內容是否有可能違反《社群守則》。在多數情況下，要辨別內容有否違規都相當簡單：帖子要不明顯違反我們的政策，要不明顯沒有違規。但有時候，我們會將內容上報給真人審查員作進一步評估。
我們主要的審查系統會運用技術來優先處理嚴重程度較高的內容，其中包括傳播速度很快的「瘋傳」內容。當系統標示內容以作上報時，我們的審查人員需要作出困難且通常很微妙的判斷，決定內容是否應保留在平台上。雖然我們始終致力作出正確的決定，但我們明白仍會出現誤判：某些內容雖然實際上沒有違反 Meta 政策，但仍被標示為違規並遭移除。因此，Meta 已投放資源在錯誤防範措施上，務求進一步審查誤判並減少這些情況。交叉檢查系統便是這些預防錯誤的策略之一。
交叉檢查系統用於幫助確保我們作出準確的政策執行決定，並且會另外加上一層人工審查程序。如果在交叉檢查過程中，審查人員確認內容違反了我們的《社群守則》，我們就會執行這些政策並相應處置違規內容。根據內容的複雜程度，我們可能會套用多層審查程序，包括在極少數情況下交由領導層審查。如果最終審查人員判定有爭議的內容並未違反我們的《社群守則》，則審查人員可以「推翻」最初的處置決定，將內容保留在平台上。
過往的交叉檢查做法
我們在 2013 年首次實施了現在稱為交叉檢查的系統。多年來，此系統的細節不斷演變，而我們會盡可能提供相關日期和日期範圍，來說明這些變更發生的時間。
為了判斷哪些內容或實體接受了交叉檢查審查，我們的團隊識別並編制名單，列出被認為有較高風險因遭誤判而被處分的用戶或實體。「誤判風險」是指對實際上並未違反我們《社群守則》的內容或實體錯誤施以政策執行處置的風險。為了判斷哪些用戶和實體有較高的誤判風險，我們的團隊採納了各種條件，包括用戶或實體的類型（例如民選官員、記者、重要業務合作夥伴、人權組織）、追蹤者數量，以及實體的核心主題。（實體泛指有可能產生或顯示內容的位置，例如用戶帳戶、專頁或群組。）
當這類名單中列出的用戶或實體發佈了內容或執行了操作，而又被我們的系統標示為可能違反政策時，我們就會將有關內容或實體列入需要進行交叉檢查審查的序列中。
從 2020 年開始，我們作出了一些變更，以便按照風險框架來決定此序列中大部分內容的優先順序；此框架會為內容分配誤判風險程度，說明如果 Meta 誤將內容移除會導致何種程度的風險。此風險框架通常仰賴 3 個因素來判定：（1）實體有多敏感、（2）疑似違規行為有多嚴重，以及（3）可能採取的政策執行動作有多嚴重。
現行交叉檢查做法
與我們所有政策和程序一樣，我們會持續尋求改善方法並不斷作出變更。今年較早前，我們發現了更多機會來改善交叉檢查系統。我們在結構方面的其中一項變更，就是將現時的交叉檢查系統改為由兩個部分組成：一般次要審查（GSR）和敏感實體次要審查（SSR）。雖然我們會繼續使用上述的名單方式來將一部分特定的用戶和實體納入 SSR，但在 GSR 方面，我們正在努力透過「交叉檢查排序工具」，來根據不同情況動態排列不同內容的優先順序，以確保 Facebook 和 Instagram 上所有用戶和實體的內容都能接受交叉檢查。
GSR 牽涉到約聘審查人員和我們的地區團隊成員，他們會在採取政策執行處置之前，覆審可能違反我們政策的內容和實體。此次審查不會單靠用戶或實體的身分，來判斷哪些內容應接受交叉檢查。交叉檢查排序工具會基於主題敏感性（主題的流行／敏感程度）、政策執行嚴重性（可能採取的政策執行處置有多嚴重）、誤判機率、預測接觸範圍，以及實體敏感性（主要基於前述的編制名單）等標準，根據誤判風險將內容排序。目前大多數的交叉檢查的審查工作上，都已在運用交叉檢查排序工具。
SSR 類似於原有的交叉檢查系統。為了判斷哪些內容或實體應接受 SSR，我們會繼續維護用戶和實體名單，以確保當名單對象的內容被標示為可能違反《社群守則》時，我們會在採取政策執行處置前作進一步的交叉檢查審查。不過，我們就這類名單的編制和修訂程序加入了控制措施。在 2020 年 9 月之前，大多數員工都可以將用戶或實體加到交叉檢查名單中。在 2020 年 9 月之後，雖然任何員工都可以要求將用戶或實體加到交叉檢查名單中，但只有特定一組員工有權在名單中加入新項。
SSR 名單目前由我們的全球營運機構負責管治，並由我們具備專業知識和經驗的法律與合作夥伴團隊從旁協助。雖然全球營運團隊的隸屬架構與 Meta 的公共政策團隊互相獨立，但我們在交叉檢查的決定方面，會向公共政策團隊諮詢意見，這與公司上下許多內容審核領域的情況一樣。在這些情況下，營運團隊可能運用 Meta 公共政策團隊的專業知識，並由區域專家和不限語言的專門審查人員從旁協助，以增強當地和文化方面的觀點。如此獨立的隸屬架構，有助確保審查工作不受政治或經濟影響。為了維持息息相關且適宜的名單，我們制定了嚴謹的年度審查程序，以審計 SSR 名單上的實體是否仍可名列其中，而我們也會隨著時間調整相關資格要求。
近幾個月來，Meta 每天平均審查數千個經過交叉檢查的個案，其中大多數都在 GSR 中完成。（相較於每天因違反我們的《社群守則》而遭標示和處置的數百萬則內容，這只是一小部分。）SSR 現時只佔這些每日審查的一小部分。我們預計一直到 2021 年底和 2022 年初，由於我們的 GSR 優先順序安排，交叉檢查系統的審查個案數量都會持續有變。
如果內容是來自 SSR 名單上的個人或實體，則通常會先交由地區團隊審查。然後，上報團隊會審查有關內容，以確認其是否違規。一般來說，如果地區團隊認為內容並未違反我們的政策，有關內容就不會交由上報團隊審查。如果內容是來自由交叉檢查排序工具列為需優先處理的個人或實體，則通常會由約聘審查人員或地區團隊審查此內容，除非上報團隊有額外的人力可以審查內容。如同原先的交叉檢查系統，我們可能會就高度複雜的問題進行額外的審查，包括在極少數情況下交由領導層審查。如果最終審查判定內容違反我們的《社群守則》，我們就會移除有關內容。如果我們的審查結果為內容沒有違規，我們就會保留有關內容。
截至 2021 年 10 月 16 日，大約有 660,000 名用戶和實體因名列上述名單，而需要就其收到的處置進行某種形式的 SSR。隨著我們根據不斷變動的納入名單標準，來將用戶和實體加入上述名單或從中移除，這個數字也會定期有變。符合條件納入 SSR 範圍的用戶和實體範例包括但不限於下列對象：
  • 與上報回應或高風險事件相關的實體。我們目前有一個非正式的流程，由準備高風險事件的團隊識別哪些實體較高風險會受到過度的政策執行處置。舉例來說，如果用戶的爭議性內容開始瘋傳（例如拍下警察暴力行為的直播視像），我們可能會識別該用戶以進行 SSR，防止誤將合規的內容移除。
  • 出於遵守法律規定之目的而獲納入的實體。在某些情況下，我們會進行 SSR 以遵守法律或監管要求。
  • 高知名度的公眾人物和發佈商。我們會識別這類實體來進行 SSR，因為這種情況下的過度政策執行處置可能會為大量用戶帶來負面體驗。
  • 邊緣族群。我們會識別人權捍衛者、持不同政見者，以及其他我們認為可能成為目標而遭受到由政府所支持或其他敵對性的騷擾、網軍攻擊或大規模舉報之對象，以保護這些對象免受這些攻擊。
  • 公民實體。我們會按照客觀標準和地區內政策團隊的專業知識，來識別出政治人物、政府官員、機構、組織、倡導團體和公民 KOL。我們會將這些實體納入 SSR 中，以防止錯誤限制並未違規的政治言論，以及無意中影響對選舉、公共政策和社會議題等公民主題的討論。我們致力確保同一國家／地區中的所有公民實體都得到平等對待，例如當我們在 SSR 中納入政府內閣部會時，我們亦會納入該國／該地區政府的所有部會。
  • 企業。我們會識別出高價值廣告客戶，以及曾遭受過度政策執行處置的廣告客戶，以保護收益並在我們的平台上建立長遠信任。
我們目前正在審視如何改善用識別標準，以更妥善地識別出哪些實體應接受 SSR。舉例來說，我們打算在追蹤者數量、先前處置誤判政策執行處置的數量、法律／監管要求，以及重要的政治／社會議題等領域，探索如何改進識別標準。用戶可透過此表格提出要求，表示不希望自己被納入 SSR 名單。Meta 不會確認用戶是否已被納入這類名單，或已從中移除。然而，我們堅信用戶有權自主決定，因此會盡快審查每個要求。
除了交叉檢查系統的兩個組成部分外，我們還設有一套內部防止出錯的系統，名為「動態多重審查」（DMR）。這個系統可讓我們將經過審查的個案傳回再審，以便就處置決定進行多數投票表決（例如當大多數審查人員都同意某項決定，即視為結案），讓我們更有信心相信決定正確無誤。我們會使用此系統來改善人工審查的品質和準確度，並且根據多項不同因素，例如傳播力、檢視次數以及造成傷害的可能性（例如可能違反我們有關性剝削或危險人物和組織的政策），來調整作出最終決定所需的審查次數，以降低作出錯誤決定的風險。
日後的交叉檢查資訊透明度介入措施
因應監察委員會就交叉檢查政策諮詢意見轉介在 2022 年 12 月作出的決定，我們也致力採取一系列的資訊透明度介入措施來預防出錯，包括：
  • 與我們的內部人權和公民權利團隊、信任的合作夥伴，以及其他外部民間社會機構進行有組織的穩健互動，以探索如何決定要根據哪些條件，來找出要加入交叉檢查名單的公共利益實體。
  • 探索更正式的交叉檢查名單提名程序，以接受全球、地區和當地民間社會團體的提名。
  • 投資開發優質的審查與培訓資源以配合我們的安排，也就是逐步將各項交叉檢查的決定工作，盡可能交給使用相關語言並具備地區專業知識的審查人員處理。
  • 為我們各個防止錯誤系統的審查決定實施完善的服務水平協議（SLA），以助優化目前安排審查人員人手的模式，繼而盡可能加快語言審查程序。
儘管我們已大大改善交叉檢查系統，我們仍在探索如何進一步確保此系統能適當地取得平衡，一方面達成我們的目標移除違反《社群守則》的內容，另一方確保我們能盡量減少影響最大的政策執行處置錯誤。