透過交叉檢查系統準確審查影響重大的內容

上次更新日期 2024年11月12日
2022 年 12 月 6 日，監察委員會發佈了關於 Meta 交叉檢查政策的政策諮詢意見。為了充分解決建議的數量，我們已與監察委員會達成共識，在 90 天內做出審查和回應。如需深入瞭解交叉檢查系統，請瀏覽我們的政策公開透明平台貼文。
交叉檢查概述
Facebook 和 Instagram 的用戶每天建立多達數十億則內容，管理如此大量的內容是一項難題，包括必須在我們重視的理念和目標之間做取捨。我們致力迅速審查潛在的違規內容，並在確認違反政策時將其移除。然而，為了維護用戶的表達自由，我們必須權衡此目標和「誤判」（錯誤移除非違規內容）所帶來的風險。（這裡我們使用「移除」內容來泛稱誠信相關處置，其中也包括使用警告畫面或移除粉絲專頁等情形。）
為了在這些考量因素之間取得良好平衡，Meta 實施了交叉檢查系統，以辨別誤判風險較高的內容，並進行額外審查以減輕誤判的風險。交叉檢查會針對我們內部系統（透過自動偵測或人工審查）標示為違規的特定內容進行額外審查，目的在於防止或減少可能因各種因素（例如需要瞭解細微差異或背景脈絡）而發生的高風險誤判審查錯誤。（這裡指的是透過交叉檢查系統審查的「內容」。我們也會透過交叉檢查來審查其他處置，例如移除粉絲專頁或個人檔案。）雖然交叉檢查是額外的審查作業，但審查人員仍是以適用於 Facebook 或 Instagram 上其他所有內容的《社群守則》作為審查依據。
交叉檢查系統在保護人權上可發揮關鍵作用。舉例來說，不論是報導衝突地區消息的記者，還是呼籲大眾關注仇恨或暴力議題的社群領袖，他們的實體和貼文都在交叉檢查系統的審查範圍內。交叉檢查的審查過程會考量相關背景資訊，以便做出正確的內容處置。交叉檢查審查程序亦適用於公民實體，因為這類實體的用戶較有興趣關注所在地區領袖的意見。
此外，管理 Meta 與許多企業合作夥伴的關係時，交叉檢查系統也扮演重要角色。例如，若錯誤移除有大量用戶追蹤的粉絲專頁或個人檔案所發佈的內容，可能會對 Meta 的企業合作夥伴和無數用戶帶來負面體驗。我們也會對某些成員人數眾多的社團採行交叉檢查，因為若對這些社團做出錯誤處置，可能會影響數十萬或數百萬名用戶。交叉檢查不會將 Meta 的企業合作夥伴或社團排除在內容政策之外，不過，交叉檢查有時確實會進行多次額外審查，以確保這些政策正確執行。
Facebook 和 Instagram 用戶每天發佈多達數十億則內容，即使我們在世界各地擁有上千名專職審查人員，仍無法單靠人工來逐一審查可能違反《社群守則》的內容。我們的技術可在任何用戶提出檢舉前，主動偵測並移除大部分的違規內容。每當用戶在 Facebook 或 Instagram 發佈內容，我們的技術便會檢查內容是否可能違反《社群守則》。許多情況很容易識別，貼文是否違反政策顯而易見。但在其他情況下，內容必須交由人工審查，以進一步評估狀況。
我們主要的審查系統會使用技術來優先審查高嚴重性內容，包括散播快速的「瘋傳」內容。若系統將內容標示為交由人工審查，審查人員會針對內容是否應保留在平台上，經考量細微的差異後，做出艱難的決定。雖然我們一直盡力做出正確的決定，但我們承認難免有誤判的時候，有些內容實際上未違反 Meta 的政策，卻被認定違規而排定移除。因此，Meta 傾力投入資源防止錯誤，以進一步審查誤判情形，減輕誤判風險。我們的其中一項錯誤預防策略，便是交叉檢查系統。
交叉檢查系統會針對內容進行額外的人工審查，有助於確保我們做出正確的政策執行處置。若審查人員在交叉檢查時確認內容違反《社群守則》，我們便會執行政策，按照規定處理違規內容。根據內容的複雜程度，我們可能會進行多次審查，包括在少數情況下請領導團隊審查。若最終階段的審查人員認定相關內容並未違反《社群守則》，該審查人員便可「推翻」原本的處置，將內容保留在平台上。
過往的交叉檢查作法
我們最早於 2013 年開始實施現在所謂的「交叉檢查」系統。多年來，系統的各項細節不斷演變，我們也盡可能提供這些變更事項的生效日期和日期範圍。
為了判斷哪些內容或實體曾接受交叉檢查審查，我們的團隊找出我們認為遭誤判處置風險較高的用戶或實體，彙整成一份名單。「誤判風險」是指內容或實體在實際上未違反《社群守則》的情況下，面臨的錯誤政策執行風險。為了判別誤判風險較高的用戶和實體，我們的團隊採用各種標準，包括用戶或實體類型（例如民選官員、記者、重要企業合作夥伴、人權組織）、追蹤者／粉絲人數，以及實體的主題。（「實體」一詞泛指內容的出處或顯示位置，例如用戶帳號、粉絲專頁或社團。）
若這些名單中的用戶或實體發佈內容或採取動作，且被系統標示為可能違反政策，我們便會將該內容或實體排入交叉檢查審查佇列。
自 2020 年起，我們改用風險架構來優先審查佇列中大部分的內容；這個風險架構會指定 Meta 錯誤移除內容時可能造成的誤判風險等級。原則上，此風險架構會考量三大要素：（1）實體的敏感程度、（2）據稱違規內容的嚴重性，以及（3）潛在政策執行處置的嚴重性。
現行的交叉檢查作法
如同我們致力改善所有的政策和程序，我們也持續設法提升交叉檢查的品質，同時不斷改變進化。今年初，我們找到了改善交叉檢查系統的新契機。我們調整了系統結構，現行的交叉檢查系統分成兩大部分：「一般後續審查」（General Secondary Review，GSR）和「敏感實體後續審查」（Sensitive Entity Secondary Review，SSR）。雖然我們仍會採用上述的名單型方式，對部分用戶和實體進行敏感實體後續審查，不過，藉由一般後續審查，我們逐漸得以確保所有來自 Facebook 和 Instagram 用戶和實體的內容，都可透過名為「交叉檢查排序工具」的動態排序系統接受交叉檢查審查。
一般後續審查會由外包的審查人員和我們的區域團隊成員執行，他們會在進行政策執行處置之前，再次審查可能違反政策的內容和實體。這項審查程序不會單憑用戶或實體的身分，就決定哪些內容須接受交叉檢查審查。交叉檢查排序工具會根據主題敏感度（主題的熱門／敏感程度）、政策執行嚴重性（潛在政策執行處置的嚴重程度）、誤判可能性、預測觸及率和實體敏感度（主要依據上文提及的彙整名單）等標準，評估誤判風險並依此排序內容。目前大多數的交叉檢查審查程序，皆已使用交叉檢查排序工具進行。
敏感實體後續審查則與過往的交叉檢查系統相似。為了判別應接受敏感實體後續審查的內容或實體，我們持續記錄用戶和實體在被標示為可能違反《社群守則》時，哪些對象所受到的政策執行處置須接受額外的交叉檢查審查。不過，我們在彙整和修改這類名單的程序上新增了控制環節。在 2020 年 9 月前，多數員工都能將用戶或實體加入交叉檢查名單中；自 2020 年 9 月起，雖然任何員工都能要求將用戶或實體加入交叉檢查名單，但只有部分指定員工才有將對象新增到名單中的權限。
敏感實體後續審查名單的管理責任目前由我們的全球營運組織承擔，並由法律與合作夥伴團隊以其專業知識和經驗提供支援。雖然我們全球營運團隊的分析報告架構與 Meta 的公共政策團隊各自獨立，但我們會向公共政策團隊諮詢有關交叉檢查處置的意見，就如同公司中眾多內容審核領域都會向該團隊徵詢意見。在這些情況下，我們的營運團隊可能會運用 Meta 公共政策團隊的專業知識，並結合區域專家和無語言偏好的專業審查人員，共同強化當地和文化觀點。各自獨立的分析報告架構有助於確保審查獨立於政治或經濟影響。為了維護名單以確保其相關性和適當性，我們也制訂了積極的年度審查程序，以便稽核敏感實體後續審查名單中的實體是否持續符合資格，而我們將持續精進此程序。
近幾個月來，Meta 每天平均審查上千件交叉檢查工作，其中大多透過一般後續審查完成。（相較於每天有數百萬則因違反《社群守則》而遭標示與處置的內容，這只是一小部分。）現在這些每日審查工作中，只有少數是敏感實體後續審查。透過優先採用一般後續審查，我們預期交叉檢查審查工作的數量會在 2021 年末到 2022 年間持續變化。
若內容發佈者是必須接受敏感實體後續審查的個人或實體，通常會先由區域團隊審查。接著，向上呈報團隊才會審查內容，以確認是否違規。一般而言，若區域團隊認為內容未違反我們的政策，向上呈報團隊便不會進行審查。若發佈內容的個人或實體經由交叉檢查排序工具安排優先審查，則通常會由外包人員或區域團隊負責審查，除非向上呈報團隊有額外人力可進行審查。在過往的交叉檢查程序中，複雜程度高的問題可能會接受額外審查，包括在少數情況下交由領導團隊審查。若內容經最終審查判定為違反《社群守則》，我們便會將其移除。若我們的審查人員認為內容未違反政策，那我們就會保留內容。
截至 2021 年 10 月 16 日，大約有 66 萬名用戶和實體列入上文提及的名單，因此這些對象所受的處置必須接受敏感實體後續審查。我們會不斷改善參考標準，並據此在上述名單中新增或移除用戶和實體，因此這個數目時有變化。以下說明符合敏感實體後續審查資格的用戶和實體，其中包括但不限於：
  • 與加劇衝突或高風險事件有關的實體。目前，處理高風險事件的團隊會透過非正式程序，識別政策執行過當風險較高的實體。舉例來說，若用戶的爭議性內容在平台上瘋傳（例如警方施暴的直播影片），我們可能會認為該用戶須接受敏感實體後續審查，以防錯誤移除。
  • 基於法規遵循目的而審查的實體。為了遵守法律或法規要求，我們會在特定情況下採行敏感實體後續審查。
  • 能見度高的公眾人物和發佈商。政策執行過當可能會對大批用戶造成負面體驗，因此我們會對這類對象採行敏感實體後續審查。
  • 弱勢族群。為了保護弱勢族群免於攻擊，我們會對人權捍衛者、政治異議人士，以及其他我們認為可能會遭到政府針對或其他惡意騷擾、網軍攻擊或大量檢舉的對象採行初步反應後續審查。
  • 公民實體。我們會遵循客觀標準和借助區域政策團隊的專業知識，以識別政治人物、政府官員、機構、組織、倡議團體和公民意見領袖。為了預防做出錯誤處置，導致限縮未違規的政治言論，以及對選舉、公共政策和社會議題等公民議題的討論造成不利影響，我們會對上述實體採行敏感實體後續審查。我們致力確保國家／地區的公民實體均享有平等對待，例如，若我們對國家內閣採行敏感實體後續審查，我們也會將該國家／地區政府的所有部會納入敏感實體後續審查的範圍。
  • 企業商家。我們會對高價值廣告商以及曾遭遇政策執行過當的用戶採行敏感實體後續審查，以保障收益並建立對我們平台的長期信任。
我們目前仍在檢視改善標準的方式，以適當辨別應接受敏感實體後續審查的實體。例如，我們正針對追蹤者／粉絲人數、先前政策執行誤判的次數、法律／法規要求以及重要政治／社會議題等方面，探尋改善標準的方式。用戶得透過這份表單要求不將其納入敏感實體後續審查清單。Meta 不會確認用戶是否在敏感實體後續審查清單中，或是否已從這些清單中移除。然而，我們堅信用戶的自主權，並將盡快審查每項要求。
除了交叉檢查系統的兩大部分之外，我們也擁有名為「動態多重審查」（Dynamic Multi Review，DMR）的內部錯誤預防系統。這項系統讓我們能將已審查的案例送回重審，以取得有關處置的多數決（例如，若大多數審查人員同意某項處置，則該案例將結案），從而讓我們對正確性更有信心。我們使用這項系統來提升人工審查的品質和準確度，並透過調整我們對最終處置所要求的審查數量來減少錯誤處置的風險；此類調整係根據傳播力、瀏覽次數和造成傷害的可能性（例如可能違反我們性剝削或危險人物和組織相關政策的行為）等多種不同因素。
未來的交叉檢查資訊透明度介入措施
為因應監察委員會就交叉檢查政策諮詢意見轉介於 2022 年 12 月做出的裁決，我們也已承諾採取一系列錯誤預防資訊透明度介入措施。這些介入措施包括：
  • 與我們的內部人權和公民權團隊、信任的合作夥伴以及其他外部公民社會組織進行架構清楚且紮實的互動，以便探索如何為我們用來識別交叉檢查名單中公共利益實體的條件提供適當資訊。
  • 探索來自全球、區域和當地公民社會團體且較正式的交叉檢查名單提名程序。
  • 隨著我們盡可能將所有交叉檢查處置都交由使用相關語言並擁有區域專長的審查人員，投資於高品質的審查和培訓資源。
  • 在錯誤預防系統中實施服務層級協議（Service-Level Agreements，SLA），讓我們能夠優化現有的審查人員配置模式，以盡快進行語言內審查。
雖然我們已大幅提升交叉檢查系統的品質，我們仍在探索各種方式，以進一步確保系統維持適當的平衡，在移除違反《社群守則》內容的同時，也確保減少影響重大的政策執行錯誤。