False positive 數量
上次更新日期 2025年12月11日
什麼是 false positive 數量
「False positive 數量」是衡量在 Facebook 和 Instagram 中，政策執行系統或真人審查人員誤判而移除的非違規內容項目總數。與政策執行精確率相比，後者雖然是以百分比來顯示，而 false positive 數量則是估計數量，用於量化政策執行失誤而造成的實際影響。
除了以上的計算方式之外，我們也可以這樣來看待 false positive 數量：我們採取行動以移除實際上遵守《社群守則》的內容有多少次？這項衡量數據有助於我們了解無意結果的規模，以及政策執行錯誤所影響的用戶或創作者人數。
我們如何衡量 false positive 數量
系統會結合被處置的內容數量，以及同一段時間內經過衡量的準確率估計值，以估計出 false positive 數量。整體平台精確率最能準確反映採取動作最多的區域，但我們避免直接以此計算 false positive 數量。反之，我們會針對平台的較小子集衡量精確率，然後將這些精確率數值與相應的政策執行數量合併，以衡量這個子集的 false positive 數量。我們隨後將這些 false positive 數量的子集彙總在一起，以得出整個平台的整體 false positive 數量。
舉例來說，《社群守則執行狀況報告》顯示每季度我們會針對 Facebook 上數以億計的垃圾訊息內容採取政策執行處置，但針對暴力和煽動仇恨內容的處置數量不到 1,000 萬個。在這種情況下，將垃圾訊息政策執行的整體精確率套用到暴力和煽動仇恨政策的執行數量並不合適。我們改為衡量個別傷害的精確率，然後以傷害程度的精確率計算每種傷害的 false positive 數量，再將這些數量加總成 Facebook 的最終總值。
若某個特定粒度沒有足夠的樣本以可靠地計算精確率，我們就會使用下一個最近的彙總級別精確率。
我們為什麼要衡量 false positive 數量
我們會衡量 false positive 的數量，以了解政策執行錯誤對社群的實際影響。「False positive」代表用戶或創作者因我們的處置有誤而受到影響，從而可能破壞信任和造成困擾。
追蹤此衡量數據有助我們做到以下幾點：
- 評估我們政策執行系統的成效和公平性。
- 識別自動化系統或政策的變更何時會導致錯誤增加（或減少）。
- 優先考慮改善系統，從而逐漸減少錯誤。
哪些因素會導致 false positive 數量有所變動？
False positive 數量可能會因 Meta 內外的多種因素而有所升降：
- 政策執行活動的變化：如果整體而言有更多內容受到處置，即使政策執行的精確率保持穩定，false positive 數量也會增加。
- 因季節或事件而導致的飆升：重大事件或對抗性攻擊可能會暫時增加政策執行處置次數，從而導致 false positive 數量增加。
- 改善偵測系統：更完善的模型或審查人員培訓可提高政策執行的精確率，從而減少針對相同數量的違規內容所產生的 false positive。
注意事項
由於 false positive 數量是根據我們的精確率成效衡量得出，因此所有關於精確率的注意事項也適用於 false positive 數量。