技術如何幫助找出需優先審查的內容

上次更新日期 2022年1月19日
無論疑似違規的內容是經用戶舉報，還是由 Meta 技術偵測所得，自動化系統都有助我們快速將內容轉交給擁有合適範疇知識和語言專業知識的審查人員。
然後，我們會運用技術來安排審查內容的優先順序，以便審查團隊專心優先處理最重要的個案。這類個案包括有可能在現實中造成實際傷害的內容，例如涉及恐怖主義和自殺的帖子，以及違反我們的政策且有可能接觸到大量受眾的熱門內容。
為了確保審查團隊能夠將更多時間花在做出適當的決定，我們一直都在努力改善旗下技術和審查流程。
Meta 安排內容審查優先順序的方式
為什麼審查團隊對內容政策執行來說很重要
為了減少對我們的社群造成傷害，我們的技術和人工審查團隊一直都在互相合作。以下是審查人員與技術互補，共同加強整體內容政策執行系統的一些方式。
訓練我們的技術
當審查人員針對某則內容做出處置決定後，他們同時也是在訓練與改善我們的技術，助其隨時間下來學會辨識類似內容。這種人類與技術之間的回饋循環，對於幫助系統與日並進來說至關重要。
審查違規內容時，審查團隊會手動標註是基於哪項政策得出此決定，亦即標示該內容、帳戶或行為所違反的政策。這些重要的標籤資料能夠幫助我們改善人工智能演算法的品質，以便繼續積極搜尋有害的內容。
我們的技術在 2 個領域的表現特別傑出：偵測重複出現的違規內容，以及辨識明顯為血腥暴力或過度極端的內容。不過，當判斷我們的政策是否適用於某則內容時，如果有關情況極為模稜兩可、複雜或只有細微情況差別時，審查人員往往能比技術做出更好的決定。