如何運用技術決定審查順序

上次更新日期 2022年1月19日
不論可能違規的內容是由用戶檢舉或由 Meta 的技術偵測發覺，我們都會透過自動化系統，將該內容快速傳送給具備合適主題和語言專業知識的審查人員處理。
接著，我們會透過技術來為內容分級以排定優先順序，讓審查團隊能先集中心力處理最重要的案例。此類案例包括可能造成現實世界傷害的內容，例如與恐怖主義和自殺相關的貼文，以及違反我們政策且可能觸及廣大受眾的網路瘋傳內容。
為了確保審查團隊能集中心力，將更多時間用於做出正確的處置，我們也持續改善自家的技術和程序。
Meta 如何決定內容審查順序
審查團隊之於內容政策執行的重要性
我們的技術和人工審查團隊向來合作無間，以減少我們社群受到的傷害。以下作法能讓審查人員與技術相輔相成，協助強化我們的整體內容政策執行系統。
訓練我們的技術
當審查人員對一則內容做出處置，他們同時也是在訓練及改善我們的技術，讓技術之後能夠辨識其他類似內容。這種人工和技術之間的意見回饋循環，是讓系統保持與時俱進不可或缺的一環。
審查團隊在審查違規內容時，會手動標註該處置所依據的政策，也就是說，他們會將內容、帳號或行為所違反的政策標示出來。此類重要的標註資料，有助於我們提升人工智慧演算法的品質，主動搜尋有害的內容。
對於偵測屢次違規的行為，以及辨識明顯的血腥或極端內容，我們的技術在這兩個領域的表現特別出色。但對於內容模稜兩可、錯綜複雜或差異細微，難以確認我們的政策是否適用於特定內容時，審查人員通常能做出比技術更適當的處置。