如何評估全球風險並預做準備
上次更新日期 2024年4月29日
Meta 會持續評估在重大事件期間發生立即傷害的風險，以便在有限時間內採取明確的政策和產品因應措施，協助確保用戶安全。相關作法包括在舉辦地方、地區和全國性活動（例如選舉）之前或活動期間，審視是否存在潛在風險。
為了因應高風險事件，Meta 依據不同情況準備了多項作法，例如變更或限制產品功能、實施傳訊限速和限制內容散播等等。
為了識別可能有害的趨勢，我們蒐集來自民眾舉報內容的資訊、檢視信賴的合作夥伴提供的建議、持續觀察內容趨勢、落實人權盡責調查，以及交由人工智慧團隊來審查評估內容。這項資訊加上現行的《社群守則》和政策執行系統，可協助我們選擇合適的產品類型及緩解措施，用以防止危機發生時（包括高風險選舉期間）的濫用行為。舉例來說，危機政策協定（CPP）可協助我們評估解決內容風險的方法，並區分不同的相應措施，讓系統能適時調整以因應風險加劇的情形。
我們可能採取的重大緩解措施包括將特定地點指定為暫時性高風險地點（THRL）；這項政策工具主要針對因現實生活中的事件而歸為高風險的地區，處理當地特定類型的疑似暴力內容。除了我們旨在緩解危機的政策工具和架構之外，Meta 也仰賴誠信產品營運中心（IPOC），在特定事件發生之前，視需要或不時集結整個公司的不同團隊、專業領域專家和相關人員，即時處理潛在問題或趨勢。
在特定選舉期間，IPOC 會監控包括資料分析工具、信賴的合作夥伴所匯入的資料以及傳統媒體等多項資料來源。此外，我們也會監控用戶舉報資訊的趨勢，以及遭分類工具標示的內容。
儘管分屬不同業務性質，「暫時性高風險地點」制定程序和《危機政策協定》制定審查程序在暴力風險加劇或實際傷害行為上，採用部分相同的訊號。雖然我們可能會在發生危機時考慮指定暫時性高風險地點，但此舉並非取決於《危機政策協定》制定程序。
我們的團隊會持續觀察旗下平台，以評估瞬息萬變的風險環境，協助決定最終調整作法，以因應我們所追蹤訊號的任何飆升或變動。歡迎參閱這裡提供的其他相關資訊，深入瞭解我們如何調整系統以因應風險加劇情形。