我們如何評估並準備應對全球風險

上次更新日期 2024年4月29日

在重大事件期間，Meta 會持續評估即將出現傷害的可能性，據此以針對性和限時生效的政策和產品行動作為應對，以助確保用戶安全。這種做法包括在選舉等本地性、地區性和全國性事件之前和期間，檢查潛在風險。

為應對高風險事件，Meta 會採取多種做法來面對和處理各種情況，例如更改或限制產品功能、引入訊息傳輸率限制，以及限制內容流通率等。

我們透過收集公開報告中的資訊、檢視由信任的合作夥伴所提供的建議、持續觀察內容趨勢、進行人權盡職調查以及審視情報團隊的評估結果，來找出潛在的有害趨勢。這些資訊連同現有的《社群守則》和政策執行系統，有助我們了解在包括高風險選舉期間的危機期間，應使用哪類產品和政策緩解措施以防範濫用行為，包括使用我們的《危機政策協定》（CPP）。此協定有助我們評估應對內容風險的方式，以及我們為應對上升的風險而調整系統時所採取的個別措施。

可能有助緩解風險的重要方法包括將某些地點指定為臨時高風險地點（THRL）；這項政策工具用於在因現實世界事件而被判定為高風險地區中，處理特定類型的潛在暴力內容。除了運用政策工具和框架來緩解危機外，Meta 也會採取「廉政產品營運中心」（Integrity Product Operations Center，IPOC）這項措施，視乎具體需要，在特定情況發生前召集公司上下不同團隊、主題專家和相關人員，來即時應對潛在問題或趨勢。

在特定選舉期間，IPOC 會監察多個資料來源，包括資料分析工具、由信任的合作夥伴所提供的資料，以及傳統媒體。我們亦會監察用戶舉報內容和分類器標示內容方面的趨勢。

雖然這兩項程序各自獨立，但在指定 THRL 的程序和指定 CPP 審查的程序中，我們都會參考一些相同的訊號，以了解有否出現更高的暴力或現實世界傷害風險。雖然我們可能會在危機期間考慮指定 THRL，但這個決定不會取決或依賴於 CPP 指定結果而定。

我們的團隊會持續監察我們的平台，以評估不斷變化的風險環境，並由此判斷是否應作出任何相應調整，以應對我們所追蹤的訊號有所飆升或變化的情況。請參閱此處，進一步了解我們如何調整系統以應對上升的風險。