グローバルリスクを評価し備える方法
更新日 2024/04/29
Metaは、危機的状況において差し迫った危害のリスクを継続的に評価し、それを基に、的を絞った一時的なポリシーや製品により、人々の安全を守ることにつながるアクションを取って対応します。このアプローチには、地域、国、または世界規模のイベント(選挙など)の前と最中に潜在的なリスクを調査することが含まれます。
Metaは、リスクの高い状況に対応できるよう、さまざまなシナリオに対処するための複数のアプローチを採用しています。例えば、製品機能の変更や制限、メッセージのレート制限の導入、コンテンツ配信の制限などです。
Metaでは有害な可能性のあるトレンドを特定するために、公開レポートからの情報収集、信頼できるパートナーからの提案の検討、コンテンツのトレンドの継続的な観察、人権デューデリジェンスの実施、インテリジェンスチームによる評価の分析などを行っています。これらの情報は、既存のコミュニティ規定および施行システムと組み合わせて、どのような製品やポリシーの緩和を用いればリスクの高い選挙といった危機の最中の不正行為を防止できるかを判断するための材料になります。これには、弊社の危機管理ポリシープロトコル(CPP)が含まれます。これは、コンテンツのリスクに対処する方法や、リスクの高まりに対してシステムを適応させるために講じうる個別の措置を評価するためのものです。
重要な緩和策として、場所を「暫定的にリスクの高い場所(THRL)」に指定することが考えられます。このポリシーツールは、現実世界の出来事により危険性が高いと判断された場所で、特定の種類の暴力的なコンテンツに対処するために使用されます。Metaは、危機を緩和するためのポリシーツールやフレームワークに加えて、Integrity Product Operations Center (IPOC)も頼りにしています。これは、特定の状況の発生時または事前に、社内のさまざまなチーム、専門スタッフ、機能などを必要に応じて編成し、潜在的な問題やトレンドにリアルタイムで対応する手段です。
選挙期間中、IPOCは、データ分析ツール、信頼できるパートナーからの情報、従来のメディアなど、複数の情報源をモニタリングします。また、利用者からの報告や弊社の分類システムによってフラグされたコンテンツのトレンドもモニタリングします。
THRL指定プロセスとCPP指定審査プロセスは、暴力やオフラインでの危害のリスクが高まるシグナルを同じように利用していますが、それぞれ別の取り組みです。危機の発生時にTHRLの指定を検討する場合がありますが、これはCPP指定が条件となるものではありません。
Metaのチームはプラットフォームを継続的にモニタリングして、進化するリスク環境を評価し、トラッキングしているシグナルに変化や急増が見られた場合にそれに対応する調整を判断できるようにしています。こちらで、リスクの高まりに対して弊社がシステムを適応させる方法についての詳細をご覧ください。