保全性のホールドアウト

更新日 2022/08/25

製品機能や安全機能のテストは、弊社プラットフォームを改善する重要な要素であり、テクノロジー産業やその他多くの産業において標準的な慣行です。これは、弊社が、弊社プラットフォーム上のヘイトスピーチや、その他の種類の問題コンテンツの蔓延を軽減するツールを構築する上で役立ちます。

このテストにより、弊社は、コミュニティ規定に違反するコンテンツのごく一部を、即時の強制措置から「ホールドアウト」すべきコンテンツに指定します。このようなホールドアウトは、弊社の保全性の取り組みの影響を把握する手段になるほか、対策が取られた場合と、取られなかった場合とを比較する基準も提供します。

ホールドアウトは、強制措置の取り組みに必要な重要なインサイトを弊社に提供しますが、コミュニティの安全が最優先されます。そのため、弊社は、このような方法でホールドアウトが適用されたコンテンツに対しても、わずかに遅れて(ただし7日以内に)強制措置を適用します。こうすることで、弊社の取り組みの有効性を測定するのに必要なデータを取得することができます。児童搾取を示す画像など、重大な違反コンテンツに対する強制装置は、このようなホールドアウトの一環として決して遅滞することはありません。

ホールドアウトは、強制措置の変更による効果の測定を可能にするほか、強制措置の取り組みが蔓延の軽減にどの程度有効かを把握し、また、最大限の影響を及ぼす分野に保全性の投資を優先するための重要なツールとなります。