事前対応率
更新日 2023/02/22
この指標は、利用者から報告を受ける前に弊社が検知し措置を講じたすべてのコンテンツとアカウントの割合を示すものです。この指標は、弊社による違反検知の効率性を示すものです。
機械学習技術の強化は、検知速度の向上に不可欠です。
機械学習と、違反コンテンツを審査し対応を行う熟練の専門家チームをバランスよく活用しています。
一部の違反については、違反のおそれがあるコンテンツを高い確率で事前に検知でき、ほとんどのコンテンツに関して、利用者による報告より前に弊社が検知し措置を講じています。この傾向は、規定に違反するコンテンツを自動的に特定する機械学習技術が構築できているケースで特に顕著です。
このような技術の発展は将来的に大いに期待されるところですが、すべての種類の違反に効果を発揮するまでには至っていません。例えば、文脈やニュアンスを解釈する能力には、特にテキストがベースのコンテンツではいまだに限界があります。これは、一定の種類の違反を事前に検知する際の課題となっています。
この指標は、外部要因によって上下する場合があります。例えば、スパム送信者が同一の悪意あるURLを掲載した1,000万件の投稿をシェアするというサイバー攻撃が発生したとします。利用者からの報告を受ける前に悪意のあるURLを弊社が検知した場合、サイバー攻撃が継続している間は、弊社の検知技術の水準に変化がなくても事前対応率は継続的に上昇し、攻撃の終了後に自動的に減少します。この指標は、弊社のプロセスやツールに生じた変更に応じて上下する場合もあります。例えば、弊社の検知技術が向上すれば指標も向上しますが、利用者による報告が改善され弊社が事前検知に頼ることが少なくなれば、指標も低下します。
この指標は措置を講じたコンテンツ数を基にしたものであるため、同じような考慮すべき事項が多く適用されます。事前対応率に、違反コンテンツの検知に要した時間や、検知前の表示回数は反映されていません。また、弊社が検知できなかった違反の総数や、そのような違反コンテンツの表示回数も反映されていません。弊社が事前検知するコンテンツの割合が極めて高く、一部のカテゴリでは99%に達していても、残りの小さな割合の違反が利用者に重大な影響を及ぼす場合もあります。
事前対応率の算出方法
この割合は、FacebookまたはInstagramの利用者から報告を受ける前に弊社が検知し措置を講じたコンテンツの件数を、弊社が措置を講じたコンテンツの総数で割って算出しています。
Facebookの偽アカウントの場合、この指標は利用者から報告を受ける前に弊社が偽アカウントであることを検知し措置を講じたFacebookアカウントの割合を示すものとして算出されます。この指標は、利用者から報告を受ける前に弊社が検知し措置を講じた偽アカウントの件数を、弊社が停止した偽アカウントの総数で割ったものです。
注意事項
事前対応率の算出では、利用者から寄せられた報告を限定的に数えています。例えば、利用者があるページに関して報告した後、そのページが審査されている間に弊社が当該ページ内の何らかの違反コンテンツを特定して措置を講じた場合、そのコンテンツには事前対応したものとして報告されます。ただし、利用者から違反コンテンツについて具体的な追加報告があった場合はその限りではありません。
最新のコミュニティ規定施行レポートを見る