審査優先順位の決定におけるテクノロジーの活用

更新日 2022/01/19
違反の可能性のあるコンテンツが利用者によって報告された場合でもMetaのテクノロジーによって検出された場合でも、自動化は対象分野に精通し、言語の専門知識を備えた審査担当者にそのコンテンツを迅速に転送するのに役立ちます。
弊社では、自動化により転送されたコンテンツをテクノロジーを利用してランク付けと優先順位付けを行い、審査チームが最も重要なものから重点的に着手できるようにしています。審査を優先すべきコンテンツには、テロや自殺に関連する投稿などオフラインでの危害を及ぼす可能性のあるものや、大規模なオーディエンスの目に触れる可能性のある、ポリシーに違反したバイラルコンテンツなどが含まれます。
適切な決定を確実に下すために必要な時間を審査チームが十分に確保できるようにするため、弊社ではMetaのテクノロジーとプロセスを継続的に改良しています。
Metaによるコンテンツ審査の優先順位付けのしくみ
コンテンツに関する規定施行における審査チームの重要性
Facebookコミュニティで生じる可能性のある危害を減らすうえで常に欠かせないのが弊社のテクノロジーと人間の審査チームの連携です。コンテンツに関する規定施行システムを全体的に強化するのに役立つ、審査担当者とテクノロジーの連携を通じた取り組みのいくつかを以下にご紹介します。
テクノロジーの訓練
審査担当者が特定のコンテンツに関する決定を下すと、それは同時にテクノロジーを訓練することにもなります。こうした訓練を重ねることでテクノロジーはすでに人間が決定を下したものに類似する他のコンテンツをより正確に特定できるようになります。人間とテクノロジー間におけるこうしたフィードバックの循環はFacebookのシステムを最新に保つうえで極めて重要です。
審査チームは、違反コンテンツを審査する際の決定の拠り所となるポリシーに対して手動でラベル付けを行います。つまりコンテンツ、アカウントあるいは行為が違反しているポリシーをマーキングします。この重要なラベルデータは、有害なコンテンツを積極的に探すFacebookの人工知能アルゴリズムの品質向上に役立てられています。
Facebookのテクノロジーは、繰り返し行われている違反を検出することと、過激な描写が含まれていることが明らかなコンテンツを特定することの2つの機能において特に優れた能力を発揮しますが、コンテンツがポリシー適用の対象になるかどうかが不明瞭であったり、その判断が複雑であったり特別な意味合いを持っていたりする場合は、テクノロジーよりも審査担当者のほうがより適切な決定を下す傾向にあります。