Metaによるコンテンツ審査の優先順位付けのしくみ

更新日 2024/11/12
Metaのテクノロジーは、報告を受ける前に違反コンテンツの大半を検出して削除しています。Facebook、Instagram、MessengerまたはThreadsで投稿があると、弊社のテクノロジーはそのコンテンツがコミュニティ規定に違反していないかどうかを確認します。ほとんどの場合、この確認は単純明快です。つまり、投稿が弊社のポリシーに明白に違反しているか、していないかを確認するだけです。
その一方で、テクノロジーでの確認が難しいこともあります。例えば、投稿のセンチメントが明白でなかったり、使われている言葉が特に複雑であったり、画像が持つ意味合いが文脈に大きく依存していたりする場合です。このような場合は人間による詳しい審査が実施されます。
人間による審査の優先順位付けに関する要素
人間の審査チームは最初に審査すべきコンテンツを決定する際に次の3つの主要な要素を検討します。
重大度
対象のコンテンツがオンラインとオフラインで危害につながる可能性はどの程度か？
バイラリティ
対象のコンテンツがどのくらいの速さで拡散する可能性があるか？
違反の可能性
対象のコンテンツが弊社のポリシーに違反している可能性はどの程度か？
危害を最小限に抑えるため、弊社では審査システムにテクノロジーを導入し、オフラインでの危害を及ぼす可能性のある重大度の高いコンテンツと、急速に拡散しているバイラルコンテンツの優先順位を上げるためにそれを活用しています。
テクノロジーの改良に貢献する審査チーム
人間の審査チームは、特定のポリシー分野や言語に関する専門知識に基づいて、事例ごとに微妙な違いのある難しい決定を下しています。審査担当者が下す決定はテクノロジーを訓練するための情報として使われます。数百万件にも及ぶ決定のそれぞれをテクノロジーの改良に役立てることで、弊社はさらに多くの違反コンテンツを削除できるようになります。
審査担当者による適切な判断の支援
人間の審査チームの能力を促進するテクノロジー
多くの機械学習モデルと同様に、弊社のテクノロジーも、取り込まれる違反コンテンツの事例の数が増えるにつれ徐々にその性能が向上します。そのため、人間の審査チームは、重大度が高くバイラルになるコンテンツや事例ごとの微妙な違いを考慮する必要のあるコンテンツ、新しいタイプの複雑なコンテンツなど、まさに人間のほうがテクノロジーよりもより適切な決定を下すことのできるコンテンツに重点を置くことができるようになっています。
コンテンツ審査の優先順位付けに関するよくある質問
過去において人間の審査チームは、利用者から報告を受けたコンテンツの審査に作業時間の大半を費やしていました。重大度の低いコンテンツや違反のないことが明白なコンテンツに時間をかけ過ぎたため、重大度が非常に高く、危害を及ぼす可能性が極めて高いコンテンツに十分な時間を割くことができないということが頻繁に起きていました。これは人間による決定が弊社の規定施行テクノロジーの向上に有効活用されていなかったことをも意味します。
優先順位付けに関する現在の方針ではこうした課題を解消するための対策を講じており、弊社では最も有害と思われるコンテンツを最初に審査するとともに、テクノロジーの向上を加速させることに成功しています。
必ずしもそうではありません。人間の審査チームとテクノロジーは、いずれも利用者からの報告の審査において重要な役割を果たしています。テクノロジーは所定のコンテンツを分析し、そのコンテンツに対して措置を自動的に講じる場合もあれば、講じない場合もあります。
MetaのテクノロジーにおけるAIの導入に関連する公平性とインクルージョンの懸念に対処するため、弊社は、倫理学者、社会科学者、政治科学者、ポリシーに関する専門家、人工知能の研究者と技術者からなる、多様な専門分野にわたる専門チームを設立しました。このチームはAIの責任に関する課題を克服するためのガイドラインやツール、プロセスを開発し、これらのシステムリソースをMeta全体で広く提供することを目標としています。