市場別の中傷リストの作成および使用方法

更新日 2022/08/12

市場別の中傷リストの作成方法

弊社のコミュニティ規定において、中傷とは、本質的に不快な、保護特性に対する侮辱として用いられる言葉と定義されます。ポリシー、市場、ステークホルダーエンゲージメントなどの複数のチームが中傷の指定に関与します。このようなリストを作成するために、各地域のチームは、それぞれの地域またはコミュニティ(弊社では市場といいます)の言語と文化について継続的な定性分析と定量分析を実施します。これには、ある言葉がその地方において口語でどのように使用されているかや、弊社プラットフォームでのその言葉の浸透度、また、その言葉の使用時に伴う意味などの審査が含まれます。このような審査には、ニュース記事、学術研究、その他の言語研究に基づく文化的知識が用いられることがあります。各地域のチームは、弊社のポリシーや業務プロセスに関するその他の専門家の支援を受けます。文化的コンテキストが提供され(ニュース記事、学術研究など)、その用語が含まれるコンテンツを少なくとも50個収集し、評価する必要があります。分析が完了したら、ポリシーチームが現地市場から提供されたすべてのものを審査し、これにより、コンテンツはMetaの関連ポリシーに基づき評価されます。市場チームは、関連する中傷リストが可能な限りすべてを網羅しており、最新であるよう確保する責任を負っています。

また、弊社は、特定の言葉が弊社の中傷の定義にどの程度合致するかを判断するために、弊社プラットフォームでそれらが使用されている方法を分析します。例えば、弊社プラットフォームでの言葉の使われ方は、一部の中傷には、それまで特定されていなかった、検討すべきバリエーションや関連用語が含まれることを示唆している可能性があります。弊社は、このような事例を特定するために弊社のプラットフォーム全体でこのような中傷の使われ方を分析します。また、中傷リストおよびポリシーには、特定の中傷が、許容可能な方法で使用され得る状況についてのガイダンスも含まれています。このような状況には、明確に自分自身について言及している場合、別の意味で使われている場合、中傷の使われ方について話し合っている場合、中傷について報告している場合、中傷の使用を非難している場合、中傷が明確に肯定的な方法で使用されている場合などがあります。

市場別の中傷リストの適用方法

言語は複数の国や文化にまたがって共有される場合がありますが、中傷は、多くの場合、特定の地域やコミュニティ(弊社では市場といいます)に特有のものです。弊社が言語別だけでなく、市場別の中傷リストを使用するのは、それが理由です。すべての違反分野において、弊社は、(可能な限りすべての方言をカバーするために)複数の言語にわたって複数の地域をカバーする審査担当者を擁しています。これらの審査担当者は、言語の専門知識と違反タイプのスキルセットに基づきキューに割り当てられるため、それぞれのコンテンツのキューに対してどの中傷リストが最も適切かについて十分な情報に基づく判断力をもっています。コンテンツに応じて適切な審査担当者を決定するために、弊社のコンテンツモデレーションのルーティングには言語と地域の両方が組み込まれていますが、そのような複雑なルーティングにおいては、通常、言語がより大きな役割を果たします。例えば、コーノスール市場のキューには、主たる言語がスペイン語である、チリ、ウルグアイ、アルゼンチンおよびパラグアイからのコンテンツが含まれています。また、各市場のキューイングアルゴリズムには、「キャッチオール」と呼ばれる条件もあります。この条件により、その市場がカバーする国に割り当てられていない言語のすべてのジョブを、その言語と最も関連性の高い市場に自動的に分類することが可能になります。例えば、地理的にはコースノール市場(アルゼンチンなど)で発生したフランス語のジョブは、フランス市場の審査キューに分類され、その逆も同様です。コンテンツの残りの部分と異なる言語の中傷が表示された場合、その中傷は、弊社の拡大審査技術によって、異なる市場の中傷リストに表示されているものとしてハイライトされます。そうすることで、違反の可能性のある表現としてすべての市場のキューで大規模にフラグされます。

キューイングアルゴリズムは、言語と国の両方を考慮します。中傷には、その時点の世界の状況と市場のコンテキストに関連する注意点(または無害な別の使用事例)が存在する場合があるからです。ある言葉が許容可能な使用事例において使われているかどうかを審査担当者が判断するには、市場のコンテキストが重要になります。コンテキストが欠如し、かつその他の許容可能な使用例が存在しない場合、弊社では、そのコンテンツを違反とみなす傾向があります。

市場別の中傷リストの監査および更新方法

弊社は、中傷リストの年次監査を実施します。この監査は、運営チームが各地域の市場チームと連携して行います。これらのチームは、共同で中傷を審査し、その言葉が、そもそもリストに掲載される原因となった不快な特性を保持しているかどうかに関して結論を下します。また、弊社は、地域チーム (大規模審査パートナーを含む) に対し、各市場の言語的な進展を継続的にモニタリングするとともに、これに基づいて、市場別リストに追加すべき新しい中傷や、リスト上の既存の言葉の改訂を提案するよう推奨しています。最後に、弊社は、弊社と交流のある市民社会団体や非政府組織に対し、どのような言葉を中傷とみなすべきかについての意見提供をお願いしています。