危険な団体および人物に対する弊社のアプローチ
更新日 2024/11/11
弊社のプラットフォームには、暴力、組織犯罪、ヘイト、テロリズムを助長する個人・団体を許容する余地は一切ありません。弊社は、この種のコンテンツに対処するため、長年にわたる取り組みにより、危険な個人・団体(DOI)に関するポリシーとプロセスを定めていますが、今後もこれは継続します。弊社では、利用者が自身の生活、家族、コミュニティに影響を及ぼす世界中の出来事について話し合えるスペースを提供するよう努めていますが、弊社のプラットフォーム上で禁止される行為を明確に定めるためのポリシーが存在します。
プラットフォームの安全性を確保するために定められたポリシー
テロ組織、ヘイトグループ、カルテルなどの犯罪組織や、暴力を誘発する団体、銃乱射事件やテロ攻撃などの違反にあたると指定された出来事の犯人を対象とするMetaのポリシーは、業界で最も包括的なポリシーの一つです。
弊社は、このDOIポリシーに基づいて、当該活動に従事する個人・団体を指定、規制するとともに、これらの個人・団体を賛美、支援するコンテンツを見つけ次第削除します。また、将来的に暴力を振るうことの準備または擁護に関与しているが、現在のところ暴力を振るっているわけではない、暴力を誘発する個人・団体も指定、規制するとともに、これらの個人・団体を賛美、支援するコンテンツも同様に削除します。
弊社のポリシーは公開されているため、詳しくは、コミュニティ規定のページでご覧ください。また、弊社は四半期コミュニティ規定レポートにより、削除したコンテンツの量についての詳細を定期的に公開しています。
指定方法と指定理由
弊社は、暴力的または憎悪に満ちた使命を掲げる団体や個人、または暴力行為に関わる団体や個人によるMetaのプラットフォームの利用を認めません。このような個人・団体については、オンラインおよびオフラインでの行動、特に暴力とのつながりに基づいて評価します。このポリシーでは、個人、団体、人のネットワークについての指定を行います。より有効かつ相応な、一貫性のあるポリシー適用を確保するために、弊社は、この指定を2つの階層に分けました。これらの階層と各階層に含まれる組織の種類について詳しくは、コミュニティ規定をご覧ください。
弊社は様々な情報源を考慮した上で強固な内部ポリシーを独自に定めており、これを使用して、団体・個人を指定するかどうか評価します。地域やイデオロギーにかかわらず、弊社独自の定義とプロセスを定めることで、弊社は着実、公正、積極的にプラットフォームを保護することができます。
この取り組みは静的なものではありません。継続的にリスク評価を実施し、団体・個人の行動、状況の変化、新たな情報、社内の専門家による分析、社外ステークホルダーの意見に基づいて団体・個人の指定の可否を判断します。たとえば、弊社が2024年1月に発表したとおり、指定された団体・個人は、その行動が変化した場合、特に、以下に該当する場合には、リストからの削除対象になります。(1)特別指定麻薬取引人(SDNTK)、海外テロ組織(FTO)または特別指定国際テロリスト(SDGT)として米国政府に指定されていない、(2)暴力やヘイトに関与するのを止めた、かつ(3)暴力やヘイトの象徴ではなく、さらなる暴力を誘発したり、暴力的なまたは悪意のあるプロパガンダを拡散したりするために使用されていない。
弊社は透明性を非常に重視し、そのトレードオフを継続的に評価しておりますが、セキュリティおよび法律上のリスクを軽減するとともに、これらの危険な団体・個人が弊社のポリシー適用メカニズムを回避するのを防ぐため、現時点では指定リストの詳細を公開しておりません。
危険な団体・個人に対するポリシーの適用方法
弊社は、DOIの活動に対抗するために、人材、テクノロジー、パートナーシップ、および研究に多大な投資を行っています。
- テクノロジー:AIと人間の知能を併用することで、この分野にアプローチしています。また、研究への投資や、外部の専門家・団体との連携により、この変化する環境の最新動向を把握することに努めています。弊社では、動画、画像、音声、テキスト、さらにはロゴや暴力描写といったグラフィックもAIを利用して検知します。また、パートナーが自社のプラットフォーム上の危険な団体・個人に対抗するためのテクノロジーにアクセスできるよう、オープンソースツールを業界全体で利用可能にしています。たとえば、2022年12月に、弊社は、業界全体であらゆる企業が自社のプラットフォームからテロ関連コンテンツを排除しやすくなるように、無料で利用可能なオープンソースソフトウェアツールの「Hasher Matcher Actioner」(HMA)を作成しました。これを利用することで、プラットフォームは画像や動画のコピーを特定し、それらに対する措置を一括して講じることができます。
- 人材: 多くの場合、背景事情や言語は複雑であり、テクノロジーではDOIの賛美と各文化に特徴的な批判とを必ずしも区別することができません。そのため、Metaでは、数十億ドルを投資して、安全とセキュリティに取り組む人材を約4万人配備しています。その中には、数百名からなる機能横断的なチームがあり、彼らは特に法執行、国家安全保障、テロ対策インテリジェンス、過激化における学術調査などの幅広い分野の専門知識を備え、この取り組みに専念しています。
- パートナーシップ: 世界に有害な活動が存在する限り、インターネット上にも存在し、この問題は、1つの会社だけで解決するのは不可能です。そのため、他の企業や市民社会、研究者や政府などの他者とのパートナーシップが極めて重要になります。弊社は、世界中の政府や政府間機関と連携するとともに、テロ、暴力的な過激主義、サイバーインテリジェンス、オンライン上の敵対的行動に関する専門知識を備えた団体と協力しています。
- GIFCT:弊社は、2017年にYouTube、Microsoft、Twitterと共同でGlobal Internet Forum to Counter Terrorism (GIFCT)を創設しました。この団体は、テロリストや暴力的な過激主義者によるデジタルプラットフォームの悪用を防ぐ目的で設立されました。GIFCTは、2019年に独立系NGOとなり、攻撃に対する業界全体での危機対応を取りまとめています。
- 法執行機関: 具体的かつ差し迫った、確実性が高い人命に関わる脅威が判明した場合、弊社は躊躇なく法執行機関に通知します。Metaは、暴力的な攻撃に関しても法執行機関と協力しますが、政府から受け取った要請は一つずつ精査し、それが法的に有効であることと、人権（適正手続き、プライバシー、表現の自由、法の支配など）に関して国際的に認められた基準に沿っていることを確認します。要請に不備がある、あるいは要請が広範過ぎると判断した場合には、断固拒絶します。法執行機関との連携について詳しくは、こちらをご覧ください。
- 独立調査: 弊社は、暴力的な過激主義者やテロリストによるインターネット利用の様々なトピックに関してシンクタンク、学術機関、NGOからの独立調査を委託することで、これらの重要な問題に関する業界の理解と進歩に役立てています。2022年にMetaは、Middlebury Institute of International StudiesのCenter on Terrorism, Extremism, and Counterterrorismとのリサーチパートナーシップを発表しました。これは、暴力的な過激主義の動向の変化と、コミュニティがこれに対抗するための効果的なツールについて分析することを目的としています。
- 戦略的ネットワーク破壊: テロや組織的ヘイト行為に対して弊社が実施する措置の大部分は、日常的なコンテンツ削除ですが、時には、それだけでは不十分なことがあります。これは敵対的な空間であり、指定された危険な団体・個人は、弊社によるポリシーの適用をうまく回避し、プラットフォームでネットワークを再構成しようとすることがあります。このようなネットワークに対抗するために、弊社は戦略的ネットワーク破壊(SND)という重要なアプローチを採用しています。SNDにより、弊社は、すでにブロックされたDOIの行為者のネットワークを、彼らが最初に指定された時点で、またはこれらの指定団体をプラットフォームから排除するための継続的な取り組みの一環として除去することができます。これらの集団全体を無力化することで、彼らがプラットフォームに戻るのを困難にします。また、私たちが彼らの存在に気付いており、これらの集団がプラットフォーム上で歓迎されていないという明確なメッセージを伝えることもできます。最後に、この手法によって、弊社はDOIがどのように弊社による検知を回避しようとするかや、弊社がDOIのアカウントを削除した後、弊社のアプリにどのように戻ろうとするかについて調査することが可能になります。
- 2023年6月に、独立系学術誌『Proceedings of the National Academy of Sciences (PNAS)』は、ヘイトグループの破壊に対する弊社のSND戦略の有効性を研究するMetaの研究者Daniel Robert ThomasとLaila A. Wahediが書いた論文を公開しました。弊社の調査結果によると、この戦術は効果があり、弊社プラットフォームの利用体験をより健全、より安全なものにするうえで役立っています。
防止の取り組み
Metaでは、プラットフォームの安全性と保全性を維持することに全力を尽くしています。これを達成する手段の一つに、上流での防止があります。これには、利用者間やコミュニティにDOIが根付く前に積極的な措置を講じてDOIの蔓延を防止することが含まれます。これには、的を絞った介入を用いたり、肯定的な意見を促進することなどがあります。弊社は、建設的な対話は不可欠であると考えており、そのようなやり取りを促進する環境作りに努めています。
弊社の取り組みをさらに強化するために、弊社は、過激主義、組織的なヘイト行為、犯罪活動に対抗することを目的とする市民社会団体(CSO)と積極的に連携します。弊社は、CSOの能力を強化し、カウンタースピーチコンテンツを作成するために必要なリソースを提供することで、CSOを支援します。このコンテンツにより、過激主義者のストーリーに異論を唱え、別の視点を提示することで、よりポジティブでインクルーシブなオンライン環境を促進することができます。
弊社は多面的かつ積極的なアプローチで過激主義に対抗しており、これには、防止、連携、肯定的な意見の促進などがあります。
- Resiliency Initiativeは、アジア、アフリカ、米国のPrevention/Countering Violent Extremism (P/CVE)のキャンペーン戦略に関してCSOのトレーニングを行い、効果的なカウンタースピーチキャンペーンを行うためのCSOの能力を強化するプログラムです。Resiliency Initiativeの一環として、Metaは、Search for Common Ground (SFCG)との米国拠点のパートナーシップを開始しました。これにより、憎しみに煽られた暴力に対抗し、コミュニティの社会的なレジリエンスを強化するために地域で取り組むコミュニティ拠点のパートナーを支援します。
- より安全な検索: また、弊社は、利用者が危険な団体・個人に関連する語句を検索した場合、必要に応じて適切なリソースに利用者を誘導します。利用者がFacebook、Instagram、ThreadsでDOI関連語句を検索した場合、代わりのリソースを表示して、DOIコンテンツの検索を阻止するとともに、利用者に教育リソースを提供します。また、弊社は、オーストラリア、米国、イギリス、ドイツ、インド、インドネシア、パキスタンなどの複数の国で検索プログラムを実施しています。利用者が各市場に特有の語句で、一般にDOIの危害に特に焦点を合わせた語句を検索した場合、弊社は、過激主義の危険性のある利用者にサポートサービスを提供することを専門とする現地のCSOと協力し、このような利用者に追加の情報やリソースを提供します。
- コミュニティ団体へのリソースの提供: また、弊社は安全広告プログラムも実施しています。このプログラムでは、CSOパートナーがカウンタースピーチプログラムを実施する際に広告クレジットと戦略的サポートを提供することで、CSOパートナーを支援して、危害を積極的に予防することに努めています。これらの団体と連携することで、弊社は、DOIに対抗するためのパートナーシップの拡大を目指しています。
この取り組みは継続的なものであり、弊社は、危険な団体・個人が世界に存在する限り、インターネット上にも存在することを認識しています。弊社が警戒を怠らないのはそれが理由です。これらの団体は、新しい戦術を取り入れて、検知を回避したり、弊社のポリシーやその適用から逃れようとしたりします。弊社がそのアプローチを評価、刷新し、最新動向の把握に絶えず努めているのは、このような敵対的行動が理由です。