แนวทางที่เราใช้สำหรับองค์กรและบุคคลที่เป็นอันตราย

อัพเดตแล้ว 11 พ.ย. 2024
แพลตฟอร์มของเราไม่มีพื้นที่สำหรับกลุ่มหรือบุคคลที่ส่งเสริมความรุนแรง องค์กรอาชญากรรม ความเกลียดชัง หรือการก่อการร้าย เราใช้เวลาหลายปีในการพัฒนานโยบายและกระบวนการสำหรับบุคคลและองค์กรที่เป็นอันตราย (DOI) ขึ้นมาเพื่อจัดการกับเนื้อหาประเภทนี้ และจะดำเนินการพัฒนาต่อไป ในขณะที่เราทุ่มเททำงานเพื่อมอบพื้นที่ให้ผู้คนสามารถพูดคุยเกี่ยวกับเหตุการณ์ที่เกิดขึ้นรอบโลกซึ่งส่งผลต่อชีวิต ครอบครัว และชุมชนของแต่ละคน นโยบายของเราถือกำเนิดขึ้นเพื่อขีดเส้นแบ่งชัดเจนว่าสิ่งใดบ้างที่ไม่ได้รับอนุญาตบนแพลตฟอร์มของเรา
policy-image
นโยบายของเราได้รับการออกแบบมาเพื่อรักษาแพลตฟอร์มของเราให้ปลอดภัย
Meta เป็นหนึ่งในบริษัทที่มีนโยบายที่ครอบคลุมที่สุดในอุตสาหกรรมสำหรับจัดการองค์กรก่อการร้าย, กลุ่มผู้สร้างความเกลียดชัง, องค์กรที่ก่ออาชญากรรมอย่างเป็นระบบ เช่น กลุ่มผู้ค้ายาเสพติด, คณะบุคคลหรือองค์กรที่ชักนำให้เกิดความรุนแรง และผู้ก่อเหตุที่ถูกกำหนดไว้ว่าเป็นการละเมิด เช่น เหตุกราดยิงหรือการโจมตีเพื่อก่อการร้าย
ภายใต้นโยบาย DOI นี้ เราจะกำหนดและระงับการใช้งานของบุคคลและองค์กรที่มีส่วนเกี่ยวข้องกับกิจกรรม และหากพบว่ามีการยกย่องและการสนับสนุนบุคคลและองค์กรเหล่านี้ เราจะลบการยกย่องและการสนับสนุนดังกล่าวออก นอกจากนี้ เรายังจะกำหนดและระงับการใช้งานคณะบุคคลหรือองค์กรที่ชักนำให้เกิดความรุนแรง ซึ่งหมายถึงคณะบุคคลหรือองค์กรที่มีส่วนร่วมในการเตรียมการหรือสนับสนุนให้เกิดความรุนแรงในอนาคตแต่จนถึงปัจจุบันอาจยังไม่เคยมีส่วนร่วมในความรุนแรงดังกล่าว และเราจะลบการยกย่องและการสนับสนุนคณะบุคคลหรือองค์กรดังกล่าวออกเช่นกัน
นโยบายของเราได้รับการเผยแพร่เป็นสาธารณะ โดยคุณสามารถอ่านรายละเอียดเพิ่มเติมเกี่ยวกับนโยบายได้ที่หน้ามาตรฐานชุมชนของเรา นอกจากนี้ เรายังเผยแพร่รายละเอียดเกี่ยวกับจำนวนเนื้อหาที่เข้าข่ายนี้ซึ่งเราลบออกไปเป็นประจำในรายงานมาตรฐานชุมชนรายไตรมาสของเรา
วิธีและเหตุผลที่เราใช้ในการกำหนด
เราไม่อนุญาตให้องค์กรหรือบุคคลที่ประกาศถึงภารกิจที่มีความรุนแรงหรือแสดงความเกลียดชัง หรือมีส่วนเกี่ยวข้องกับความรุนแรงได้มีตัวตนปรากฏบนแพลตฟอร์มของ Meta เราประเมินคณะบุคคลหรือองค์กรเหล่านี้ตามพฤติกรรมทั้งในโลกออนไลน์และในชีวิตจริง โดยเฉพาะอย่างยิ่งในด้านความเกี่ยวข้องของบุคคลหรือองค์กรเหล่านั้นกับความรุนแรง ซึ่งภายใต้นโยบายนี้ เราจะจำแนกบุคคล องค์กร และเครือข่ายผู้คน โดยเราแบ่งการกำหนดออกเป็น 2 ระดับเพื่อบังคับใช้นโยบายอย่างมีประสิทธิภาพ สมเหตุสมผล และสม่ำเสมอยิ่งขึ้น คุณสามารถอ่านข้อมูลเพิ่มเติมเกี่ยวกับระดับเหล่านี้ ตลอดจนประเภทองค์กรที่เข้าข่ายได้ในมาตรฐานชุมชนของเรา
เรามีกระบวนการภายในที่มีประสิทธิภาพเป็นของตนเองไว้ประเมินองค์กรและบุคคลที่อาจกำหนดว่าเป็นอันตรายได้ โดยพิจารณาข้อมูลจากหลายแหล่งที่มา การพัฒนาคำจำกัดความและกระบวนการในการกำหนดของเราเองโดยไม่ถูกจำกัดด้วยกรอบแนวคิดของภูมิภาคหรืออุดมการณ์ใดๆ ช่วยให้เราสามารถปกป้องแพลตฟอร์มของเราได้ในเชิงรุกอย่างยุติธรรมและมีประสิทธิภาพ
งานนี้เป็นงานต่อเนื่อง เรายังคงประเมินความเสี่ยงและการกำหนดกลุ่มและบุคคลอย่างต่อเนื่อง โดยอิงตามพฤติกรรม, สถานการณ์ที่เปลี่ยนแปลงไป, ข้อมูลใหม่, การวิเคราะห์โดยผู้เชี่ยวชาญภายใน และข้อมูลจากผู้มีส่วนได้ส่วนเสียภายนอก ตัวอย่างเช่น ดังที่เราได้ประกาศในเดือนมกราคม 2567 องค์กรหรือบุคคลที่ได้รับการกำหนดมีสิทธิ์ที่จะได้ลบออกจากรายชื่อของเราเช่นกันหากเปลี่ยนแปลงพฤติกรรม โดยที่องค์กรหรือบุคคลนั้น (1) ไม่ได้ถูกรัฐบาลสหรัฐฯ กำหนดว่าเป็นตัวการด้านการค้ายาเสพติดที่ถูกจับตามองเป็นพิเศษ (SDNTK), องค์กรก่อการร้ายต่างชาติ (FTO) หรือผู้ก่อการร้ายสากลที่ถูกจับตามองเป็นพิเศษ (SDGT) (2) ไม่ได้มีส่วนเกี่ยวข้องกับความรุนแรงหรือความเกลียดชังอีกต่อไป และ (3) ไม่ได้เป็นสัญลักษณ์ความรุนแรงและความเกลียดชัง หรือถูกใช้เพื่อยุยงให้เกิดความรุนแรงหรือเพื่อเผยแพร่โฆษณาชวนเชื่อที่ก่อให้เกิดความรุนแรงหรือความเกลียดชัง
แม้เราจะให้คุณค่าเป็นอย่างยิ่งกับความโปร่งใสและคอยประเมินข้อดีข้อเสียอย่างต่อเนื่อง ในปัจจุบันเราจะไม่แชร์รายละเอียดเกี่ยวกับรายชื่อผู้ที่ถูกกำหนดของเรา เพื่อลดความเสี่ยงต่อการรักษาความปลอดภัยและความเสี่ยงทางกฎหมาย รวมถึงเพื่อป้องกันไม่ให้ผู้ที่เป็นอันตรายเหล่านี้หลีกเลี่ยงกลไกการบังคับใช้ของเราได้
วิธีที่เราบังคับใช้กับองค์กรและบุคคลที่เป็นอันตราย
เราลงทุนอย่างมากกับบุคลากร เทคโนโลยี ความร่วมมือ และการวิจัยเพื่อต่อต้านกิจกรรมของ DOI
  • เทคโนโลยี: เราดำเนินงานด้านนี้โดยใช้ทั้งปัญญาประดิษฐ์ (AI) และปัญญามนุษย์ รวมถึงลงทุนกับการศึกษาวิจัยและทำงานร่วมกับผู้เชี่ยวชาญและองค์กรจากภายนอกเพื่อก้าวให้ทันสภาพแวดล้อมที่กำลังเปลี่ยนแปลงนี้ เราใช้ AI ในการตรวจจับวิดีโอ, รูปภาพ, เสียง, ข้อความ, และแม้กระทั่งกราฟิก เช่น โลโก้และภาพแสดงความรุนแรง นอกจากนี้ เรายังจัดทำเครื่องมือโอเพนซอร์สหลายอย่างให้ทั้งอุตสาหกรรมได้ใช้งาน เพื่อช่วยให้พาร์ทเนอร์สามารถเข้าถึงเทคโนโลยีสำหรับต่อสู้กับองค์กรและบุคคลที่เป็นอันตรายบนแพลตฟอร์มของตน ตัวอย่างเช่น ในเดือนธันวาคม 2565 เพื่อช่วยให้ทุกบริษัทในอุตสาหกรรมสามารถดูแลแพลตฟอร์มของตนให้ปลอดจากเนื้อหาที่เกี่ยวข้องกับการก่อการร้ายได้ง่ายขึ้น เราจึงเผยแพร่เครื่องมือซอฟต์แวร์โอเพนซอร์ส "Hasher Matcher Actioner" (HMA) ให้ใช้งานได้ฟรี เพื่อช่วยแพลตฟอร์มต่างๆ ระบุสำเนารูปภาพหรือวิดีโอ และดำเนินการกับสำเนาทั้งหมดนั้นได้ในคราวเดียว
  • ผู้คน: บริบทและภาษามักมีความซับซ้อน และเทคโนโลยีไม่สามารถแยกแยะระหว่างการยกย่อง DOI กับการวิพากษ์วิจารณ์โดยเจาะจงวัฒนธรรมได้เสมอไป ด้วยเหตุนี้ Meta จึงลงทุนเป็นเงินนับพันล้านดอลลาร์และมอบหมายให้พนักงานเกือบ 40,000 คนปฏิบัติหน้าที่ด้านความปลอดภัยและการรักษาความปลอดภัย ในจำนวนนี้ เรามีทีมข้ามสายงานซึ่งประกอบด้วยเจ้าหน้าที่หลายร้อยคนผู้มีความเชี่ยวชาญเฉพาะด้าน ตั้งแต่การบังคับใช้กฎหมายและความมั่นคงแห่งชาติ ไปจนถึงข่าวกรองต่อต้านการก่อการร้ายและการศึกษาวิชาการด้านแนวคิดหัวรุนแรง มารับผิดชอบงานนี้โดยเฉพาะ
  • พาร์ทเนอร์: ตราบใดที่ยังคงมีกิจกรรมที่ก่อให้เกิดอันตรายในโลก กิจกรรมเหล่านี้ก็จะยังคงเกิดขึ้นในอินเทอร์เน็ต และไม่มีบริษัทใดสามารถแก้ไขปัญหานี้ได้ด้วยตนเอง ความร่วมมือกับภาคส่วนอื่นๆ ไม่ว่าจะเป็นบริษัท, ภาคประชาสังคม, นักวิจัย และรัฐบาล จึงมีความสำคัญอย่างยิ่ง เราร่วมมือกับรัฐบาลและหน่วยงานระหว่างประเทศทั่วโลก และร่วมเป็นพาร์ทเนอร์กับองค์กรที่มีความเชี่ยวชาญด้านการก่อการร้าย, แนวคิดสุดโต่งที่นิยมความรุนแรง, ข่าวกรองทางไซเบอร์ และพฤติกรรมมุ่งร้ายทางออนไลน์
    • GIFCT: เราผนึกกำลังกับ YouTube, Microsoft และ Twitter ในปี 2560 เพื่อสร้าง Global Internet Forum to Counter Terrorism (GIFCT) ซึ่งเป็นองค์กรที่สร้างขึ้นโดยมีเป้าหมายเพื่อป้องกันไม่ให้ผู้ก่อการร้ายและผู้มีแนวคิดสุดโต่งที่นิยมความรุนแรงฉกฉวยประโยชน์จากแพลตฟอร์มดิจิทัล GIFCT กลายเป็นองค์กร NGO อิสระในปี 2562 และประสานงานการรับมือภาวะวิกฤตทั้งอุตสาหกรรมเพื่อตอบสนองต่อการโจมตีต่างๆ
    • ฝ่ายบังคับใช้กฎหมาย: เมื่อเราทราบถึงภัยคุกคามต่อชีวิตมนุษย์ที่เจาะจงและเชื่อได้ว่ากำลังจะเกิดขึ้นจริง เราจะแจ้งฝ่ายบังคับใช้กฎหมายโดยทันที นอกจากนี้ Meta ยังทำงานเกี่ยวกับการโจมตีด้วยความรุนแรงร่วมกับฝ่ายบังคับใช้กฎหมาย แม้ว่าเราจะตรวจสอบคำขอทั้งหมดที่เราได้รับจากรัฐบาลอยู่เสมอ เพื่อให้แน่ใจว่าคำขอดังกล่าวถูกต้องตามกฎหมายและสอดคล้องกับมาตรฐานด้านสิทธิมนุษยชนที่เป็นที่ยอมรับในระดับสากล รวมถึงกระบวนการที่เป็นธรรม, ความเป็นส่วนตัว, การแสดงออกอย่างเสรี และหลักนิติธรรม หากเราตัดสินแล้วว่าคำขอมีข้อบกพร่องหรือขอข้อมูลที่กว้างเกินไป เราจะตีกลับคำขอ คุณสามารถอ่านเพิ่มเติมเกี่ยวกับการทำงานร่วมกับฝ่ายบังคับใช้กฎหมายของเราได้ที่นี่
  • การวิจัยอิสระ: เราสนับสนุนการวิจัยอิสระโดยคณะผู้เชี่ยวชาญ นักวิชาการ และ NGO ในหลากหลายหัวข้อที่เกี่ยวข้องกับการใช้อินเทอร์เน็ตของผู้มีแนวคิดสุดโต่งที่นิยมความรุนแรงและผู้ก่อการร้าย เพื่อช่วยอุตสาหกรรมของเราทำความเข้าใจและมีความคืบหน้าในการแก้ไขปัญหาสำคัญเหล่านี้ ในปี 2565 Meta ได้ประกาศความร่วมมือด้านการวิจัยกับ Center on Terrorism, Extremism, and Counterterrorism ที่ Middlebury Institute of International Studies เพื่อวิเคราะห์แนวโน้มที่เปลี่ยนแปลงไปของแนวคิดสุดโต่งที่นิยมรุนแรงและเครื่องมือที่มีประสิทธิภาพซึ่งช่วยให้ชุมชนต่างๆ ต่อสู้กับแนวคิดนี้ได้
  • การล้มล้างเครือข่ายเชิงกลยุทธ์: แม้ว่าการบังคับใช้เพื่อต่อต้านการก่อการร้ายและการสร้างความเกลียดชังของเราส่วนใหญ่จะมาจากการลบเนื้อหาตามปกติ แต่บางครั้งการดำเนินการนี้ก็ไม่เพียงพอ ในพื้นที่นี้มีความขัดแย้งรุนแรง และบางครั้งคณะบุคคลหรือองค์กรที่ถูกกำหนดว่าเป็นอันตรายนั้นอาจพยายามหลบเลี่ยงการบังคับใช้ของเราและสร้างเครือข่ายขึ้นมาใหม่บนแพลตฟอร์มของเรา เพื่อต่อสู้กับเครือข่ายเหล่านี้ เราใช้แนวทางสำคัญที่เรียกว่าการล้มล้างเครือข่ายเชิงกลยุทธ์ (SND) SND ช่วยให้เราสามารถลบเครือข่ายของ DOI ที่ถูกระงับการใช้งานไปแล้วทั้งหมดได้ภายในคราวเดียว ไม่ว่าจะเป็นตอนที่เพิ่งได้รับการกำหนดว่าเป็นอันตรายเป็นครั้งแรก หรือเป็นส่วนหนึ่งของการดำเนินการอย่างต่อเนื่องของเราในการกำจัดกลุ่มคนที่ถูกกำหนดเหล่านี้ออกจากแพลตฟอร์มของเรา การปิดกั้นไม่ให้กลุ่มก้อนบุคคลที่เป็นอันตรายเหล่านี้ใช้งานได้อย่างเบ็ดเสร็จจะทำให้พวกเขากลับมาที่แพลตฟอร์มได้ยากขึ้น นอกจากนี้ยังเป็นการสื่อสารอย่างชัดเจนว่าเราตระหนักถึงการมีอยู่ของกลุ่มคนเหล่านี้และไม่ยินดีให้พวกเขาอยู่บนแพลตฟอร์มของเรา สุดท้ายแล้ว เทคนิคนี้ยังช่วยให้เราสามารถศึกษาได้ว่า DOI เหล่านี้จะใช้วิธีใดบ้างในการหลบเลี่ยงการตรวจจับของเรา รวมถึงวิธีที่อาจใช้กลับมาที่แอพของเราอีกครั้งหลังจากเราลบบัญชีของพวกเขาไปแล้ว
    • ในเดือนมิถุนายน 2566 วารสารวิชาการอิสระ Proceedings of the National Academy of Sciences (PNAS) ได้ตีพิมพ์ผลงานที่เขียนโดยนักวิจัย Meta ได้แก่ Daniel Robert Thomas และ Laila A. Wahedi ซึ่งศึกษาประสิทธิผลของกลยุทธ์ SND ของเราในการทลายกลุ่มผู้สร้างความเกลียดชัง เราพบว่ากลยุทธ์นี้ได้ผลและช่วยสร้างประสบการณ์ผู้ใช้ที่มีคุณภาพดีขึ้นและปลอดภัยยิ่งขึ้นบนแพลตฟอร์มของเรา
การดำเนินการป้องกัน
ที่ Meta เรามุ่งมั่นที่จะรักษาความปลอดภัยและความถูกต้องสมบูรณ์ในแพลตฟอร์มของเรา หนึ่งในวิธีที่เราใช้เพื่อบรรลุเป้าหมายนี้คือการป้องกันตั้งแต่เนิ่นๆ นั่นคือการใช้มาตรการเชิงรุกเพื่อป้องกันการแพร่กระจายของแนวคิดจาก DOI ก่อนที่จะหยั่งรากลึกในตัวบุคคลหรือชุมชน โดยรวมถึงการใช้การแทรกแซงที่กำหนดเป้าหมายและการโปรโมทคำพูดเชิงบวก เราเชื่อว่าการโต้ตอบกันอย่างสร้างสรรค์เป็นสิ่งจำเป็น เราจึงพยายามสร้างสภาพแวดล้อมที่ส่งเสริมการแลกเปลี่ยนความคิดเห็นในลักษณะดังกล่าว
เรายกระดับความพยายามนี้ของเราโดยทำงานอย่างแข็งขันร่วมกับองค์กรภาคประชาสังคม (CSO) ที่มีวัตถุประสงค์เพื่อต่อต้านแนวคิดสุดโต่ง การสร้างความเกลียดชัง และการก่ออาชญากรรมโดยเฉพาะ เราสนับสนุนองค์กรเหล่านี้โดยเพิ่มขีดความสามารถและจัดเตรียมทรัพยากรที่จำเป็นให้องค์กรใช้สร้างเนื้อหาสำหรับแสดงความคิดเห็นโต้แย้ง เนื้อหานี้ท้าทายเรื่องราวจากผู้มีแนวคิดสุดโต่ง และเสนอมุมมองอื่นๆ ที่ต่างออกไป ซึ่งช่วยส่งเสริมสภาพแวดล้อมออนไลน์เชิงบวกที่ไม่แบ่งแยก
แนวทางของเราในการต่อต้านแนวคิดสุดโต่งเป็นแนวทางเชิงรุกที่ประกอบด้วยหลายด้าน โดยผสมผสานระหว่างการป้องกัน ความร่วมมือ และการส่งเสริมคำพูดเชิงบวก
  • โครงการฟื้นฟูจากเหตุวิกฤตคือโปรแกรมฝึกอบรม CSO ทั่วทั้งเอเชีย แอฟริกา และสหรัฐฯ ให้เข้าใจกลยุทธ์สำหรับแคมเปญป้องกัน/ต่อต้านแนวคิดสุดโต่งที่นิยมความรุนแรง (P/CVE) และเพิ่มขีดความสามารถให้องค์กรเหล่านี้สามารถจัดทำแคมเปญแสดงความคิดเห็นโต้แย้งที่มีประสิทธิภาพได้ ในฐานะส่วนหนึ่งของโครงการฟื้นฟูจากเหตุวิกฤต Meta ได้เปิดตัวความร่วมมือในสหรัฐฯ กับ Search for Common Ground (SFCG) เพื่อสนับสนุนพาร์ทเนอร์ชุมชนที่ทำงานในพื้นที่เพื่อต่อต้านความรุนแรงที่มาจากความเกลียดชังและสร้างความสามารถในการฟื้นฟูจากวิกฤตในสังคมและชุมชน
  • การค้นหาที่ปลอดภัยยิ่งขึ้น: ในเวลาที่เหมาะสม เรายังแนะนำให้ผู้คนไปยังแหล่งข้อมูลต่างๆ เมื่อพวกเขาค้นหาคำที่เกี่ยวข้องกับองค์กรและบุคคลที่เป็นอันตราย เมื่อค้นหาคำที่เกี่ยวข้องกับ DOI บน Facebook, Instagram และ Threads ผู้ใช้จะได้รับแหล่งข้อมูลต่างๆ แทน เพื่อช่วยยับยั้งการค้นหาเนื้อหา DOI และมอบแหล่งความรู้แก่ผู้ใช้
    นอกจากนี้ เรายังดำเนินโปรแกรมการค้นหาในหลายประเทศ เช่น ออสเตรเลีย, สหรัฐอเมริกา, สหราชอาณาจักร, เยอรมนี, อินเดีย, อินโดนีเซีย และปากีสถาน หากมีใครค้นหาคำที่เฉพาะเจาะจงกับแต่ละประเทศซึ่งมักมุ่งเน้นไปที่อันตรายของ DOI ใดๆ โดยเฉพาะ เราจะเสนอข้อมูลและทรัพยากรเพิ่มเติมให้แก่ผู้ใช้ดังกล่าว โดยร่วมมือกับ CSO ในพื้นที่ซึ่งเชี่ยวชาญการเสนอบริการสนับสนุนแก่ผู้ใช้ที่มีความเสี่ยงที่จะมีแนวคิดสุดโต่ง
  • การจัดเตรียมทรัพยากรให้องค์กรในชุมชน: นอกจากนี้ เรายังดำเนินโปรแกรมโฆษณาเพื่อความปลอดภัย ซึ่งคอยสนับสนุนพาร์ทเนอร์ CSO ในการป้องกันอันตรายในเชิงรุก โดยมอบเครดิตโฆษณาและการสนับสนุนเชิงกลยุทธ์แก่พาร์ทเนอร์ที่กำลังดำเนินโครงการแสดงความคิดเห็นโต้แย้ง จากการทำงานร่วมกับองค์กรเหล่านี้ เราตั้งเป้าที่จะขยายความร่วมมือต่อไปเพื่อต่อสู้กับ DOI
ภารกิจนี้ยังไม่เสร็จสิ้น และเรารู้ดีว่าตราบใดที่ยังคงมีองค์กรและบุคคลอันตรายอยู่บนโลก ในอินเทอร์เน็ตก็จะยังมีองค์กรและบุคคลเหล่านี้อยู่เช่นกัน เราจึงยังไม่อาจวางใจได้ กลุ่มคนเหล่านี้มักคิดค้นกลวิธีใหม่ๆ เพื่อหลีกเลี่ยงการตรวจจับและ/หรือพยายามหลบเลี่ยงนโยบายและการบังคับใช้ของเรา พฤติกรรมมุ่งร้ายนี้คือสาเหตุที่เราทำงานอย่างต่อเนื่องเพื่อรู้เท่าทันเสมอด้วยการประเมินและปรับปรุงแนวทางของเรา