Cách chúng tôi tiếp cận cá nhân và tổ chức nguy hiểm

NGÀY CẬP NHẬT 11 THáNG 11, 2024

Nền tảng của chúng tôi không cho phép các nhóm/cá nhân cổ xúy hành vi bạo lực, tội phạm có tổ chức, hoạt động thù ghét hoặc khủng bố. Trong nhiều năm nỗ lực, chúng tôi đã và không ngừng đề ra các chính sách cùng quy trình liên quan đến Cá nhân và tổ chức nguy hiểm (DOI) nhằm giải quyết loại nội dung này. Mặc dù chúng tôi cam kết mang lại không gian để mọi người có thể thảo luận về những sự kiện xảy ra trên khắp thế giới có ảnh hưởng đến cuộc sống, gia đình và cộng đồng của họ, nhưng chính sách của chúng tôi lại đặt ra giới hạn về những gì không được phép trên các nền tảng do chúng tôi cung cấp.

Chúng tôi đề ra chính sách nhằm đảm bảo sự an toàn trên các nền tảng của mình

Meta sở hữu một trong những chính sách toàn diện nhất trong ngành nhắm đến các tổ chức khủng bố, nhóm thù ghét, tổ chức tội phạm bài bản như các băng đảng, thực thể cổ xúy hành vi bạo lực và những thủ phạm trong các vụ việc vi phạm được xác định, chẳng hạn như xả súng hàng loạt hoặc tấn công khủng bố.

Theo Chính sách về DOI này, chúng tôi xác định và cấm những cá nhân cùng tổ chức có liên quan đến các hoạt động nêu trên, đồng thời gỡ nội dung ca ngợi và ủng hộ họ khi chúng tôi biết về nội dung đó. Chúng tôi cũng xác định và cấm các thực thể cổ xúy bạo lực (tức là thực thể chuẩn bị hoặc ủng hộ thực hiện hành vi bạo lực trong tương lai nhưng không hẳn là đã thực hiện hành vi bạo lực nếu tính đến nay), đồng thời gỡ nội dung ca ngợi và ủng hộ họ.

Chính sách của chúng tôi hiển thị công khai nên bạn có thể xem thêm chi tiết về chính sách trên trang Tiêu chuẩn cộng đồng. Ngoài ra, chúng tôi thường xuyên đăng chi tiết về lượng nội dung kiểu này mà mình gỡ trong báo cáo thực thi Tiêu chuẩn cộng đồng hàng quý.

Cách thức và lý do chúng tôi xác định

Chúng tôi không cho phép các tổ chức hoặc cá nhân hiện diện trên những nền tảng của Meta nếu họ tuyên bố một sứ mệnh mang tính bạo lực hoặc thù ghét hay thực hiện hành vi bạo lực. Chúng tôi đánh giá các thực thể này dựa trên hành vi của họ ở cả trên mạng lẫn ngoài đời và yếu tố quan trọng nhất là mối liên hệ giữa họ với hành vi bạo lực. Theo chính sách này, chúng tôi xác định các cá nhân, tổ chức và mạng lưới con người. Để đảm bảo thực thi sao cho hiệu quả, tương xứng và nhất quán hơn, chúng tôi đã chia các thực thể được xác định thành 2 cấp. Bạn có thể đọc thêm về các cấp này và loại tổ chức thuộc từng cấp đó trong Tiêu chuẩn cộng đồng của chúng tôi.

Chúng tôi có quy trình nội bộ chặt chẽ của riêng mình (trong đó xét đến nhiều nguồn thông tin) mà chúng tôi sử dụng để đánh giá các cá nhân và tổ chức có thể được xác định. Nhờ tự đề ra các định nghĩa và quy trình xác định không phụ thuộc vào khu vực hay hệ tư tưởng, chúng tôi có thể bảo vệ các nền tảng của mình theo cách hữu hiệu, công bằng và chủ động.

Đây không phải là công việc mang tính cố định. Chúng tôi liên tục đánh giá rủi ro, các nhóm và cá nhân để xác định dựa trên hành vi của họ, hoàn cảnh thay đổi, thông tin mới, ý kiến phân tích của chuyên gia nội bộ và ý kiến đóng góp của bên liên quan bên ngoài. Ví dụ: như chúng tôi thông báo vào tháng 01/2024, khi một tổ chức hoặc cá nhân được xác định thay đổi hành vi của họ, họ cũng đủ điều kiện được loại bỏ khỏi danh sách của chúng tôi, cụ thể là nếu họ (1) không bị chính phủ Hoa Kỳ xác định là Kẻ cầm đầu đường dây buôn bán ma túy được xác định đặc biệt (SDNTK); Tổ chức khủng bố nước ngoài (FTO); hoặc Kẻ khủng bố toàn cầu được xác định đặc biệt (SDGT); (2) không còn liên quan đến hành vi bạo lực hay hoạt động thù ghét và (3) không là biểu tượng cho hành vi bạo lực và hoạt động thù ghét hoặc không được dùng để cổ xúy thêm cho hành vi bạo lực/tuyên truyền nội dung bạo lực hay thù ghét.

Mặc dù cực kỳ xem trọng tính minh bạch và liên tục đánh giá các yếu tố cần cân bằng, nhưng hiện tại chúng tôi không chia sẻ chi tiết danh sách cá nhân/tổ chức được xác định nhằm giảm thiểu rủi ro về an ninh và pháp lý, cũng như ngăn những phần tử nguy hiểm này tìm cách né tránh cơ chế thực thi của chúng tôi.

Cách chúng tôi thực thi biện pháp đối với cá nhân và tổ chức nguy hiểm

Chúng tôi đầu tư mạnh vào con người, công nghệ, quan hệ hợp tác và nghiên cứu để chống lại hoạt động của DOI.

Công nghệ: Chúng tôi tiếp cận khía cạnh này bằng cách kết hợp giữa AI và trí tuệ con người, đồng thời đầu tư vào nghiên cứu và hợp tác với các chuyên gia cùng tổ chức bên ngoài để nắm bắt môi trường luôn thay đổi này. Chúng tôi dùng AI để phát hiện video, hình ảnh, âm thanh, văn bản và cả đồ họa như logo, cũng như nội dung mô tả hành vi bạo lực. Chúng tôi còn cung cấp các công cụ nguồn mở trong toàn ngành để giúp đối tác tiếp cận công nghệ nhằm chống lại các cá nhân và tổ nguy hiểm trên nền tảng của riêng họ. Ví dụ: vào tháng 12/2022, nhằm tạo điều kiện dễ dàng hơn để mọi công ty trong toàn ngành có thể loại bỏ nội dung khủng bố khỏi nền tảng của họ, chúng tôi cung cấp "Hasher Matcher Actioner" (HMA) – một công cụ phần mềm nguồn mở miễn phí nhằm hỗ trợ các nền tảng xác định bản sao hình ảnh/video và áp dụng hàng loạt biện pháp xử lý đối với những bản sao đó.
Con người: Bối cảnh và ngôn ngữ thường phức tạp, còn công nghệ không phải lúc nào cũng có thể phân biệt được nội dung ca ngợi một DOI với lời chỉ trích mang tính văn hóa đặc thù. Vì vậy, Meta đã đầu tư hàng tỷ đô la và sử dụng gần 40.000 nhân sự cho lĩnh vực an toàn và bảo mật. Trong số đó, chúng tôi có một đội ngũ đa chức năng gồm hàng trăm người, cụ thể là có chuyên môn từ mảng thực thi pháp luật và an ninh quốc gia cho đến tình báo chống khủng bố và các nghiên cứu học thuật về nạn cực đoan hóa – tất cả đều dành riêng cho công việc này.
Quan hệ hợp tác: Chừng nào còn tồn tại trên thế giới, hoạt động có hại sẽ tiếp tục hiện diện trên Internet và không một công ty nào có thể tự mình giải quyết những vấn đề này. Đó là lý do vì sao mối quan hệ hợp tác với những bên khác – các công ty, tổ chức xã hội dân sự, nhà nghiên cứu và chính phủ – lại quan trọng đến vậy. Chúng tôi hợp tác với các chính phủ và cơ quan liên chính phủ trên toàn cầu, đồng thời làm việc cùng những tổ chức có chuyên môn về vấn đề khủng bố, chủ nghĩa cực đoan bạo lực, tình báo mạng và hành vi đối nghịch trên mạng.
- GIFCT: Năm 2017, chúng tôi hợp sức cùng YouTube, Microsoft và Twitter để thành lập Diễn đàn Internet Toàn cầu Chống Khủng bố (GIFCT) – một tổ chức được xây dựng với mục tiêu là ngăn chặn kẻ khủng bố và phần tử cực đoan bạo lực lợi dụng các nền tảng kỹ thuật số. GIFCT trở thành tổ chức phi chính phủ độc lập vào năm 2019 và điều phối hoạt động ứng phó khẩn cấp trong toàn ngành nhằm chống lại các cuộc tấn công.
- Cơ quan hành pháp: Khi phát hiện thấy một mối đe dọa cụ thể, cận kề và có thể xảy ra với tính mạng con người, chúng tôi sẽ thông báo ngay cho cơ quan hành pháp. Meta cũng hợp tác với cơ quan hành pháp trong các vụ tấn công bạo lực, mặc dù chúng tôi luôn xem xét kỹ lưỡng mọi yêu cầu nhận được từ chính phủ để đảm bảo rằng yêu cầu đó hợp pháp và tuân thủ những tiêu chuẩn quốc tế về nhân quyền, bao gồm cả trình tự công bằng, quyền riêng tư, quyền tự do biểu đạt và quy tắc luật pháp. Nếu xác định rằng một yêu cầu có vẻ thiếu sót hoặc quá rộng, chúng tôi sẽ phản đối. Bạn có thể đọc thêm về việc chúng tôi hợp tác với cơ quan hành pháp tại đây.
Nghiên cứu độc lập: Chúng tôi ủy quyền để các tổ chức nghiên cứu, học giả và tổ chức phi chính phủ tiến hành nghiên cứu độc lập về nhiều chủ đề liên quan đến việc sử dụng Internet của kẻ khủng bố và phần tử cực đoan bạo lực, nhằm giúp ngành của chúng tôi hiểu rõ và đạt được tiến độ trong việc giải quyết các vấn đề quan trọng này. Năm 2022, Meta thông báo về mối quan hệ hợp tác nghiên cứu với Trung tâm nghiên cứu về vấn đề Khủng bố, Chủ nghĩa cực đoan và Chống khủng bố (Center on Terrorism, Extremism, and Counterterrorism) thuộc Viện Nghiên cứu Quốc tế Middlebury (Middlebury Institute of International Studies) nhằm phân tích các xu hướng phát triển trong chủ nghĩa cực đoan bạo lực và những công cụ hữu hiệu giúp cộng đồng chống lại vấn đề này.
Đập tan mạng lưới chiến lược: Mặc dù phần lớn biện pháp thực thi của chúng tôi đối với vấn đề khủng bố và hoạt động thù ghét có tổ chức là gỡ bỏ nội dung đều đặn, nhưng đôi khi điều đó vẫn chưa đủ. Đây là một khía cạnh đối nghịch. Đôi khi những thực thể nguy hiểm được xác định sẽ tìm cách né tránh biện pháp thực thi của chúng tôi và tái thành lập các mạng lưới trên nền tảng mà chúng tôi cung cấp. Để chống lại các mạng lưới này, chúng tôi vận dụng một cách tiếp cận chủ chốt là Đập tan mạng lưới chiến lược (SND). Thông qua SND, chúng tôi có thể loại bỏ cùng lúc mọi phần tử là DOI đã bị cấm thuộc cùng một mạng lưới, cụ thể là ở lần đầu họ được xác định hoặc trong quá trình chúng tôi làm việc liên tục nhằm xóa sổ các nhóm được xác định này khỏi nền tảng của mình. Việc vô hiệu hóa toàn bộ các nhóm này sẽ khiến họ khó xuất hiện trở lại trên nền tảng hơn. Điều này cũng truyền tải một thông điệp rõ ràng rằng chúng tôi biết rõ sự hiện diện của họ và những nhóm này không được chào đón trên các nền tảng của chúng tôi. Cuối cùng, nhờ kỹ thuật này, chúng tôi xác định được cách những DOI này né tránh hệ thống phát hiện của chúng tôi, cũng như cách họ xuất hiện trở lại trên các ứng dụng mà chúng tôi sở hữu sau khi tài khoản của họ bị gỡ.
- Vào tháng 06/2023, tạp chí học thuật độc lập Proceedings of the National Academy of Sciences (PNAS) đã đăng một bài viết do nhà nghiên cứu Daniel Robert Thomas và Laila A. Wahedi của Meta soạn thảo, cụ thể là nghiên cứu về hiệu quả mà chiến lược SND của chúng tôi mang lại trong việc đập tan các nhóm thù ghét. Chúng tôi nhận thấy rằng chiến thuật này có tác dụng và góp phần mang lại trải nghiệm lành mạnh hơn, an toàn hơn cho người dùng trên các nền tảng của chúng tôi.

Công tác phòng ngừa

Meta luôn nỗ lực duy trì độ an toàn và tính toàn vẹn của nền tảng mà chúng tôi cung cấp. Một trong những cách để chúng tôi đạt được điều này là thông qua công tác phòng ngừa từ nguồn, bao gồm việc thực hiện các biện pháp chủ động để ngăn chặn sự lan rộng của DOI trước khi tư tưởng do họ truyền bá có thể ăn sâu vào các cá nhân hoặc cộng đồng. Trong đó có cả việc áp dụng các biện pháp can thiệp có mục tiêu và thúc đẩy ngôn từ tích cực. Chúng tôi tin rằng việc đối thoại mang tính xây dựng là cần thiết, đồng thời nỗ lực tạo ra một môi trường khuyến khích những hình thức trao đổi như vậy.

Để củng cố hơn nữa nỗ lực của mình, chúng tôi tích cực hợp tác với các Tổ chức xã hội dân sự (CSO) chuyên đấu tranh chống chủ nghĩa cực đoan, hoạt động thù ghét có tổ chức và các hoạt động tội phạm. Chúng tôi hỗ trợ các tổ chức này bằng cách tạo dựng năng lực và cung cấp cho họ nguồn lực cần thiết để tạo nội dung phản bác. Nội dung này thách thức những luận điệu cực đoan và đưa ra các quan điểm thay thế, giúp thúc đẩy một môi trường tích cực và dễ hòa nhập hơn trên mạng.

Cách tiếp cận của chúng tôi trong việc chống lại chủ nghĩa cực đoan mang tính đa chiều và chủ động, bao gồm sự kết hợp giữa việc phòng ngừa, cộng tác và thúc đẩy ngôn từ tích cực.

Sáng kiến khả năng phục hồi là chương trình đào tạo các CSO trên khắp châu Á, châu Phi và Hoa Kỳ về chiến lược cho chiến dịch Phòng ngừa/Chống lại chủ nghĩa cực đoan bạo lực (P/CVE), đồng thời tạo dựng năng lực của họ cho các chiến dịch phản bác hiệu quả. Là một phần của Sáng kiến khả năng phục hồi, Meta đã khởi xướng mối quan hệ hợp tác tại Hoa Kỳ với Search for Common Ground (SFCG) để hỗ trợ các đối tác dựa trên cộng đồng, đang làm việc tại địa phương nhằm chống lại hành vi bạo lực do hoạt động thù ghét gây ra, đồng thời tạo dựng khả năng phục hồi cho xã hội và cộng đồng.
Nội dung tìm kiếm an toàn hơn: Nếu thích hợp, chúng tôi cũng chỉ dẫn mọi người đến các nguồn lực khi họ tìm kiếm những từ khóa liên quan đến cá nhân và tổ chức nguy hiểm. Khi tìm kiếm các từ khóa liên quan đến DOI trên Facebook, Instagram và Threads, người dùng sẽ được cung cấp nguồn lực hướng dẫn, từ đó giúp ngăn chặn việc tìm kiếm nội dung về DOI.
Chúng tôi cũng triển khai chương trình tìm kiếm tại một số quốc gia, trong đó có Úc, Hoa Kỳ, Vương quốc Anh, Đức, Ấn Độ, Indonesia và Pakistan. Nếu ai đó tìm kiếm các từ khóa đặc thù cho từng thị trường và thường tập trung vào những mối nguy hại cụ thể của DOI, chúng tôi sẽ cung cấp cho họ thêm thông tin và nguồn lực có được từ nỗ lực hợp tác với một CSO tại địa phương chuyên cung cấp dịch vụ hỗ trợ cho những người dùng có nguy cơ bị cực đoan hóa.
Cung cấp nguồn lực cho các tổ chức cộng đồng: Chúng tôi cũng triển khai Chương trình quảng cáo an toàn, nhằm hỗ trợ các đối tác CSO chủ động ngăn chặn mối nguy hại bằng cách đem đến khoản tín dụng quảng cáo và sự hỗ trợ mang tính chiến lược khi họ thực hiện những chương trình phản bác. Thông qua việc hợp tác với các tổ chức này, chúng tôi muốn phát triển các mối quan hệ hợp tác để chống lại DOI.

Công việc này đang diễn ra và chúng tôi biết rằng chừng nào các cá nhân và tổ chức nguy hiểm còn tồn tại trên thế giới, họ sẽ vẫn hiện diện trên Internet. Đó là lý do tại sao chúng tôi luôn cảnh giác. Những nhóm này áp dụng các chiến thuật mới để tránh bị phát hiện và/hoặc tìm cách né tránh chính sách và biện pháp thực thi của chúng tôi. Hành vi đối nghịch này là lý do khiến chúng tôi luôn nỗ lực đi trước một bước, đánh giá và cập nhật cách tiếp cận của mình.