Pendekatan Kami terhadap Individu dan Organisasi Berbahaya

DIPERBARUI 11 NOV 2024

Tidak ada tempat di platform kami untuk kelompok atau individu yang mempromosikan kekerasan, kriminalitas, kebencian, atau terorisme terorganisir. Selama bertahun-tahun bekerja, kami telah mengembangkan, dan terus mengembangkan, kebijakan Individu dan Organisasi Berbahaya (DOI) beserta prosesnya untuk menangani jenis konten ini. Meski kami berkomitmen untuk menyediakan ruang bagi orang-orang untuk dapat menceritakan peristiwa yang terjadi di seluruh dunia yang berdampak pada kehidupan, keluarga, dan komunitas mereka, kebijakan kami ada untuk membatasi apa yang diizinkan dan tidak diizinkan di platform kami.

Kebijakan Kami Didesain untuk Menjaga Platform Tetap Aman

Meta memiliki salah satu kebijakan paling komprehensif di industri yang menargetkan organisasi teroris, kelompok penyebar kebencian, kriminal terorganisir seperti kartel, entitas pemicu kekerasan, dan pelaku peristiwa pelanggaran yang telah ditetapkan seperti penembakan massal atau serangan teroris.

Dengan Kebijakan DOI ini, kami menetapkan dan melarang individu dan organisasi yang terlibat dalam aktivitas, serta menghapus glorifikasi dan dukungan terhadap mereka ketika kami mengetahuinya. Kami juga menetapkan dan melarang entitas pemicu kekerasan—yang terlibat dalam mempersiapkan atau mengadvokasi kekerasan di kemudian hari, tetapi belum tentu terlibat dalam kekerasan hingga saat ini—dan menghapus glorifikasi dan dukungan pada mereka juga.

Kebijakan kami bersifat publik, dan Anda dapat membaca detail selengkapnya di halaman Standar Komunitas kami. Selain itu, kami secara rutin memublikasikan detail tentang berapa banyak konten yang kami hapus dalam laporan standar komunitas triwulanan kami.

Cara dan Alasan Kami dalam Menetapkan

Kami tidak mengizinkan organisasi atau individu yang menyatakan misi kekerasan atau kebencian atau terlibat dalam kekerasan untuk beraktivitas di platform Meta. Kami menilai entitas-entitas ini berdasarkan perilaku mereka, secara online maupun offline, serta khususnya yang berkaitan dengan kekerasan. Dalam kebijakan ini, kami menetapkan individu, organisasi, dan jaringan masyarakat. Untuk memastikan penegakan yang lebih efektif, proporsional, dan konsisten, kami telah membagi penetapan menjadi dua tingkat. Anda dapat membaca selengkapnya tentang tingkatan ini, dan jenis-jenis organisasi yang tercakup di dalamnya, dalam standar komunitas kami.

Kami memiliki proses internal yang kuat—yang mempertimbangkan banyak sumber informasi—untuk mengevaluasi organisasi dan individu yang berpotensi ditetapkan sebagai entitas tertentu. Dengan mengembangkan definisi dan proses penetapan kami sendiri, tanpa memihak wilayah atau ideologi tertentu, kami dapat menjadi kuat, adil, dan proaktif dalam melindungi platform kami.

Upaya belum berhenti. Kami secara berkelanjutan menilai risiko dan mengevaluasi kelompok serta individu untuk penetapan berdasarkan perilaku mereka, keadaan yang berubah, informasi baru, analisis ahli internal, dan input dari pemangku kepentingan eksternal. Misalnya, saat kami mengumumkan pada Januari 2024, ketika organisasi atau individu yang ditetapkan mengubah perilaku mereka, mereka juga layak untuk dihapus dari daftar kami—khususnya jika mereka (1) tidak ditetapkan oleh pemerintah AS sebagai Gembong Perdagangan Narkotika yang Ditetapkan secara Khusus (SDNTK); Organisasi Teroris Asing (FTO); atau Teroris Global yang Ditetapkan secara Khusus (SDGT); (2) tidak lagi terlibat dalam kekerasan atau kebencian; (3) tidak menjadi simbol kekerasan dan kebencian atau digunakan untuk menghasut kekerasan lebih lanjut atau menyebarkan propaganda kekerasan atau kebencian.

Meskipun kami sangat menghargai transparansi dan terus menilai dampaknya, saat ini kami tidak membagikan detail daftar penetapan kami untuk mengurangi risiko keamanan dan hukum serta untuk mencegah para pelaku berbahaya ini menghindari mekanisme penegakan hukum kami.

Cara Kami Menegakkan Hukum terhadap Individu dan Organisasi Berbahaya

Kami berinvestasi besar-besaran pada sumber daya manusia, teknologi, kemitraan, dan riset untuk melawan aktivitas DOI.

Teknologi: Pendekatan kami terhadap bidang ini menggunakan kombinasi AI dan kecerdasan manusia—dan kami juga berinvestasi pada riset dan bekerja dengan ahli dan organisasi eksternal untuk tetap sigap menghadapi lingkungan yang terus berubah ini. Kami menggunakan AI untuk mendeteksi video, gambar, audio, teks, dan bahkan grafis seperti logo atau penggambaran kekerasan. Kami juga membuat fitur sumber terbuka tersedia di seluruh industri untuk membantu mitra mengakses teknologi untuk melawan organisasi dan individu berbahaya di platform mereka sendiri. Misalnya, pada Desember 2022, untuk membantu memudahkan setiap perusahaan, di seluruh industri, menjaga platform mereka bebas dari konten teroris, kami menyediakan “Hasher Matcher Actioner” (HMA)—alat perangkat lunak sumber terbuka yang dapat digunakan secara gratis yang akan membantu platform mengidentifikasi salinan gambar atau video dan menindaknya secara massal.
Orang: Konteks dan bahasa sering kali rumit dan teknologi tidak selalu dapat membedakan antara glorifikasi terhadap DOI dengan kritik yang berbasis budaya. Itulah mengapa Meta telah menginvestasikan miliaran dolar dan memiliki hampir 40 ribu orang yang bekerja di bidang keselamatan dan keamanan. Dalam hal ini, kami memiliki tim lintas fungsi yang terdiri dari ratusan orang yang secara khusus memiliki keahlian, mulai dari penegakan hukum dan keamanan nasional, hingga intelijen kontraterorisme serta studi akademis tentang radikalisasi yang didedikasikan untuk pekerjaan ini.
Kemitraan: Selama aktivitas berbahaya masih ada di dunia, aktivitas tersebut akan tetap ada di internet, dan tidak ada satu pun perusahaan yang dapat menyelesaikan masalah ini sendirian. Itulah mengapa kemitraan dengan pihak lain—perusahaan, masyarakat sipil, peneliti, dan pemerintah—sangatlah penting. Kami bekerja sama dengan pemerintah dan lembaga antarpemerintah di seluruh dunia, serta bermitra dengan organisasi yang memiliki keahlian dalam bidang terorisme, ekstremisme kekerasan, intelijen siber, dan perilaku adversarial di dunia maya.
- GIFCT: Kami bersama YouTube, Microsoft, dan Twitter pada tahun 2017 membentuk Global Internet Forum to Counter Terrorism (GIFCT), sebuah organisasi yang dibangun dengan tujuan untuk mencegah teroris dan ekstremis yang melakukan kekerasan untuk mengeksploitasi platform digital. GIFCT menjadi LSM independen pada tahun 2019 dan mengoordinasikan penanggulangan krisis di seluruh industri dalam menanggapi serangan.
- Penegakan Hukum: Ketika kami menyadari adanya ancaman yang spesifik, mendesak, dan terbukti nyata terhadap kehidupan manusia, kami tidak akan ragu untuk memberi tahu penegak hukum. Meta juga bekerja sama dengan penegak hukum terkait serangan kekerasan, meskipun kami selalu meneliti setiap permintaan pemerintah yang kami terima untuk memastikan bahwa permintaan tersebut sah secara hukum dan sesuai dengan standar yang diakui secara internasional mengenai hak asasi manusia, termasuk proses hukum, privasi, kebebasan berekspresi, dan supremasi hukum. Jika kami memutuskan bahwa permintaan tampaknya tidak memadai atau terlalu luas, kami akan menolaknya. Anda dapat membaca selengkapnya mengenai upaya kami dengan penegak hukum di sini.
Riset Independen: Kami menugaskan riset independen dari lembaga kajian, akademisi, dan LSM tentang berbagai topik penggunaan internet oleh ekstremis dan teroris untuk membantu industri kami memahami dan membuat kemajuan dalam isu-isu penting ini. Pada tahun 2022, Meta mengumumkan kemitraan riset dengan Middlebury Institute of International Studies melalui Center on Terrorism, Extremism, and Counterterrorism untuk menganalisis tren yang berkembang dalam ekstremis kekerasan dan fitur efektif yang membantu komunitas memberantasnya.
Disrupsi Jaringan secara Strategis: Meskipun sebagian besar penegakan hukum kami terhadap terorisme dan kebencian terorganisir dilakukan melalui penghapusan konten secara rutin, terkadang hal tersebut tidaklah cukup. Ini adalah ruang adversarial, dan entitas berbahaya yang ditetapkan terkadang berusaha untuk menyiasati penegakan kami dan membentuk kembali jaringan di platform kami. Untuk memberantas jaringan ini, kami menggunakan pendekatan utama yang disebut Disrupsi Jaringan secara Strategis (SND). SND memungkinkan kami untuk menghapus jaringan pelaku DOI yang sudah dilarang secara bersamaan, baik saat pertama kali ditetapkan, maupun sebagai bagian dari upaya berkelanjutan kami untuk menyingkirkan kelompok-kelompok yang sudah ditetapkan ini dari platform kami. Dengan menonaktifkan klaster ini secara keseluruhan, upaya mereka untuk kembali ke platform menjadi jauh lebih sulit. Hal ini juga mengirimkan pesan yang jelas bahwa kami menyadari kehadiran mereka dan bahwa kelompok-kelompok tersebut tidak diterima di platform kami. Terakhir, teknik ini memungkinkan kami untuk mempelajari kemungkinan usaha DOI dalam mencoba melewati deteksi kami, serta kemungkinan usaha mereka dalam mencoba untuk kembali ke aplikasi setelah kami menghapus akun mereka.
- Pada bulan Juni 2023, jurnal akademis independen Proceedings of the National Academy of Sciences (PNAS) menerbitkan sebuah makalah yang ditulis oleh para peneliti Meta Daniel Robert Thomas dan Laila A. Wahedi yang mempelajari keampuhan strategi SND dalam melakukan disrupsi kepada kelompok-kelompok penyebar kebencian. Yang kami temukan adalah bahwa taktik ini berhasil—dan membantu menciptakan pengalaman pengguna yang lebih sehat dan aman di platform kami.

Upaya Pencegahan

Di Meta, kami berdedikasi untuk menjaga keamanan dan integritas platform kami. Salah satu cara kami mencapai hal ini adalah melalui pencegahan awal, yang melibatkan pengambilan tindakan proaktif untuk mencegah penyebaran DOI sebelum memengaruhi individu atau komunitas. Hal ini termasuk menggunakan intervensi spesifik dan mempromosikan ujaran positif. Kami percaya bahwa dialog konstruktif sangatlah penting, dan kami berusaha untuk menciptakan lingkungan yang mendorong hal tersebut.

Untuk lebih memperkuat upaya kami, kami secara aktif bekerja sama dengan Organisasi Masyarakat Sipil (CSO) yang berdedikasi untuk melawan ekstremisme, tindakan kebencian terorganisir, dan aktivitas kriminal. Kami mendukung organisasi-organisasi ini dengan meningkatkan kapasitas mereka dan menyediakan sumber informasi yang diperlukan oleh mereka untuk menciptakan konten ujaran balasan. Konten ini melawan narasi ekstremis dan menawarkan perspektif alternatif, sehingga membantu mempromosikan lingkungan online yang lebih positif dan inklusif.

Pendekatan kami dalam melawan ekstremisme bersifat proaktif dan dilakukan dari beragam sisi, yang melibatkan kombinasi pencegahan, kolaborasi, dan promosi ujaran positif.

Resiliency Initiative adalah program yang melatih CSO di seluruh Asia, Afrika, dan Amerika Serikat mengenai strategi kampanye Pencegahan/Penanggulangan Ekstremisme Kekerasan (P/CVE) dan membangun kapasitas mereka untuk melakukan kampanye ujaran balasan yang efektif. Sebagai bagian dari Resiliency Initiative, Meta meluncurkan kemitraan yang berbasis di Amerika Serikat dengan Search for Common Ground (SFCG) untuk mendukung mitra berbasis komunitas yang bekerja di tingkat lokal dalam melawan kekerasan yang dipicu oleh kebencian dan membangun ketahanan sosial dan komunitas.
Pencarian Lebih Aman: Kami juga, jika diperlukan, mengarahkan orang-orang ke sumber informasi ketika mereka mencari istilah yang terkait dengan organisasi dan individu yang berbahaya. Ketika pengguna mencari istilah DOI di Facebook, Instagram, dan Threads, mereka akan mendapatkan sumber informasi yang dapat membantu mencegah pencarian konten DOI dan memberikan sumber informasi yang mengedukasi pengguna.
Kami juga menjalankan program pencarian di beberapa negara, termasuk Australia, Amerika Serikat, Inggris, Jerman, India, Indonesia, dan Pakistan. Jika seseorang mencari istilah yang spesifik untuk setiap pasar dan biasanya berfokus pada bahaya DOI tertentu, kami akan menawarkan informasi dan sumber informasi tambahan melalui kerja sama dengan CSO lokal yang berspesialisasi dalam menawarkan layanan dukungan kepada pengguna yang berisiko terhadap ekstremisme.
Menyediakan Sumber Informasi kepada Organisasi Komunitas: Kami juga menjalankan Program Iklan Keselamatan, yang berfungsi untuk mendukung mitra CSO agar secara proaktif mencegah bahaya dengan memberi mereka kredit iklan dan dukungan strategis saat mereka menjalankan program-program balasan terhadap ujaran kebencian. Melalui kerja sama dengan organisasi-organisasi tersebut, kami bertujuan untuk mengembangkan kemitraan dalam memerangi DOI.

Pekerjaan ini masih terus berlangsung, dan kami tahu bahwa selama organisasi dan individu yang berbahaya masih ada di dunia, mereka akan tetap ada di internet, itulah sebabnya kami tetap waspada. Kelompok-kelompok ini menggunakan taktik baru untuk menghindari deteksi dan atau mencoba menghindari kebijakan dan penegakan hukum kami—perlawanan ini adalah alasan mengapa kami terus berupaya untuk tetap selangkah lebih maju, mengevaluasi, dan memperbarui pendekatan kami.