Cara kami menilai dan mempersiapkan risiko global
DIPERBARUI 29 APR 2024
Meta secara berkelanjutan menilai risiko bahaya yang mengancam dalam waktu dekat selama peristiwa kritis sehingga kami dapat menanggapi dengan kebijakan dan tindakan produk yang terarah dan bersifat sementara, untuk membantu menjaga keamanan orang. Pendekatan ini mencakup pemeriksaan risiko potensial sebelum dan selama peristiwa lokal, regional, maupun nasional, termasuk pemilu.
Dalam menanggapi peristiwa berisiko tinggi, Meta memiliki berbagai pendekatan yang dapat diambil untuk menghadapi beragam skenario, misalnya mengubah atau membatasi fitur produk, menerapkan pembatasan jumlah pengiriman pesan, dan membatasi distribusi konten, dan lain sebagainya.
Kami mengidentifikasi tren yang berpotensi merugikan dengan mengumpulkan informasi dari laporan publik, meninjau rekomendasi dari mitra tepercaya, melakukan pengamatan berkelanjutan terhadap tren konten, melakukan uji tuntas terkait hak asasi manusia, serta memeriksa penilaian dari tim intelijen kami. Informasi ini, bersama dengan Standar Komunitas dan sistem penegakan yang sudah ada, membantu menentukan jenis mitigasi produk dan kebijakan yang dapat kami gunakan untuk mencegah penyalahgunaan selama krisis, termasuk pemilu berisiko tinggi. Hal ini mencakup Protokol Kebijakan Krisis (CPP), yang membantu kami menilai berbagai cara mengatasi risiko konten dan langkah-langkah tambahan yang dapat kami ambil untuk menyesuaikan sistem kami sebagai tanggapan terhadap peningkatan risiko.
Salah satu langkah mitigasi penting dan potensial mencakup penetapan suatu wilayah sebagai Lokasi Berisiko Tinggi Sementara (THRL), yaitu instrumen kebijakan yang digunakan untuk menangani jenis konten tertentu yang berpotensi menimbulkan kekerasan di wilayah yang diidentifikasi memiliki risiko tinggi akibat peristiwa di dunia nyata. Selain instrumen kebijakan dan kerangka kerja kami untuk memitigasi krisis, Meta juga mengandalkan Pusat Operasi Produk Integritas (IPOC), yaitu mekanisme yang menyatukan berbagai tim, pakar di bidang terkait, dan kemampuan dari seluruh perusahaan, sesuai kebutuhan dan terkadang dilakukan sebelum situasi tertentu terjadi, untuk merespons secara realtime terhadap potensi masalah atau tren.
Selama pemilu tertentu, IPOC akan memantau berbagai sumber, termasuk instrumen analisis data, masukan dari mitra tepercaya, dan media tradisional. Kami juga memantau tren dari laporan pengguna dan konten yang ditandai oleh pengklasifikasi kami.
Meskipun keduanya merupakan upaya yang terpisah, proses penetapan THRL dan proses peninjauan penetapan CPP menggunakan beberapa sinyal yang sama terkait peningkatan risiko kekerasan atau bahaya offline. Kami dapat mempertimbangkan penetapan THRL selama krisis, tetapi hal tersebut tidak bergantung pada penetapan CPP.
Tim kami secara berkelanjutan memantau platform untuk menilai lingkungan risiko yang terus berkembang, dan membantu menentukan penyesuaian yang diperlukan sebagai tanggapan terhadap lonjakan atau perubahan pada sinyal yang kami lacak. Lihat di sini untuk informasi tambahan tentang cara kami menyesuaikan sistem sebagai tanggapan terhadap peningkatan risiko.