Laju proaktif
DIPERBARUI 22 FEB 2023
Metrik ini menunjukkan presentase dari semua konten atau akun yang kami tindak lanjuti yang kami temukan dan tangani sebelum pengguna melaporkannya kepada kami. Kami menggunakan metrik ini sebagai indikator seberapa efektif kami dalam mendeteksi pelanggaran.
Investasi kami dalam teknologi pembelajaran mesin sangat penting untuk membantu kami dalam mendeteksi dengan lebih cepat.
Kami menyeimbangkan pembelajaran mesin dengan tim pakar terlatih yang meninjau dan menindaklanjuti konten yang melanggar.
Laju kami dalam mendeteksi konten yang berpotensi melanggar secara proaktif cukup tinggi untuk beberapa pelanggaran, yang berarti kami menemukan dan menangani sebagian besar konten sebelum pengguna melaporkannya kepada kami. Hal ini terutama berlaku ketika kami telah berhasil membangun teknologi pembelajaran mesin yang secara otomatis mengidentifikasi konten yang mungkin melanggar standar kami.
Teknologi semacam itu sangat menjanjikan, tetapi masih jauh dari efektif untuk semua jenis pelanggaran. Misalnya, masih ada batasan dalam kemampuan untuk memahami konteks dan nuansa, terutama untuk konten yang berisi hanya teks. Ini menciptakan tantangan tambahan untuk mendeteksi pelanggaran tertentu secara proaktif.
Metrik dapat mengalami kenaikan atau penurunan akibat faktor eksternal. Misalnya, serangan siber di mana spammer membagikan 10 juta postingan yang menampilkan URL berbahaya yang sama. Jika kami mendeteksi URL berbahaya sebelum pengguna melaporkannya kepada kami, laju proaktif akan meningkat selama serangan siber tersebut dan menurun setelahnya, meskipun teknologi deteksi kami tidak berubah selama periode tersebut. Metrik ini juga dapat meningkat atau menurun berdasarkan bagaimana proses dan alat kami berubah. Misalnya, metrik bisa meningkat jika teknologi deteksi kami semakin baik, tetapi metrik bisa menurun jika pelaporan pengguna kami meningkat dan kami kurang mengandalkan deteksi proaktif.
Karena metrik ini didasarkan pada jumlah konten yang ditindaklanjuti, banyak pertimbangan yang sama berlaku. Laju proaktif kami tidak mencerminkan berapa lama waktu yang dibutuhkan untuk mendeteksi konten yang melanggar atau berapa kali konten tersebut dilihat sebelum terdeteksi. Laju ini juga tidak mencerminkan berapa banyak pelanggaran yang gagal kami deteksi sama sekali atau berapa kali konten tersebut dilihat. Dan meskipun presentase konten yang kami deteksi secara proaktif bisa sangat tinggi, bahkan mencapai 99% dalam beberapa kategori, sisa persentase yang kecil sekalipun bisa menimbulkan dampak signifikan bagi orang-orang.
Cara kami menghitung laju proaktif
Kami menghitung persentase ini sebagai berikut: jumlah bagian konten yang kami temukan dan tindak lanjuti sebelum orang yang menggunakan Facebook atau Instagram melaporkannya, dibagi dengan jumlah total bagian konten yang kami tindak lanjuti.
Untuk akun palsu di Facebook, kami menghitung metrik ini sebagai persentase akun Facebook yang dinonaktifkan karena terdeteksi sebagai akun palsu, yang berhasil kami temukan dan tindak lanjuti sebelum pengguna melaporkannya kepada kami. Perhitungan ini didapat dari jumlah akun palsu yang telah kami nonaktifkan sebelum pengguna melaporkannya, dibagi dengan jumlah total akun palsu yang dinonaktifkan.
Peringatan
Kami menghitung laju proaktif kami menggunakan atribusi ketat laporan pengguna terhadap konten. Misalnya, jika seseorang melaporkan Halaman dan, saat meninjau Halaman tersebut, kami mengidentifikasi dan menindaklanjuti beberapa konten yang melanggar dalam Halaman tersebut, kami akan melaporkan bahwa kami telah menangani konten tersebut secara proaktif (kecuali jika ada laporan pengguna tambahan mengenai konten tersebut).
Lihat Laporan Penegakan Standar Komunitas terbaru