Volume False Positive
DIPERBARUI 11 DES 2025
Apa itu volume false-positive
Volume false-positive mengukur jumlah total item konten yang tidak melanggar yang dihapus secara keliru oleh sistem penegakan kami atau peninjau manusia di Facebook dan Instagram. Berbeda dengan presisi penegakan, yang merupakan persentase, volume false-positive adalah estimasi jumlah yang mengukur dampak kesalahan penegakan di dunia nyata.
Cara lain untuk memikirkan volume false-positive adalah: berapa kali kami mengambil tindakan untuk menghapus konten yang sebenarnya mematuhi Standar Komunitas kami? Metrik ini membantu kami memahami skala konsekuensi yang tidak diinginkan dan jumlah pengguna atau kreator yang terdampak oleh kesalahan penegakan.
Cara kami mengukur volume false-positive
Volume false-positive diestimasi dengan menggabungkan volume konten yang ditindak dengan presisi yang diukur selama periode waktu yang sama. Mengetahui presisi platform secara keseluruhan akan secara paling akurat mencerminkan area dengan volume tindakan tertinggi, kami menghindari penggunaannya secara langsung untuk menghitung volume false positive. Sebaliknya, kami mengukur presisi untuk subset platform yang lebih kecil, lalu menggabungkan nilai presisi tersebut dengan volume penegakan yang sesuai untuk mengukur volume false positive pada subset tersebut. Setiap subset volume false positive kemudian digabungkan kembali untuk menghasilkan volume false positive platform secara keseluruhan.
Misalnya, Laporan Penegakan Standar Komunitas menunjukkan bahwa tindakan penegakan kami terhadap ratusan juta konten di Facebook setiap kuartal atas spam, tetapi kurang dari 10 juta konten yang ditindak atas kekerasan dan hasutan. Dalam kasus ini, tidak akan tepat untuk menerapkan presisi keseluruhan dari penegakan atas spam ke volume penegakan atas kekerasan dan hasutan. Sebaliknya, kami mengukur presisi untuk kedua bahaya secara terpisah, lalu menerapkan presisi tingkat bahaya untuk menghitung volume false positive berdasarkan bahaya sebelum menjumlahkannya ke nilai total akhir untuk Facebook.
Jika granularitas tertentu tidak memiliki cukup sampel untuk menghitung presisi secara andal, kami akan menggunakan presisi pada tingkat agregasi terdekat yang memungkinkan.
Mengapa kami mengukur volume false positive
Kami mengukur volume false positive untuk memahami dampak nyata kesalahan penegakan terhadap komunitas kami. False positive berarti seseorang atau kreator terkena dampak tindakan yang salah, yang bisa mengikis kepercayaan dan menimbulkan kekecewaan.
Dengan memantau metrik ini, kami bisa:
- Mengevaluasi efektivitas dan keadilan sistem penegakan kami.
- Mengidentifikasi kapan perubahan pada sistem atau kebijakan otomatis menyebabkan lebih banyak (atau lebih sedikit) kesalahan.
- Memprioritaskan penyempurnaan untuk mengurangi kesalahan seiring waktu.
Apa yang Menyebabkan Volume False Positive Berubah?
Volume false positive bisa meningkat atau menurun karena beberapa faktor di dalam dan di luar kontrol Meta:
- Perubahan dalam Aktivitas Penegakan: Jika lebih banyak konten yang ditindak secara keseluruhan, bahkan presisi penegakan yang stabil akan menghasilkan volume false positive yang lebih tinggi.
- Lonjakan Musiman atau Lonjakan yang Dipicu Peristiwa: Peristiwa besar atau serangan ancaman dapat meningkatkan tindakan penegakan secara sementara dan, sebagai akibatnya, meningkatkan volume false positive.
- Peningkatan Deteksi: Model atau pelatihan peninjau yang lebih baik dapat meningkatkan presisi penegakan yang menghasilkan lebih sedikit false positive untuk jumlah tindakan yang sama.
Batasan
Karena volume false positive berasal dari pengukuran presisi kami, semua batasan presisi juga berlaku untuk volume false positive.