Cara teknologi membantu memprioritaskan tinjauan
DIPERBARUI 19 JAN 2022
Baik konten yang berpotensi melanggar dilaporkan oleh orang maupun terdeteksi oleh teknologi Meta, otomatisasi membantu kami merutekan konten dengan cepat ke peninjau yang memiliki keahlian dalam topik dan bahasa yang sesuai.
Kami kemudian menggunakan teknologi untuk menentukan peringkat dan memprioritaskan konten sehingga tim peninjauan kami dapat fokus pada kasus yang paling penting terlebih dahulu. Ini termasuk konten yang berpotensi membahayakan secara offline, seperti postingan terkait terorisme dan bunuh diri, serta konten viral yang melanggar kebijakan kami dan berpotensi menjangkau pemirsa yang lebih luas.
Untuk memastikan tim peninjauan dapat menghabiskan lebih banyak waktu untuk fokus pada keputusan yang tepat, kami selalu meningkatkan teknologi dan proses kami.
Alasan tim peninjauan penting untuk penegakan konten
Untuk mengurangi bahaya di komunitas kami, teknologi dan tim tinjauan oleh manusia kami selalu bekerja bersama. Berikut adalah beberapa cara peninjau, bersama dengan teknologi, membantu memperkuat seluruh sistem penegakan konten kami.
Pelatihan teknologi kami
Saat peninjau membuat keputusan tentang suatu konten, mereka juga membantu melatih dan menyempurnakan teknologi kami untuk mengidentifikasi konten serupa dari waktu ke waktu. Hubungan masukan antara manusia-teknologi ini sangat penting untuk menjaga sistem kami tetap mutakhir.
Meningkatkan algoritme kecerdasan buatan kami
Saat meninjau konten yang melanggar, tim peninjauan secara manual memberi label kebijakan yang memandu keputusan mereka, yang berarti mereka menandai kebijakan yang dilanggar oleh konten, akun, atau perilaku. Data pelabelan penting ini membantu kami meningkatkan kualitas algoritme kecerdasan buatan kami yang secara proaktif mencari konten berbahaya.
Pengambilan keputusan yang sulit
Teknologi kami bekerja dengan baik di 2 area khususnya: mendeteksi pelanggaran berulang dan mengidentifikasi konten yang jelas-jelas sadis atau ekstrem. Namun, saat terdapat tingkat ambiguitas, kompleksitas, atau nuansa yang tinggi terkait apakah kebijakan kami berlaku untuk suatu konten, peninjau cenderung membuat keputusan yang lebih baik daripada teknologi.