Cara Meta memprioritaskan konten untuk ditinjau

DIPERBARUI 12 NOV 2024
Teknologi Meta mendeteksi dan menghapus sebagian besar konten yang melanggar, bahkan sebelum dilaporkan. Ketika seseorang memposting di Facebook, Instagram, Messenger, atau Threads, teknologi kami akan memeriksa apakah konten tersebut melanggar Standar Komunitas. Dalam sebagian besar kasus, identifikasi adalah masalah yang sederhana. Pelanggaran biasanya jelas-jelas terlihat dalam postingan tersebut.
Di lain waktu, identifikasi lebih sulit. Mungkin sentimen postingan tidak jelas, bahasanya sangat kompleks, atau gambarnya terlalu bergantung pada konteks. Dalam kasus ini, kami melakukan tinjauan lebih lanjut menggunakan orang.
Memprioritaskan faktor untuk tinjauan oleh manusia
Ketika menentukan konten mana yang harus ditinjau oleh tim tinjauan manusia terlebih dahulu, kami mempertimbangkan 3 faktor utama:
SEVERITAS
Seberapa besar kemungkinan konten tersebut menyebabkan bahaya, baik online dan offline?
VIRALITAS
Seberapa cepat konten dibagikan?
KEMUNGKINAN PELANGGARAN
Seberapa besar kemungkinan konten yang bersangkutan benar-benar melanggar kebijakan kami?
Karena kami ingin mencegah sebanyak mungkin bahaya, sistem tinjauan kami menggunakan teknologi untuk memprioritaskan konten dengan severitas tinggi yang memiliki potensi bahaya offline dan konten viral yang menyebar dengan cepat.
Tim tinjauan manusia membantu teknologi kami berkembang
Tim tinjauan manusia kami menggunakan keahliannya dalam bidang kebijakan dan lokale tertentu untuk membuat keputusan penilaian yang sulit dan sering kali beragam. Setiap kali peninjau membuat keputusan, kami menggunakan informasi tersebut untuk melatih teknologi kami. Seiring waktu, dalam jutaan keputusan, teknologi kami menjadi lebih baik, membantu kami menghapus lebih banyak konten yang melanggar.
Membantu peninjau membuat keputusan yang tepat
Teknologi membantu tim tinjauan oleh manusia melakukan yang terbaik
Seperti banyak model pembelajaran mesin, teknologi kami meningkat seiring waktu karena menerima lebih banyak contoh konten yang melanggar. Ini berarti tim tinjauan oleh manusia bisa lebih fokus pada konten yang parah, viral, beragam, baru, dan kompleks, persisnya jenis keputusan di mana orang cenderung membuat keputusan yang lebih baik daripada teknologi.
Pertanyaan umum tentang prioritas tinjauan konten
Sebelumnya, tim tinjauan manusia akan menghabiskan sebagian besar waktunya untuk meninjau konten yang dilaporkan oleh orang-orang. Ini berarti mereka sering menghabiskan terlalu banyak waktu untuk konten dengan severitas rendah atau jelas tidak melanggar dan tidak cukup waktu untuk konten terberat dengan potensi bahaya terbesar. Ini juga berarti bahwa banyak keputusan oleh manusia tidak begitu berguna untuk menyempurnakan teknologi penegakan kami.
Pendekatan kami saat ini untuk memprioritaskan mengatasi masalah ini, memudahkan kami meninjau konten yang paling berpotensi berbahaya terlebih dahulu dan menyempurnakan teknologi kami lebih cepat.
Tidak selalu. Baik tim tinjauan oleh manusia maupun teknologi berperan dalam meninjau laporan pengguna. Jika teknologi kami dapat menganalisis konten tertentu, teknologi akan secara otomatis mengambil tindakan, atau tidak, pada konten yang bersangkutan.
Untuk mengatasi masalah keadilan dan inklusi yang terkait dengan penerapan AI dalam teknologi Meta, kami membentuk tim AI yang Bertanggung Jawab. Ini adalah sebuah tim multidisiplin khusus yang terdiri dari pakar etika, ilmuwan sosial dan politik, pakar kebijakan, peneliti dan insinyur kecerdasan buatan. Tujuan keseluruhan tim ini adalah mengembangkan pedoman, fitur, dan proses untuk mengatasi masalah tanggung jawab AI dan membantu memastikan sumber daya sistemis ini tersedia secara luas di seluruh Meta.