Tantangan saat mendeteksi ujaran kebencian
DIPERBARUI 19 JAN 2022
Ujaran kebencian sangat sulit dideteksi oleh teknologi dan bahkan tim tinjauan oleh manusia. Idiom dan nuansa yang digunakan sangat bervariasi antar budaya, bahasa, dan wilayah. Selain itu, orang terkadang berbagi kata-kata yang biasanya merupakan ujaran kebencian, tetapi mereka melakukannya untuk meningkatkan kesadaran akan masalah tersebut atau untuk menggunakan referensi diri sendiri sebagai upaya untuk mendapatkan kembali istilah tersebut.
Hal tersebut merupakan tantangan dalam mendeteksi ujaran kebencian dalam teks. Banyak ujaran kebencian yang kami temukan dalam Facebook dan Instagram ada di foto atau video. Meme, misalnya, mungkin menggunakan teks dan gambar secara bersamaan untuk menyerang sekelompok orang tertentu. Ini bahkan tantangan yang lebih besar bagi teknologi.
Konten seperti ini menjadi lebih rumit ketika orang mencoba menghindari deteksi dengan mengubah konten mereka. Misalnya, mereka mungkin sengaja menyalahkan ejaan kata, menghindari frasa tertentu, atau memodifikasi gambar dan video mereka.
Kemajuan dalam menggunakan kecerdasan buatan untuk mendeteksi ujaran kebencian
Kami menyempurnakan fitur kami untuk mendeteksi ujaran kebencian selama beberapa tahun terakhir, sehingga kini kami menghapus banyak dari konten ini sebelum orang melaporkannya, dan dalam beberapa kasus, sebelum ada yang melihatnya.
Kami menggunakan AI untuk mengidentifikasi gambar dan teks yang identik dengan konten yang telah kami hapus sebagai ujaran kebencian. Teknologi kami juga melihat reaksi dan komentar untuk menilai seberapa mirip suatu konten.
Teknik-teknik ini membantu teknologi kami mendeteksi ujaran kebencian secara lebih akurat, bahkan ketika maknanya tidak jelas atau kontennya diubah untuk menghindari deteksi.
Baca analisis mendalam di blog AI Facebook