Mentransformasi penegakan konten dengan AI

DIPERBARUI 19 MAR 2026

Kami selalu menggunakan kombinasi teknologi dan manusia untuk meninjau konten dan menegakkan Standar Komunitas kami. Seperti yang baru-baru ini kami umumkan, kami sedang bereksperimen untuk mengintegrasikan sistem AI yang lebih canggih ke dalam proses penegakan konten yang sudah ada. Tujuan kami adalah terus mengembangkan hasil positif dari perubahan yang dibuat untuk mengurangi kesalahan tahun lalu, dengan sistem yang diperbarui agar dapat menemukan lebih banyak pelanggaran konten berat dan konten ilegal, menghentikan lebih banyak penipuan, serta menanggapi peristiwa dunia nyata dengan lebih cepat.

Namun, meskipun kami menggunakan lebih banyak teknologi baru untuk meningkatkan skala hal yang bisa kami lakukan, manusia akan tetap menjadi pusat dalam pendekatan kami. Para pakar kami tetap bertanggung jawab untuk menulis dan menyusun kebijakan kami; mendesain, melatih, dan mengevaluasi sistem AI kami; mengukur kinerja; dan akan tetap menjadi pihak yang mengambil keputusan yang paling rumit dan berdampak besar. Ini merupakan evolusi dari cara kami memadukan skala dan kemampuan AI canggih dengan keahlian dan penilaian manusia, yang saling memperkuat, untuk menjaga keamanan orang-orang di platform kami.

Hal yang berubah dan tidak berubah

Peluncuran secara Bertahap dan Hati-Hati

Kami akan melakukan transisi ini secara hati-hati, dengan tidak terburu-buru untuk memastikan peluncuran kami matang dan terencana. Setiap model AI melalui pengujian yang ketat dalam beberapa tahap sebelum diterapkan. Kami hanya akan beralih ke penegakan yang mengutamakan AI jika dalam semua pengujian kami, teknologi secara konsisten menunjukkan kinerja yang lebih baik daripada sistem yang sudah ada.

Hal yang Baru: Lebih Banyak Bahasa yang Didukung dan Deteksi yang Lebih Baik

Sistem AI yang lebih canggih ini mencakup bahasa-bahasa yang digunakan oleh 98% orang di internet, jauh melebihi cakupan kami sebelumnya, yaitu sekitar 80 bahasa sehingga membantu kami menerapkan kebijakan secara lebih akurat dan konsisten pada miliaran konten. Sistem ini juga bisa memahami konteks dan nuansa budaya yang lebih beragam, termasuk berbagai subbudaya kecil, serta kode dalam bentuk kata, makna emoji, dan slang yang berubah dengan cepat dan hanya digunakan di wilayah tertentu.

Pengujian awal telah menunjukkan hasil yang menjanjikan dalam hal penemuan nuansa tersebut untuk keperluan penegakan, seperti ketika sistem AI kami mendeteksi situs palsu yang meniru alamat web sungguhan dan berpura-pura menjadi toko barang olahraga populer dengan cara menyadari logo asli yang digunakan serta harga yang terlalu rendah dan alamat web yang mencurigakan.

Hal yang Masih Sama: Prinsip Utama Penegakan

Manusia Tetap Menjadi Prioritas: Manusia masih memegang peran penting dalam pendekatan kami terhadap penegakan konten. Tim pakar adalah para arsitek penegakan AI Meta; mereka menetapkan kebijakan, melatih model, memvalidasi kinerja, dan menangani keputusan yang berisiko tinggi dan berdampak besar, seperti mengambil keputusan akhir tentang banding atas penonaktifan akun dan memberi tahu penegak hukum jika diwajibkan oleh hukum.
Standar Komunitas: Standar Komunitas kami tidak berubah sebagai bagian dari peralihan ini dan akan terus menentukan aturan kami tentang apa yang diizinkan dan tidak diizinkan di semua platform kami. Satu-satunya yang berubah adalah cara kami menegakkan kebijakan ini.
Pelaporan dan banding: Anda masih bisa melaporkan konten yang menurut Anda melanggar kebijakan kami. Selain itu, jika kami mengambil tindakan terhadap konten atau akun Anda, Anda masih bisa mengajukan banding atas keputusan tersebut.

Cara kerjanya

Pendekatan kami menggabungkan kemampuan AI dengan keahlian manusia yang diintegrasikan di seluruh prosesnya.

Pengujian ketat sebelum penerapan

Sebelum sistem AI membuat keputusan penegakan yang nyata, kami mengujinya secara ketat dan menetapkan tindakan pengamanan. Kami membandingkan keputusan AI dengan keputusan para peninjau kami yang paling berpengalaman dan hanya menggunakannya ketika kami secara konsisten mengamati kinerja yang lebih baik daripada metode penegakan konten kami saat ini.

Standar kualitas yang jelas

Setiap model harus memenuhi benchmark akurasi tertentu sebelum diterapkan. Kami mengevaluasi kinerja untuk memastikan konsistensi, efektivitas, keadilan, dan akurasi sehingga memastikan bahwa kami mengidentifikasi pelanggaran yang sebenarnya dengan tepat dan membedakan antara konten yang melanggar dan tidak melanggar.

Pemantauan berkelanjutan

Setelah diterapkan, setiap model dievaluasi secara berkelanjutan. Kami memantau akurasi, mengawasi perubahan yang tidak terduga dalam kinerja, dan bisa dengan cepat menyesuaikan atau mempertajam model jika terjadi masalah. Sistem kami dirancang untuk iterasi dan koreksi yang cepat, dengan tim dan teknologi meninjau tren untuk menemukan masalah lebih awal.

Keahlian manusia di setiap tahapan

Manusia yang merancang kebijakan. Manusia yang melatih AI. Manusia yang memantau kinerja. Selain itu, manusia jugalah yang menangani keputusan paling rumit, sukar, dan berisiko tinggi. AI menangani penegakan yang lebih baik dalam skala besar dan meningkatkan konsistensi; manusia memberikan keputusan dan pengawasan sistem.

Kinerja di Berbagai Area Kebijakan

Model AI kami menunjukkan peningkatan, bahkan dalam pengujian tahap awal di beberapa area kebijakan:

Kecurangan dan Penipuan

Salah satu solusi AI yang dirancang untuk menghentikan penipu yang memperdaya orang agar memberikan detail login berhasil menemukan dan menghentikan 5.000 percobaan penipuan per hari yang sebelumnya tidak terdeteksi oleh tim peninjauan yang ada.

Konten Dewasa yang Melanggar

Sistem AI yang dibuat untuk mendeteksi ajakan seksual dewasa yang melanggar telah menangkap lebih dari dua kali lipat konten yang melanggar dibandingkan manusia, sekaligus mengurangi tingkat kesalahan lebih dari 60%. Ini berarti kami menemukan dan menghapus konten berbahaya dengan lebih cepat sekaligus melindungi lebih banyak orang dari tindakan penegakan yang keliru.

Penyamaran

AI mengurangi laporan pengguna tentang penyamaran identitas orang terkenal sebesar 80%. Alih-alih hanya mencocokkan nama, AI bisa mengenali ketika seseorang berpura-pura menjadi tokoh publik dengan menganalisis lebih banyak konteks, seperti detail profil, pola posting, dan karakteristik terkait yang menandakan kepalsuan.

Harapan ke depan

Transisi ini dilakukan secara bertahap, dengan pengujian cermat di setiap langkahnya. Kami menerbitkan data penegakan di Laporan Penegakan Standar Komunitas kami dan akan terus membagikan apa yang telah kami pelajari, termasuk keberhasilan dan tantangan, seiring dengan perluasan penegakan AI di lebih banyak area kebijakan. Kami juga berencana memperkuat tim khusus kami yang tersebar secara global di Meta dengan keahlian mendalam untuk menerapkan standar dan kebijakan kami.

Transparansi tentang transisi ini dan proses penegakan kami sangatlah penting. Untuk informasi selengkapnya tentang cara kami mengambil tindakan terhadap pelanggaran saat ini, lihat Mengambil Tindakan. Untuk mengetahui detail tentang kebijakan kami, lihat Standar Komunitas kami. Kami secara berkala melibatkan berbagai pemangku kepentingan dalam proses pengembangan kebijakan kami, dan akan terus melakukannya selama transisi ini dengan bekerja sama dengan regulator, pakar eksternal, dan Dewan Pengawas untuk mendapatkan masukan atas pendekatan yang kami lakukan.

Pendekatan kami dirancang untuk beradaptasi dengan ancaman baru, istilah slang yang terus berkembang, dan tantangan yang muncul, seperti bahasa kode untuk penjualan obat-obatan. Pendekatan kami dibangun berdasarkan prinsip bahwa hasil terbaik diperoleh dari menggabungkan teknologi canggih dengan penilaian manusia.