Meninjau konten yang berdampak besar secara akurat melalui sistem pemeriksaan silang kami

DIPERBARUI 12 NOV 2024

Pada tanggal 6 Desember 2022, Dewan Pengawas menerbitkan PAO tentang kebijakan Pemeriksaan Silang Meta. Untuk sepenuhnya menangani sejumlah rekomendasi, kami telah sepakat dengan dewan tersebut untuk meninjau dan memberikan tanggapan dalam waktu 90 hari. Untuk mempelajari selengkapnya tentang sistem pemeriksaan silang, buka postingan Pusat Transparansi kami.

Gambaran Umum tentang Pemeriksaan Silang

Pengguna Facebook dan Instagram membuat miliaran konten setiap hari. Melakukan moderasi konten dalam skala ini memunculkan tantangan, termasuk kompromi antara nilai dan tujuan penting. Kami berusaha untuk segera meninjau konten yang berpotensi melanggar, dan menghapusnya jika melanggar kebijakan kami. Namun, kami harus menyeimbangkan target ini dengan risiko “positif palsu” (kesalahan penghapusan konten yang tidak melanggar) untuk melindungi suara pengguna. (Dalam hal ini, kami merujuk pada “penghapusan” konten yang kami gunakan untuk menjelaskan tindakan integritas secara lebih umum. Hal ini juga dapat mencakup, misalnya, penggunaan layar peringatan atau penghapusan halaman.)

Untuk menyeimbangkan pertimbangan ini, Meta menerapkan sistem pemeriksaan silang guna mengidentifikasi konten yang menyebabkan risiko positif palsu yang lebih besar dan memberikan tahapan peninjauan tambahan untuk mengurangi risiko tersebut. Pemeriksaan silang memberikan tahapan peninjauan tambahan untuk konten tertentu yang ditandai oleh sistem internal kami sebagai pelanggaran (melalui otomatisasi atau tinjauan manusia), dengan tujuan mencegah atau meminimalkan kesalahan moderasi positif palsu dengan risiko tertinggi yang mungkin terjadi karena berbagai faktor seperti kebutuhan untuk memahami nuansa atau konteks. (Dalam hal ini, kami merujuk pada “konten” yang ditinjau melalui sistem pemeriksaan silang. Kami juga menggunakan pemeriksaan silang untuk meninjau tindakan lain seperti menghapus halaman atau profil.) Meskipun pemeriksaan silang memberikan tahapan peninjauan tambahan, para peninjau menerapkan Standar Komunitas yang sama yang berlaku untuk semua konten lain di Facebook atau Instagram.

Sistem pemeriksaan silang memerankan fungsi penting dalam membantu melindungi hak asasi manusia. Misalnya, sistem pemeriksaan silang mencakup entitas dan postingan dari jurnalis yang meliput dari zona konflik dan pemimpin komunitas yang meningkatkan kesadaran tentang kebencian atau kekerasan. Tinjauan pemeriksaan silang mempertimbangkan konteks yang berguna untuk menindaklanjuti konten ini dengan tepat. Tinjauan pemeriksaan silang mungkin juga berlaku untuk entitas sipil saat pengguna memiliki minat yang tinggi untuk melihat pendapat pemimpin mereka.

Selain itu, pemeriksaan silang berperan penting dalam mengelola hubungan Meta dengan berbagai mitra bisnis kami. Kesalahan menghapus konten yang diposting oleh halaman atau profil dengan banyak pengikut, misalnya, dapat mengakibatkan pengalaman negatif bagi mitra bisnis Meta dan sejumlah besar pengguna yang mengikuti mereka. Kami juga menerapkan pemeriksaan silang ke beberapa Grup berskala sangat besar, yang jika terjadi kesalahan, dapat berdampak pada ratusan ribu hingga jutaan pengguna. Pemeriksaan silang tidak membebaskan mitra bisnis atau Grup Meta dari kebijakan konten kami, tetapi terkadang memberikan tahapan peninjauan tambahan untuk memastikan kebijakan tersebut diterapkan dengan tepat.

Pengguna Facebook dan Instagram memposting miliaran konten setiap hari. Meski memiliki ribuan peninjau khusus di seluruh dunia, peninjauan setiap konten yang berpotensi melanggar Standar Komunitas kami tidak dapat dilakukan secara manual. Sebagian besar konten yang melanggar yang kami hapus terdeteksi secara proaktif oleh teknologi kami sebelum ada yang melaporkannya. Saat seseorang memposting di Facebook atau Instagram, teknologi kami akan memeriksa apakah konten tersebut berpotensi melanggar Standar Komunitas. Dalam banyak kasus, identifikasi adalah masalah sederhana. Postingan akan secara jelas dinilai melanggar kebijakan kami atau tidak. Namun, dalam kasus lain, konten akan diteruskan ke tinjauan manusia untuk evaluasi lebih lanjut.

Sistem peninjauan utama kami menggunakan teknologi untuk memprioritaskan konten dengan severitas tinggi, termasuk konten “viral” yang menyebar dengan cepat. Saat sistem menandai konten untuk ditinjau lebih lanjut, peninjau kami harus membuat penilaian yang sulit dan sering kali beragam tentang apakah konten harus tetap ada di platform. Meskipun kami selalu berupaya membuat keputusan yang tepat, kami menyadari bahwa positif palsu bisa terjadi, dan beberapa konten dinyatakan perlu dihapus karena melanggar kebijakan Meta padahal sebenarnya tidak. Oleh karena itu, Meta telah berinvestasi dalam upaya pencegahan kesalahan untuk meninjau positif palsu lebih lanjut dan menguranginya. Pemeriksaan silang adalah salah satu strategi pencegahan kesalahan ini.

Pemeriksaan silang merupakan sistem yang digunakan untuk membantu memastikan bahwa keputusan penegakan dibuat secara akurat dan dengan tahapan tinjauan manusia tambahan. Jika selama pemeriksaan silang peninjau mengonfirmasi bahwa konten melanggar Standar Komunitas kami, kami akan menegakkan kebijakan tersebut dan menangani konten yang melanggar dengan semestinya. Bergantung pada kerumitan kontennya, kami dapat menerapkan beberapa tahap peninjauan, termasuk dalam kasus yang jarang terjadi yaitu peninjauan oleh pimpinan. Jika peninjau akhir menentukan bahwa konten yang dipermasalahkan tidak melanggar Standar Komunitas kami, peninjau dapat “membatalkan” tindakan awal dan membiarkan konten tetap di platform.

Praktik Pemeriksaan Silang di Masa Lalu

Kami pertama kali menerapkan sistem yang sekarang dikenal sebagai pemeriksaan silang pada tahun 2013. Detail sistem ini telah berkembang selama bertahun-tahun dan, jika memungkinkan, kami menyediakan tanggal dan rentang waktu untuk menjelaskan kapan perubahan tersebut terjadi.

Untuk menentukan konten atau entitas mana yang menerima tinjauan pemeriksaan silang, tim kami mengidentifikasi dan menyusun daftar pengguna atau entitas yang dianggap memiliki risiko yang lebih tinggi terkait tindakan positif palsu terhadap mereka. “Risiko positif palsu” mengacu pada risiko penegakan yang salah terhadap konten atau entitas yang sebenarnya tidak melanggar Standar Komunitas kami. Untuk menentukan pengguna dan entitas mana yang dikaitkan dengan risiko positif palsu yang lebih tinggi, tim kami menerapkan berbagai kriteria, termasuk tipe pengguna atau entitas (misalnya, pejabat terpilih, jurnalis, mitra bisnis penting, organisasi hak asasi manusia), jumlah pengikut, dan topik bahasan entitas tersebut. (Entitas adalah istilah umum untuk tempat konten berasal atau muncul, seperti akun pengguna, halaman, atau grup.)

Jika pengguna atau entitas yang diidentifikasi dalam daftar tersebut memposting konten atau mengambil tindakan yang ditandai oleh sistem kami sebagai berpotensi melanggar kebijakan, kami akan menambahkan konten atau entitas tersebut ke antrean untuk pemeriksaan silang.

Mulai tahun 2020, kami melakukan perubahan agar sebagian besar konten dalam antrean diprioritaskan menggunakan kerangka kerja risiko, yang menetapkan tingkat risiko positif palsu yang dapat terjadi jika Meta salah menghapus konten tersebut. Kerangka kerja risiko ini umumnya mengandalkan tiga faktor: (1) sensitivitas entitas, (2) severitas dugaan pelanggaran, dan (3) severitas potensi tindakan penegakan.

Praktik Pemeriksaan Silang Saat Ini

Seperti halnya semua kebijakan dan proses kami, kami terus mencari cara untuk melakukan perbaikan dan membuat perubahan. Awal tahun ini, kami mengidentifikasi peluang tambahan untuk meningkatkan sistem pemeriksaan silang. Salah satu perubahan struktural yang kami lakukan adalah tentang terbaginya sistem pemeriksaan silang menjadi dua komponen: Peninjauan Sekunder Umum (GSR) dan Peninjauan Sekunder Entitas Sensitif (SSR). Meskipun kami akan terus menggunakan pendekatan berbasis daftar seperti yang dijelaskan di atas untuk memasukkan persentase tertentu dari pengguna dan entitas ke dalam SSR, dengan GSR, kami sedang dalam proses memastikan konten dari semua pengguna dan entitas di Facebook dan Instagram memenuhi syarat untuk pemeriksaan silang berdasarkan sistem prioritas dinamis yang disebut “ranker pemeriksaan silang”.

GSR melibatkan peninjau kontrak dan anggota tim regional kami yang melakukan peninjauan sekunder terhadap konten dan entitas yang mungkin melanggar kebijakan kami sebelum tindakan penegakan diambil. Peninjauan ini tidak hanya mengandalkan identitas pengguna atau entitas untuk menentukan konten mana yang menerima tinjauan pemeriksaan silang. Ranker pemeriksaan silang memberi peringkat konten berdasarkan risiko positif palsu menggunakan kriteria seperti sensitivitas topik (tingkat trending/sensitif topik tersebut), severitas penegakan (severitas potensi tindakan penegakan), probabilitas positif palsu, perkiraan jangkauan, dan sensitivitas entitas (sebagian besar didasarkan pada daftar yang telah disusun dan dijelaskan di atas). Saat ini, ranker pemeriksaan silang sudah digunakan untuk sebagian besar proses peninjauan pemeriksaan silang.

Sistem SSR mirip dengan sistem pemeriksaan silang yang lama. Untuk menentukan konten atau entitas mana yang menerima SSR, kami tetap menyimpan daftar pengguna dan entitas yang penegakannya menerima tinjauan pemeriksaan silang tambahan jika ditandai sebagai berpotensi melanggar Standar Komunitas. Namun, kami telah menambahkan kontrol pada proses penyusunan dan revisi daftar ini. Sebelum bulan September 2020, sebagian besar karyawan memiliki akses untuk menambahkan pengguna atau entitas ke daftar pemeriksaan silang. Setelah bulan September 2020, meskipun semua karyawan masih dapat meminta penambahan pengguna atau entitas ke daftar pemeriksaan silang, hanya sekelompok karyawan tertentu yang memiliki wewenang untuk melakukan penambahan daftar tersebut.

Tanggung jawab tata kelola untuk daftar SSR saat ini berada di bawah organisasi Operasi Global kami, dengan dukungan dari tim Hukum dan Kemitraan yang memiliki pengetahuan dan pengalaman khusus. Meskipun struktur pelaporan tim Operasi Global kami terpisah dari tim Kebijakan Publik Meta, tim Kebijakan Publik tetap dimintai masukan dalam pengambilan keputusan pemeriksaan silang—karena mereka terlibat dalam berbagai bidang moderasi konten di seluruh perusahaan. Dalam hal ini, tim Operasi kami dapat memanfaatkan keahlian dari tim Kebijakan Publik Meta, yang dipadukan dengan para pakar regional dan peninjau khusus yang ahli dalam bidang bahasa, untuk meningkatkan perspektif lokal dan budaya. Struktur pelaporan yang terpisah ini membantu memastikan bahwa proses peninjauan tetap independen dari pengaruh politik atau ekonomi. Untuk menjaga daftar yang relevan dan sesuai, kami juga telah mengembangkan proses peninjauan tahunan yang cermat untuk mengaudit entitas dalam daftar SSR agar tetap memenuhi syarat, yang akan terus kami sempurnakan dari waktu ke waktu.

Dalam beberapa bulan terakhir, Meta meninjau rata-rata beberapa ribu pekerjaan melalui pemeriksaan silang per hari, dengan sebagian besar diselesaikan melalui GSR. (Jika dibandingkan dengan jutaan konten yang ditandai dan ditindaklanjuti karena melanggar Standar Komunitas kami setiap hari, jumlah ini hanyalah sebagian kecil.) SSR sekarang mencakup sebagian kecil dari peninjauan harian ini. Kami memperkirakan akan terus terjadi pergeseran jumlah pekerjaan peninjauan silang sebagai hasil dari prioritas GSR hingga akhir tahun 2021 dan berlanjut ke tahun 2022.

Jika suatu konten berasal dari individu atau entitas yang termasuk dalam daftar SSR, konten tersebut biasanya ditinjau terlebih dahulu oleh tim regional. Tim eskalasi kemudian akan meninjau untuk mengonfirmasi apakah konten tersebut melanggar. Secara umum, jika tim regional menemukan bahwa konten tersebut tidak melanggar kebijakan kami, tim eskalasi tidak akan melakukan peninjauan. Jika konten berasal dari individu atau entitas yang diprioritaskan oleh ranker pemeriksaan silang, konten tersebut biasanya akan ditinjau oleh kontraktor atau tim regional, kecuali jika tim eskalasi memiliki kapasitas tambahan untuk meninjaunya. Seperti halnya pemeriksaan silang yang lama, isu dengan kerumitan yang tinggi dapat menerima peninjauan tambahan, termasuk dalam kasus langka yaitu tinjauan oleh pimpinan. Jika tinjauan akhir mendeteksi bahwa konten tersebut melanggar Standar Komunitas, kami akan menghapusnya. Sebaliknya, jika tinjauan kami mendeteksi bahwa konten tersebut tidak melanggar, kami akan membiarkannya.

Mulai tanggal 16 Oktober 2021, sekitar 660.000 pengguna dan entitas harus melakukan sejumlah tindakan yang memerlukan beberapa bentuk SSR berdasarkan penyertaan di daftar yang dijelaskan di atas. Jumlah ini berubah secara teratur seiring dengan penambahan atau penghapusan pengguna dan entitas ke daftar yang dijelaskan di atas berdasarkan kriteria penyertaan yang berkembang. Contoh pengguna dan entitas yang memenuhi syarat untuk SSR termasuk, tetapi tidak terbatas pada:

Entitas yang terkait dengan respons eskalasi atau peristiwa berisiko tinggi. Saat ini, proses informal berlangsung di tempat tim yang bersiap untuk peristiwa berisiko tinggi guna mengidentifikasi entitas yang berisiko tinggi mengalami penegakan berlebihan. Sebagai contoh, jika konten kontroversial pengguna menjadi viral (misalnya, video siaran langsung kekerasan oleh polisi), kami dapat mengidentifikasi pengguna tersebut untuk SSR demi mencegah kesalahan penghapusan.
Entitas yang disertakan untuk tujuan kepatuhan hukum. Kami menggunakan SSR dalam situasi tertentu untuk mematuhi persyaratan hukum atau regulasi.
Figur publik dan penerbit dengan visibilitas tinggi. Kami mengidentifikasi entitas untuk SSR karena penegakan berlebihan dapat mengakibatkan pengalaman negatif bagi sebagian besar pengguna.
Populasi yang terpinggirkan. Kami mengidentifikasi pembela hak asasi manusia, penentang politik, dan pihak lain yang kami yakini mungkin menjadi sasaran pelecehan atau ancaman lainnya, perundungan, atau pelaporan massal, terutama yang didukung oleh negara, guna melindungi mereka dari serangan semacam ini.
Entitas Sipil. Kami mengikuti kriteria objektif dan keahlian tim kebijakan regional kami untuk mengidentifikasi politisi, pejabat pemerintah, lembaga, organisasi, kelompok advokasi, dan influencer sipil. Kami menyertakan entitas ini untuk SSR demi mencegah kesalahan yang akan membatasi pidato politik yang tidak melanggar dan secara tidak sengaja berdampak pada diskusi topik sipil seperti pemilihan umum, kebijakan publik, dan isu sosial. Kami berupaya memastikan kesetaraan di seluruh entitas sipil suatu negara—misalnya, jika kami menyertakan kementerian kabinet nasional dalam SSR, kami juga akan menyertakan semua kementerian dalam pemerintah negara tersebut dalam SSR.
Bisnis. Kami mengidentifikasi para pengiklan yang memiliki nilai tinggi, maupun yang telah mengalami penegakan berlebihan, untuk melindungi pendapatan dan membangun kepercayaan jangka panjang pada platform kami.

Saat ini, kami sedang meninjau cara meningkatkan kriteria untuk mengidentifikasi entitas yang harus menerima SSR. Misalnya, kami sedang mempelajari pengembangan kriteria di berbagai aspek seperti jumlah pengikut, jumlah penegakan positif palsu sebelumnya, persyaratan hukum/peraturan, serta isu politik/sosial yang penting. Pengguna dapat meminta agar mereka tidak dimasukkan ke dalam daftar SSR melalui formulir ini. Meta tidak mengonfirmasi apakah pengguna masih tercantum atau telah dihapus dari daftar ini. Namun, kami sangat percaya pada otonomi pengguna dan akan meninjau setiap permintaan sesegera mungkin.

Selain dua komponen sistem pemeriksaan silang tersebut, kami juga memiliki sistem pencegahan kesalahan internal yang disebut Peninjauan Multidinamis (DMR). Sistem ini memungkinkan kami mengirimkan kembali kasus yang telah ditinjau untuk ditinjau ulang guna mendapatkan keputusan berdasarkan suara mayoritas (misalnya, jika mayoritas peninjau setuju dengan keputusan tersebut, maka kasus akan ditutup), sehingga kami memiliki tingkat keyakinan yang lebih tinggi akan keputusan terkait. Kami menggunakan sistem ini untuk meningkatkan kualitas dan keakuratan tinjauan manusia serta memitigasi risiko keputusan yang keliru dengan menyesuaikan jumlah peninjauan yang kami perlukan untuk memperoleh keputusan akhir berdasarkan sejumlah faktor yang berbeda, seperti viralitas, jumlah penayangan, dan potensi yang dapat menimbulkan bahaya (misalnya, potensi pelanggaran terhadap kebijakan kami mengenai Eksploitasi Seksual atau Individu dan Organisasi Berbahaya).

Intervensi Transparansi Pemeriksaan Silang di Masa Mendatang

Menanggapi keputusan Dewan Pengawas pada Desember 2022 mengenai rujukan opini penasihat kebijakan pemeriksaan silang, kami juga berkomitmen untuk melakukan serangkaian intervensi transparansi pencegahan kesalahan. Intervensi ini meliputi:

Melakukan interaksi yang terstruktur dan kuat dengan tim Hak Asasi Manusia dan Hak Sipil internal kami, Mitra Tepercaya kami, serta organisasi masyarakat sipil eksternal lainnya untuk mengeksplorasi cara-cara yang dapat membantu memperkuat kriteria yang kami gunakan dalam identifikasi entitas kepentingan publik terhadap daftar pemeriksaan silang.
Mengeksplorasi proses penetapan daftar pemeriksaan silang yang lebih formal dari kelompok masyarakat sipil global, regional, dan lokal.
Berinvestasi dalam sumber daya peninjauan dan pelatihan yang berkualitas seiring dengan upaya kami dalam melakukan perubahan agar pemeriksaan silang atas semua keputusan dilakukan oleh para peninjau yang menguasai bahasa setempat dan memiliki keahlian regional jika memungkinkan.
Mengimplementasikan Perjanjian Tingkat Layanan (SLA) yang kuat untuk keputusan peninjauan di seluruh sistem pencegahan kesalahan kami, yang memungkinkan pengoptimalan model penentuan staf peninjau saat ini agar peninjauan dalam bahasa lokal dapat segera terwujud.

Meskipun kami telah melakukan peningkatan yang signifikan dalam sistem pemeriksaan silang, kami masih mencari cara untuk lebih memastikan bahwa sistem ini secara tepat menyeimbangkan tujuan kami dalam menghapus konten yang melanggar Standar Komunitas, sekaligus meminimalkan kesalahan penegakan yang memiliki dampak terbesar.