Yüksek etkiye sahip içerikleri çapraz kontrol sistemimiz aracılığıyla doğru şekilde değerlendirme
GÜNCELLENME 12 KAS 2024
Gözetim Kurulu, 6 Aralık 2022 tarihinde, Meta'nın Çapraz Kontrol ilkeleri hakkında ilke danışma görüşünü yayınladı. Her birini tamamen ele alabilmek adına, tavsiyeleri 90 gün içinde değerlendirip yanıtlayacağımız konusunda kurulla uzlaştık. Çapraz kontrol sistemi hakkında daha fazla bilgi almak için Şeffaflık Merkezi gönderimizi ziyaret edin.
Çapraz Kontrole Genel Bakış
Facebook ve Instagram kullanıcıları her gün milyarlarca içerik oluşturuyor. İçerikleri bu ölçekte modere etmek, önemli değerler ile hedefler arasında denge kurmayı da içeren çeşitli zorlukları beraberinde getiriyor. İhlal teşkil edebilecek içerikleri hızla değerlendirmeye ve ilkelerimizi ihlal edenleri kaldırmaya çaba gösteriyoruz. Ancak kullanıcıların söz hakkını korumak için bu hedefi "hatalı tespit" (ihlalde bulunmayan içeriklerin yanlışlıkla kaldırılması) riskiyle dengelemek zorundayız. (Burada içeriklerin "kaldırılması" ile genel anlamıyla dürüstlük faaliyetlerimizi kastediyoruz. Buna örneğin, uyarı ekranlarının kullanımı veya sayfaların kaldırılması da dahil olabilir.)
Bu hususları dengelemek isteyen Meta, hatalı tespit riski daha yüksek olan içerikleri saptamak ve bu riski hafifletecek ek değerlendirme seviyeleri sağlamak için çapraz kontrol sistemini uyguladı. Çapraz kontrol, dahili sistemlerimizin (otomasyon veya insan incelemesi aracılığıyla) ihlalde bulunan içerik olarak işaretlediği belirli içeriklere ek değerlendirme seviyeleri uygulanmasını sağlar. Burada hedef, nüansı veya bağlamı anlama ihtiyacı gibi çeşitli faktörler nedeniyle hatalı tespit şeklinde gerçekleşebilecek moderasyon hatalarının en riskli olanlarını önlemek veya en aza indirmektir. (Burada "içerikler" ile çapraz kontrol sistemimiz aracılığıyla değerlendirilen içerikleri kastediyoruz. Bir sayfayı veya profili kaldırmak gibi işlemleri değerlendirmek için de çapraz kontrol sistemini kullanıyoruz.) Çapraz kontrol ek değerlendirme seviyeleri sağlamakla birlikte, değerlendirme görevlileri Facebook veya Instagram'daki diğer tüm içerikler için geçerli olan Topluluk Standartları'nı aynı şekilde uygular.
Çapraz kontrol sistemi, insan haklarının korunmasında çok önemli bir işleve sahiptir. Örneğin, çatışma bölgelerinden haber aktaran gazetecilerin ve nefret ya da şiddet olayları hakkında farkındalık yaratan topluluk liderlerinin varlıkları ve gönderileri, çapraz kontrol sistemine dahildir. Çapraz kontrol değerlendirmelerinde, söz konusu içeriğe doğru şekilde işlem uygulamak için gereken bağlam göz önünde bulundurulur. Kullanıcıların liderlerinin sözlerine kulak verme yönündeki menfaati normalden daha yüksek olduğunda, çapraz kontrol değerlendirmeleri kamusal varlıklara da uygulanabilir.
Çapraz kontrol, Meta olarak birçok iş ortağımızla aramızdaki ilişkileri yönetmemizde de önemli bir rol oynar. Örneğin, büyük bir takipçi kitlesine sahip bir sayfa veya profil tarafından paylaşılan bir içeriğin yanlışlıkla kaldırılması, hem Meta'nın iş ortakları için hem de onları takip eden önemli sayıda kullanıcı için olumsuz deneyimlerle sonuçlanabilir. Çapraz kontrolü, bir hatanın yüz binlerce, hatta milyonlarca kullanıcıyı etkileyebileceği bazı çok büyük gruplara da uyguluyoruz. Çapraz kontrol Meta'nın iş ortaklarını veya Grupları içerik ilkelerimizden muaf tutmaz; sadece ilkelerin doğru şekilde uygulanmasını sağlayabilmek için ek değerlendirme seviyeleri sağlar.
Facebook ve Instagram kullanıcıları her gün milyarlarca içerik paylaşıyor. Dünyanın dört bir yanında sadece bu işle uğraşan binlerce değerlendirme görevlisinin bile Topluluk Standartlarımızı ihlal ediyor olabilecek tüm içerikleri manuel olarak değerlendirmesi mümkün değil. İhlalde bulunan ve kaldırdığımız içeriklerin çok büyük bir çoğunluğu, henüz içeriği hiç kimse şikayet etmeden önce kaldırılıyor. Birisi Facebook'ta veya Instagram'da bir şey paylaştığında, teknolojimiz içeriğin Topluluk Standartları'nı ihlal ediyor olup olmayabileceğini kontrol eder. Birçok durumda tespit son derece basit bir iştir. Gönderi ya ilkelerimizi açıkça ihlal ediyordur ya da etmiyordur. Diğer durumlarda ise içerik, ilave değerlendirme yapabilmesi için bir değerlendirme görevlisine iletilir.
Ana değerlendirme sistemlerimiz; hızla yayılan "viral" içeriklerin de dahil olduğu, yüksek önem derecesine sahip içeriklere öncelik vermek için teknolojiden yararlanır. Değerlendirme görevlilerimiz, sistemlerimizin iletilmek üzere işaretlediği içerikler üzerinde, içeriğin platformda kalıp kalmayacağına dair zorlu ve ayrıntılı kararlar alır. Amacımız daima doğru kararları almak olsa da, zaman zaman hatalı tespitler yapılabildiğinin ve aslında ihlal teşkil etmeyen bazı içeriklerin Meta'nın ilkelerini ihlal ettikleri gerekçesiyle kaldırılabildiğinin bilincindeyiz. Bu doğrultuda Meta, hatalı tespitleri fazladan bir değerlendirmeye tabi tutmak ve etkilerini hafifletmek amacıyla hata önleme çalışmalarına yatırım yaptı. Çapraz kontrol de bu hata önleme stratejilerinden biridir.
Çapraz kontrol, yaptırım kararlarının doğru bir şekilde ve ek insan incelemesi seviyeleriyle alınmasını sağlamak için kullanılan bir sistemdir. Çapraz kontrol sırasında değerlendirme görevlisi içeriğin Topluluk Standartlarımızı ihlal ettiğini onayladığı takdirde, söz konusu ilkeleri uygulayarak ihlalde bulunan içeriği buna göre ele alırız. İçeriğin karmaşıklığına bağlı olarak birden fazla değerlendirme seviyesi uygulayabiliriz ve nadiren de olsa üst düzey yöneticilerimiz bu değerlendirmelerin parçası olabilir. Son değerlendirme görevlisi söz konusu içeriğin Topluluk Standartlarımızı ihlal etmediğini belirlediği takdirde, değerlendirme görevlisi başta verilen işlem kararını "bozabilir" ve içeriği platformda bırakabilir.
Geçmiş Çapraz Kontrol Uygulamaları
Şu anda çapraz kontrol olarak bilinen sistemi ilk olarak 2013 yılında uyguladık. Sistemin detayları yıllar geçtikçe evrimleşti ve bu değişikliklerin ne zaman yaşandığını açıklayan tarihleri ve tarih aralıklarını mümkün surette temin ettik.
Ekiplerimiz hangi içeriklere veya varlıklara çapraz kontrol değerlendirmesi uygulanacağını belirlemek amacıyla, kendilerine karşı hatalı tespit işlemi uygulanma riski daha yüksek olarak algılanan kullanıcıları veya varlıkları belirledi ve bunların listelerini derledi. "Hatalı tespit riski" terimi, Topluluk Standartlarımızı ihlal etmemesine rağmen içeriklere veya varlıklara yanlış yaptırım uygulanma riskini ifade eder. Hangi kullanıcı ve varlıkların daha yüksek hatalı tespit riskiyle ilişkili olduğunu belirlemek isteyen ekiplerimiz; kullanıcının veya varlığın türü (ör. seçilmiş yetkili, gazeteci, önemli iş ortağı, insan hakları kuruluşu), takipçi sayısı ve varlığın konusu gibi çeşitli kriterler uyguladı. (Varlık terimi, içeriklerin görünebileceği yerler için genel bir terim olup kullanıcı hesabı, sayfa veya grup gibi anlamlara gelebilir.)
Bu listelere eklenen kullanıcılar veya varlıklar sistemlerimizin potansiyel ilke ihlali olarak işaretlediği içerikler paylaştığında veya eylemler gerçekleştirdiğinde, içeriği veya varlığı çapraz kontrol değerlendirmesi için bir kuyruğa ekliyorduk.
2020 yılından itibaren yaptığımız değişikliklerle birlikte, kuyruktaki içeriklerin çoğuna bir risk çerçevesiyle öncelik vermeye başladık. Bu çerçeve, Meta'nın içeriği yanlışlıkla kaldırması durumunda yaşanabilecek hatalı tespit riskini belirliyordu. Bu risk çerçevesinde genel olarak üç faktöre bakılıyordu: (1) varlığın hassasiyeti, (2) öne sürülen ihlalin önem derecesi ve (3) potansiyel yaptırım işleminin önem derecesi.
Mevcut Çapraz Kontrol Uygulamaları
Tüm ilke ve süreçlerimizde olduğu gibi, sürekli olarak kendimizi iyileştirmenin yollarını arıyoruz ve devamlı olarak değişiklikler yapıyoruz. Geçtiğimiz aylarda, çapraz kontrol sistemini iyileştirmek için ek fırsatlar tespit ettik. Yaptığımız yapısal değişikliklerden biri, çapraz kontrol sistemini iki bileşene ayırmak oldu: Genel İkincil Değerlendirme (GSR) ve Hassas Kişi/Kurum İkincil Değerlendirme (SSR). Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil edilecek kullanıcıların, kişilerin ve kurumların belirli bir yüzdesi için yukarıda açıklanan liste tabanlı yaklaşımı kullanmaya devam etmekle birlikte, Genel İkincil Değerlendirme için "çapraz kontrol sıralayıcısı" adlı dinamik bir önceliklendirme sistemine dayalı olarak Facebook ve Instagram'daki tüm kullanıcı ve varlıkların içeriklerini çapraz kontrol değerlendirmesine uygun hale getirme sürecindeyiz.
Genel İkincil Değerlendirme, bir yaptırım işlemi uygulanmadan önce ilkelerimizi ihlal ediyor olabilecek içerikler ve varlıklar üzerinde ikinci bir değerlendirme yürüten sözleşmeli değerlendirme görevlileri ve bölgeler ekibimizin üyeleri tarafından gerçekleştirilir. Bu değerlendirmede, hangi içeriklere çapraz kontrol değerlendirmesi uygulanacağını belirlemek için sadece kullanıcının veya varlığın kimliğine bakılmaz. Çapraz kontrol sıralayıcısı, şunun gibi kriterleri kullanarak içerikleri hatalı tespit riskine göre sıralar: konunun hassasiyeti (konunun ne kadar gündemde/hassas olduğu), yaptırımın önem derecesi (potansiyel yaptırım işleminin önem derecesi), hatalı tespit olasılığı, tahmini erişim, varlığın hassasiyeti (büyük oranda, yukarıda tanımlanmış olan önceden derlenmiş listelere dayalıdır). Çapraz kontrol sıralayıcısı, şu anda çapraz kontrol değerlendirmelerinin çoğunluğunda zaten kullanılmaktadır.
Hassas Kişi/Kurum İkincil Değerlendirme, eskiden kullandığımız çapraz kontrol sistemine benzer. Hangi içeriklere veya varlıklara Hassas Kişi/Kurum İkincil Değerlendirme uygulanacağını belirlemek için, potansiyel Topluluk Standartları ihlali olarak işaretlendiğinde yaptırım öncesinde ek çapraz kontrol değerlendirmesi uygulanacak olan kullanıcı ve varlıkların listelerini tutmaya devam ediyoruz. Yine de, bu listeleri derleme ve revize etme sürecine çeşitli kontroller ekledik. Eylül 2020 öncesinde, çalışanların çoğu bir kullanıcıyı veya varlığı çapraz kontrol listesine ekleyebiliyordu. Eylül 2020'den sonra ise tüm çalışanlar bir kullanıcının veya varlığın çapraz kontrol listelerine eklenmesi için talepte bulunabiliyor ancak sadece belirli bir çalışan grubu listeye ekleme yapma yetkisine sahip.
Hassas Kişi/Kurum İkincil Değerlendirme listesi için yönetişim sorumluluklarını şu anda Küresel Operasyonlar organizasyonumuz üstleniyor, Hukuk ve Ortaklıklar ekiplerimiz ise uzman bilgi ve deneyimleriyle destek sunuyor. Küresel Operasyonlar ekibimizin hiyerarşisi Meta'nın Kamu Politikası ekibinden ayrı olmakla birlikte, şirket genelindeki birçok içerik moderasyonu alanında olduğu gibi çapraz kontrol kararlarında da Kamu Politikası ekibinin görüşleri alınıyor. Operasyonlar ekibimiz bu gibi durumlarda, yerel ve kültürel bakış açılarını pekiştirmek üzere bölgesel uzmanlarımızla ve dilden bağımsız çalışan uzman değerlendirme görevlilerimizle birlikte, Meta'nın Kamu Politikası ekibinin uzmanlığından yararlanabiliyor. Hiyerarşilerin birbirinden ayrı olması, değerlendirmenin siyasi veya ekonomik nüfuzdan bağımsız olmasına yardımcı oluyor. Listelerimizin alakalı ve uygun kalması için, Hassas Kişi/Kurum İkincil Değerlendirme listelerimizdeki kişi ve kurumların uygunluğunun devam edip etmediğini her yıl büyük bir özenle denetlediğimiz bir değerlendirme süreci geliştirdik ve zaman içinde bu süreci iyileştirmeye devam edeceğiz.
Meta son aylarda günde ortalama birkaç bin adet değerlendirmeyi çapraz kontrolden geçiriyor ve bunların büyük çoğunluğu Genel İkincil Değerlendirme sürecinde tamamlanıyor. (Her gün Topluluk Standartlarımızı ihlal ettiği için işaretlenen ve işlem gören milyonlarca içeriğe kıyasla bu çok küçük bir oran teşkil ediyor.) Hassas Kişi/Kurum İkincil Değerlendirme artık bu günlük değerlendirmelerin azınlığını oluşturuyor. 2021'in sonlarında başlayan ve 2022'de de devam eden Genel İkincil Değerlendirme önceliklendirme çalışmaları sonucunda, çapraz kontrol değerlendirmelerinin sayısındaki bu geçişin devam edeceğini öngörüyoruz.
Bir içerik Hassas Kişi/Kurum İkincil Değerlendirme kapsamına dahil olan bir kişi veya kurum tarafından paylaşıldıysa bu içerik genellikle önce bölgeler ekibimiz tarafından değerlendirilmiş olur. Üst birim ekibi daha sonra içeriğin ihlalde bulunup bulunmadığını onaylamak için değerlendirme yapar. Genel olarak, bölgeler ekibi içeriğin ilkelerimizi ihlal etmediğini belirlerse üst birim ekibimiz değerlendirme yapmaz. Bir içerik çapraz kontrol sıralayıcısının öncelik verdiği bir şahıs veya varlık tarafından paylaşıldıysa bu içerik, üst birim ekibinin ek değerlendirme kapasitesi olmadığı sürece, genellikle yükleniciler veya bölgeler ekibimiz tarafından değerlendirilir. Eski çapraz kontrol sisteminde olduğu gibi, karmaşıklık düzeyi yüksek olan meselelere ek değerlendirme uygulanabilir ve nadiren de olsa üst düzey yöneticilerimiz bu değerlendirmelerin parçası olabilir. Nihai değerlendirmede içeriğin Topluluk Standartlarımızı ihlal ettiği belirlenirse içeriği kaldırırız. Değerlendirmelerimizde içeriğin ihlal teşkil etmediği belirlenirse içeriği yayında bırakırız.
16 Ekim 2021 itibarıyla, yaklaşık 660.000 kullanıcıya ve varlığa, yukarıda belirtilen listelere dahil edilmeleri sonucunda Hassas Kişi/Kurum İkincil Değerlendirme gerektiren işlemler uygulandı. Dahil edilme kriterleri sürekli olarak evrimleştiği için kullanıcıları ve varlıkları yukarıda belirtilen listelere eklememiz ve listelerden çıkarmamız sebebiyle bu sayı da düzenli olarak değişiyor. Hassas Kişi/Kurum İkincil Değerlendirme için uygun kullanıcı ve varlık örneklerine, bunlarla sınırlı olmamak üzere aşağıdakiler dahildir:
- Üst birime iletilen yanıtlar veya yüksek riskli olaylarla ilgili kuruluşlar. Şu anda, yüksek riskli bir etkinlik için hazırlık yapan ekiplerin, yüksek aşırı yaptırım riski altında bulunan varlıkları belirlediği gayriresmi bir süreç vardır. Örneğin, bir kullanıcının tartışmalı içeriği viral olma sürecindeyse (ör. polis şiddeti içeren bir canlı video) içeriğin yanlışlıkla kaldırılmasını önlemek için bu kullanıcıyı Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil edebiliriz.
- Yasal uyumluluk amacıyla dahil edilen kuruluşlar. Belirli durumlarda, yasa veya mevzuat gerekliliklerini yerine getirmek için Hassas Kişi/Kurum İkincil Değerlendirme sürecini kullanıyoruz.
- Yüksek görünürlüklü tanınmış kişiler ve yayıncılar. Aşırı yaptırım kullanıcılarımızın büyük bir segmenti için olumsuz bir deneyimle sonuçlanabileceğinden, belirli varlıkları Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil ederiz.
- Ötekileştirilmiş topluluklar. İnsan hakları savunucularını, siyasi muhalifleri ve devlet destekli ya da diğer çekişmeli taciz, toplu saldırı veya toplu şikayet eylemleriyle hedeflenebileceğini düşündüğümüz diğer kişileri bu saldırılardan korumak amacıyla belirleriz.
- Kamu Kuruluşları. Siyasetçileri, devlet yetkililerini, kurumları, kuruluşları, savunuculuk gruplarını ve kamusal etki sahiplerini belirlemek için nesnel kriterler uyguluyoruz ve ilgili bölgede yaşayan ilke ekiplerimizin uzmanlığından yararlanıyoruz. İhlal teşkil etmeyen siyasi konuşmaları sınırlayacak ve seçimler, kamu politikası ve sosyal meseleler gibi kamusal meselelerin tartışılmasını sehven etkileyecek hataların önüne geçmek için bu varlıkları Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil ediyoruz. Bir ülkenin kamusal varlıkları arasında denklik sağlamayı amaçlıyoruz. Örneğin, bir ülkenin herhangi bir bakanlığını Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil ediyorsak o ülkenin tüm bakanlıklarını Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil ediyoruz.
- İşletmeler. Gelirlerimizi korumak ve platformumuza uzun vadede güven duyulmasını sağlamak için yüksek değerli reklamverenleri ve kendisine karşı gereğinden fazla yaptırım uygulanmış olanları tespit ediyoruz.
Şu anda, Hassas Kişi/Kurum İkincil Değerlendirme sürecine dahil edilmesi gereken kişi ve kurumları belirlerken kullandığımız kriterleri nasıl iyileştirebileceğimizi gözden geçiriyoruz. Örneğin; takipçi sayısı, önceki hatalı tespit yaptırımlarının sayısı, yasa/mevzuat gereklilikleri ve önemli siyasi/toplumsal meseleler gibi bazı alanlardaki kriterlerimizi iyileştirmenin yollarını irdeliyoruz. Hassas Kişi/Kurum İkincil Değerlendirme listesine dahil edilmek istemeyen kullanıcılar bu form aracılığıyla talepte bulunabilir. Meta, kullanıcıların bu listelerde olup olmadığını veya bu listelerden çıkarılıp çıkarılmadığını onaylamaz. Ancak kullanıcıların bağımsız hareket edebilmesinin önemine inanıyoruz ve her talebi mümkün olan en kısa sürede değerlendireceğiz.
Çapraz kontrol sisteminin iki bileşenine ek olarak, Dinamik Çoklu Değerlendirme (DMR) adlı dahili bir hata önleme sistemimiz de mevcut. Bu sistem, bir kararın doğruluğuna duyduğumuz güvenin daha yüksek olması amacıyla karar hakkında çoğunluk oyu alabilmemiz için, değerlendirilmiş vakaları tekrar değerlendirmeye göndermemize olanak tanır (ör. değerlendirme görevlilerinin çoğunluğu kararı kabul ederse vaka kapatılır). Bu sistemi, insan incelemesinin kalitesini ve doğruluğunu artırmak ve nihai karar için şart koştuğumuz değerlendirme sayısını virallik, görüntüleme sayısı ve zarara katkıda bulunma potansiyeli (ör. Cinsel İstismar veya Tehlikeli Kişi ve Örgütler ilkelerimizin potansiyel ihlalleri) gibi farklı etkenler doğrultusunda ayarlayarak yanlış karar riskini en aza indirmek üzere kullanırız.
Gelecekte Çapraz Kontrol Şeffaflık Müdahaleleri
Gözetim Kurulunun çapraz kontrol ilke danışma görüşü yönlendirmesi hakkında Aralık 2022'de yayınladığı karara yanıt olarak, hata önleme amaçlı bir dizi şeffaflık müdahalesi için de taahhütte bulunduk. Bu müdahalelerden bazıları şunlardır:
- Çapraz kontrol listelerine eklenmesi kamu yararına olacak kişi ve kurumları belirlerken kullandığımız kriterlere bilgi sağlamanın yollarını keşfetmek amacıyla; dahili İnsan ve Vatandaşlık Hakları ekiplerimiz, Güvenilir Ortaklarımız ve diğer harici sivil toplum kuruluşları ile yapılandırılmış ve sağlıklı etkileşimler.
- Küresel, bölgesel ve yerel sivil toplum gruplarından çapraz kontrol listesi adaylarının alınması için daha resmi bir sürecin irdelenmesi.
- Tüm çapraz kontrol kararlarını mümkün olduğu sürece ilgili dili konuşan ve bölgesel uzmanlığa sahip değerlendirme görevlileriyle alma yönünde hareket ettiğimiz bu süreçte, yüksek kaliteli değerlendirme ve eğitim kaynaklarına yatırım yapılması.
- Mevcut değerlendirme görevlisi atama modelimizi mümkün olan en hızlı dil içi değerlendirme için optimize etmemize imkan tanıması amacıyla, hata önleme sistemlerimiz genelinde değerlendirme kararları için güçlü Hizmet Düzeyi Anlaşmaları (SLA'lar) uygulanması.
Şimdiye dek çapraz kontrol sistemimizde önemli iyileştirmeler yapmış olmakla birlikte, bu sistemin Topluluk Standartlarımızı ihlal eden içerikleri kaldırma ve en yüksek etkiye sahip yaptırım hatalarımızı en aza indirme hedeflerimiz arasında doğru bir denge kurmasını sağlamanın yeni yollarını irdelemeye devam ediyoruz.