Meta, değerlendirilecek içeriklere nasıl öncelik verir?

GÜNCELLENME 12 KAS 2024

Meta'nın teknolojileri, ihlalde bulunan içeriklerin büyük çoğunluğunu henüz şikayet edilmeden önce saptar ve kaldırır. Birisi Facebook, Instagram, Messenger veya Threads'de bir şey paylaştığında teknolojilerimiz içeriğin Topluluk Standartları'na aykırı olup olmadığını kontrol eder. Çoğu durumda tespit son derece basit bir işlemdir. Gönderi, ilkelerimizi ya açıkça ihlal ediyordur ya da etmiyordur.

Bazı durumlarda ise tespit oldukça zordur. Bazen gönderinin niyeti açık değildir, kullandığı dil oldukça karmaşıktır veya kullandığı görsel bağlama göre farklı anlamlara gelebilir. Bu durumlarda, insanlardan destek alarak ek değerlendirmeler yürütürüz.

İnsan incelemesi için öncelik faktörleri

İnsan incelemesi ekiplerimizin önce hangi içerikleri değerlendireceğini belirlerken 3 ana faktörü dikkate alırız:

ÖNEM DERECESİ

İçeriğin internette ve internet dışındaki ortamlarda zarara yol açma olasılığı ne kadar yüksek?

VİRALLİK

İçerik ne kadar hızlı bir şekilde paylaşılıyor?

İHLALDE BULUNMA OLASILIĞI

Söz konusu içeriğin gerçekten ilkelerimizi ihlal ediyor olma olasılığı ne kadar yüksek?

Olabildiğince fazla zararı önlemek istediğimizden, değerlendirme sistemlerimiz internet dışında zarar potansiyeli olan, yüksek önem derecesine sahip olan içeriklere ve çabuk yayılan viral içeriklere öncelik vermek için teknolojiden yararlanır.

İnsan incelemesi ekiplerimiz teknolojimizin gelişmesine yardımcı olur

İnsan incelemesi ekiplerimiz, zorlu ve ayrıntılı kararları almak için belirli ilke alanlarındaki ve dillerdeki uzmanlıklarını kullanır. Değerlendirme görevlilerimizin verdiği her kararı, teknolojimizi eğitmek için kullanıyoruz. Zaman içinde milyonlarca kararın incelenmesiyle gelişen teknolojimiz, ihlalde bulunan daha çok içeriği kaldırmamıza olanak sağlıyor.

Değerlendirme görevlilerinin doğru kararları vermesine yardımcı olma

Teknoloji, insan incelemesi ekiplerinin en iyi yaptığı işi yapmasına yardımcı olur

Birçok makine öğrenimi modelinde olduğu gibi teknolojimiz de ihlalde bulunan içeriklerin daha çok örneğini gördükçe zaman içinde kendini geliştirir. Bu sayede insan incelemesi ekiplerimiz daha ciddi, viral, ayrıntılı, yeni ve karmaşık içeriklere, yani insanların teknolojiden daha doğru kararlar almaya meyilli olduğu içeriklere odaklanabilir.

İçerik değerlendirmesinin önceliklendirilmesi hakkında yaygın sorular

Yaptırım önceliklendirmesi zaman içinde nasıl değişti?

Önceden insan incelemesi ekiplerimiz, zamanlarının büyük bölümünü kişiler tarafından şikayet edilen içerikleri değerlendirerek geçirirdi. Bu nedenle genellikle önem derecesi düşük olan veya ihlal teşkil etmediği bariz olan içeriklere çok fazla zaman harcarken en yüksek önem derecesine ve en büyük zarar potansiyeline sahip olan içeriklere yeterince zaman ayıramıyorlardı. Aynı zamanda, insanların aldığı kararların birçoğu yaptırım teknolojimizi iyileştirmek adına faydalı olamıyordu.

Şu anki önceliklendirme yaklaşımımız bu meseleleri çözümlüyor, potansiyel olarak en zararlı içerikleri en önce değerlendirmemize olanak tanıyor ve teknolojimizi daha hızlı geliştirmemizi sağlıyor.

Her kullanıcı şikayetini insan incelemesi ekipleri mi değerlendirir?

Her zaman değil. Kullanıcı şikayetlerinin değerlendirilmesinde hem insan incelemesi ekiplerimiz hem de teknolojimiz önemli bir rol oynar. Teknolojimiz içeriği analiz edebiliyorsa söz konusu içerik üzerinde otomatik olarak işlem gerçekleştirir ya da işlem yapmama kararı alır.

İnsanların verdiği kararların teknolojinize taraflılık katmamasını nasıl sağlıyorsunuz?

Meta teknolojilerinde yapay zeka kullanımının getirdiği adalet ve kapsayıcılık endişelerini gidermek amacıyla etikçiler, sosyal ve siyasal bilimciler, ilke uzmanları, yapay zeka araştırmacıları ve mühendislerden oluşan çok disiplinli bir ekip olan ve sadece bu işle uğraşan Sorumlu Yapay Zeka ekibini kurduk. Ekibin genel hedefi, yapay zeka sorumluluğu meselelerini ele almak için kurallar, araçlar ve işlemler geliştirmek ve bu sistemli kaynakların Meta'nın genelinde erişilebilir olmasını sağlamaktır.