Proaktif aksiyon oranı
GÜNCELLENME 22 ŞUB 2023
Bu ölçüm, kullanıcılar bize şikayet etmeden önce tespit edip aksiyon aldığımız tüm içeriklerin veya hesapların yüzdesini gösterir. Bu ölçümü, ihlalleri ne kadar etkili bir şekilde saptadığımızın bir göstergesi olarak kullanıyoruz.
Makine öğrenimi teknolojisine yaptığımız yatırımlar, daha hızlı saptama yapabilmemiz açısından kritik öneme sahiptir.
Makine öğrenimini, ihlal teşkil eden içerikleri değerlendirip harekete geçen eğitimli uzman ekibimizle dengeliyoruz.
İhlal teşkil edebilecek içerikleri proaktif bir şekilde saptama oranımız bazı ihlallerde son derece yüksektir. Yani içeriklerin büyük çoğunluğunu kullanıcılar şikayet etmeden önce bulup harekete geçiyoruz. Bu özellikle, standartlarımızı ihlal edebilecek içerikleri otomatik olarak tespit edebilen makine öğrenimi teknolojisini geliştirebildiğimiz alanlar için geçerlidir.
Gelecek vaat etmekle birlikte, bu teknolojilerin her türlü ihlal için etkili olabileceği zamandan henüz yıllarca uzaktayız. Örneğin, yazılı içerikler başta olmak üzere, bağlamı ve nüansı anlayabilme kabiliyeti konusunda ciddi sınırlamalar bulunmaktadır. Bu da belirli ihlalleri proaktif bir şekilde saptamanın önünde ilave engeller oluşturmaktadır.
Bu ölçüm, harici faktörler nedeniyle iniş veya çıkış gösterebilir. Örneğin, spam gönderenlerin aynı kötü amaçlı URL'yi içeren 10 milyon gönderi paylaştığı bir siber saldırı yapıldığını hayal edin. Kötü amaçlı URL'yi kullanıcılar bize şikayet etmeden önce saptarsak saptama teknolojimiz siber saldırının gerçekleştiği dönemde değişmemesine rağmen proaktif aksiyon oranı yükselecektir. Bu ölçüm, süreçlerimizdeki ve araçlarımızdaki değişikliklere dayalı olarak da düşebilir veya artabilir. Örneğin, saptama teknolojimiz güçlenirse yükselebilir fakat kullanıcı şikayetleri iyileşirse ve proaktif saptamaya daha az ihtiyacımız kalırsa düşebilir.
Bu ölçüm işlem yapılan içerik miktarına bağlı olduğundan, aynı hususların birçoğu burada da geçerli olabilir. Proaktif aksiyon oranımız, ihlalde bulunan içerikleri saptamamızın ne kadar zaman aldığını veya bu içeriklerin saptanmadan önce kaç defa görüntülendiğini yansıtmaz. Saptayamadığımız ihlal sayısını ve ilgili içeriğin görüntülenme sayısını da yansıtmaz. Proaktif olarak saptadığımız içerik yüzdesi çok yüksek, hatta bazı kategorilerde %99 gibi çok yüksek olabilir ancak kalan küçük yüzde insanları ciddi bir şekilde etkileyebilir.
Proaktif aksiyon oranımızı nasıl hesaplarız?
Bu yüzdeyi, Facebook'u veya Instagram'ı kullanan kişiler şikayet etmeden önce tespit edip tedbir aldığımız içeriklerin sayısını, tedbir aldığımız toplam içerik sayısına bölerek hesaplıyoruz.
Facebook'taki sahte hesaplarda bu ölçümü, kullanıcılar bize şikayet etmeden önce bulup tedbir aldığımız ve sahte olduğu gerekçesiyle kapattığımız Facebook hesaplarının oranı olarak hesaplıyoruz. Bu oran, kullanıcılar şikayet etmeden önce tespit edip tedbir aldığımız kapatılmış hesapların sayısının, sahte olduğu gerekçesiyle kapatılmış toplam hesap sayısına bölünmesiyle hesaplanır.
Uyarılar
Proaktif aksiyon oranımızı, kullanıcı şikayetlerini içeriklerle ilişkilendirerek hesaplarız. Örneğin, birisi bir Sayfayı şikayet ederse ve Sayfayı değerlendirirken o Sayfada ihlal teşkil eden bazı içerikler tespit edip harekete geçersek kullanıcılar özellikle bu içerikleri şikayet etmediği sürece bu içeriklerde proaktif tedbir aldığımızı raporlarız.
En son Topluluk Standartları Uygulama Raporu'nu görün