Yaptırım teknolojimizin çalışma biçimi
GÜNCELLENME 12 KAS 2024
Modeller geliştirme ve tahminlerde bulunma
Bu süreç yapay zeka ekiplerimizle başlar. Bir fotoğrafta nelerin olduğunu tanıma veya metinleri anlama gibi belirli görevleri gerçekleştirebilen makine öğrenimi modelleri geliştirirler. Sonrasında, tespiti ve ilkelerimizin uygulanmasını ölçeklemekten sorumlu olan bütünlük ekiplerimiz, bu modelleri daha da geliştirerek insanlar ve içerikler hakkında tahminlerde bulunabilen daha spesifik modeller oluşturur. Bu tahminler, ilkelerimizi uygulamamıza yardımcı olur.
Örneğin, bir yapay zeka modeli, bir içeriğin nefret söylemi veya şiddet içeren ve sansürlenmemiş içerik olup olmadığını tahmin eder. Ayrı bir sistem olan yaptırım teknolojimiz ise içeriği silme, içeriği alt sıralara taşıma veya içeriği ek değerlendirme için insan incelemesi ekibine gönderme gibi bir eylemde bulunup bulunmama kararını verir.
Tekrarlayarak öğrenme, insanlar aracılığıyla doğrulama
İçerik yaptırımı için yeni bir teknolojiyi ilk oluşturduğumuzda, bu teknolojiyi belirli sinyalleri araması için eğitiriz. Örneğin, bir teknoloji fotoğraflarda çıplaklığı ararken bir başka teknoloji ise metinleri anlamayı öğrenir. Yeni bir teknoloji türü, başta bir içeriğin ilkelerimizi ihlal edip etmediği konusunda düşük güven düzeyine sahip olabilir.
Nihai kararı değerlendirme ekiplerimiz verebilir ve teknolojimiz insanların verdiği her bir karardan yeni şeyler öğrenebilir. Zaman içinde binlerce insan kararından farklı şeyler öğrenen teknoloji, daha isabetli kararlar vermeye başlar.
Ürünümüzdeki, sosyal normlardaki ve dildeki değişikliklere ayak uydurmak için zaman içinde ilkelerimiz de evrilmektedir. Sonuç olarak, hem teknolojilerimizin hem de değerlendirme ekiplerimizin eğitilmesi kademeli ve yinelemeli bir süreçtir.
Tekrarlanan ihlalleri tespit etmeTeknolojiler aynı içeriği tekrar tekrar, gerekirse milyonlarca defa tespit etmekte son derece başarılıdır. Bir içerik ihlalde bulunan başka bir içeriğin aynısı veya çok benzeri olduğunda, teknolojimiz bu içerik üzerinde işlem yapar. Bu özellikle viral yanlış bilgi kampanyaları, viral görüntüler ve aşırı derecede çabuk yayılabilen diğer içerikler için oldukça faydalıdır.
Küçük ayrımları yapabilme
Teknolojiler aynı içeriği tekrar tekrar bulup kaldırabilir. Ancak bir makinenin sözcük seçimlerindeki nüansları veya küçük farkların bağlamı nasıl değiştirebileceğini anlamasını sağlamak son derece zordur.
İlk görsel, halk sağlığı emniyeti hakkında yanlış bilgiler içeren orijinal yanıltıcı içeriktir.
İkinci görsel ilk görselin ekran görüntüsüdür ancak bu defa üstünde bilgisayarın menü çubuğu yer almaktadır.
Son olarak, birinci ve ikinci görsele son derece yakın olmakla birlikte, üçüncü görselde başlığın yanlışlığını gideren ve doğru olmasını sağlayan 2 küçük sözcük değişikliği yapılmıştır.
Bunu insanların anlaması son derece kolay, teknolojinin anlaması ise oldukça zordur. İki tarafa yönelmenin de kendine özgü riskleri vardır. Teknoloji fazla agresif olduğu takdirde, ihlalde bulunmayan milyonlarca gönderiyi kaldırır. Yeterince agresif olmadığı takdirde, menü çubuğu içeren ekran görüntüsünün orijinalinden farklı olduğunu düşünür ve içerik üzerinde işlem yapmaz.
Bunun üzerinde çalışmaya oldukça fazla zaman harcıyoruz. Son birkaç yılda, teknolojimizin içeriklerdeki küçük ayrımları tespit etmekte daha iyi olması için çeşitli yatırımlar yaptık. Bu teknoloji her geçen gün öğrenmeye devam ettikçe daha da isabetli kararlar veriyor.
