Meta'nın teknolojiye yaptığı yatırımlar

GÜNCELLENME 19 OCA 2022
İhlalde bulunan içerikleri tespit etme ve insanları emniyette tutma kabiliyetimizi artırmak için yapay zekaya yatırım yapıyoruz. Bazen mevcut bir sistemi iyileştirmek bazen de yeni bir sistem geliştirmek için yaptığımız bu yatırımlar, daha hızlı müdahale edebilmek ve hataları azaltmak için içerik kararlarını otomatikleştirmemize yardımcı olur.
Araçlarımızın içerikleri anlama kabiliyetini artırmak için yapay zeka teknolojisine yaptığımız yatırımlardan bazıları şunlardır:
  • Facebook ve Instagram'da dünyanın farklı bölgelerinden paylaşılan içerikleri analiz eden Linformer adında yeni bir mimari geliştirdik.
  • Nefret söylemini tespit etme kabiliyetimizi artırmak için çevrimiçi sinyallerden yeni şeyler öğrenen Reinforced Integrity Optimizer adlı yeni bir sistem oluşturduk.
  • Yanlış bilgiler üzerinde işlem yapabilmemiz için teknolojilerimizin içerikler arasındaki küçük ayrımları tespit etmesine yardımcı olan SimSearchNet adlı bir görüntü eşleştirme aracını iyileştirdik.
  • Aynı kavramı birden fazla dilde anlayabilen sınıflandırıcılar oluşturmamıza yardımcı olan XLM ve XLM-R adlı dil araçlarını entegre ettik. Bu sayede teknolojilerimiz bir şeyi bir dilde öğrenip diğer dillerdeki performansını artırabiliyor. Bu özellikle internette fazla yaygın olmayan diller için son derece faydalıdır.
  • İçeriklerin nefret söylemi barındırıp barındırmadığını belirlemeye yardımcı olmak için bu içerikleri analiz eden bütünsel varlık anlayışı sistemi oluşturduk.
İşbirliğine dayalı açık çalışmalarla yapay zeka sektörüne öncülük etme
Zararlı içeriklerin ortaya çıkardığı zorluklar tüm teknoloji sektörünü ve genel olarak toplumumuzu olumsuz etkilemektedir. Bu nedenle, başkalarının da kullanabilmesi için teknolojilerimizi açık kaynaklı hale getiriyoruz. Yapay zeka topluluğuyla açık ve işbirliğine dayalı bir ilişki içerisinde olmanın araştırma ve geliştirmeyi hızlandıracağına, zararlı içerikleri tespit edip önlemek için yeni yollar oluşturacağına ve insanları emniyette tutmaya katkıda bulunacağına inanıyoruz.
Son yıllarda açık kaynaklı hale getirdiğimiz bazı teknolojiler ve öncülüğünü yaptığımız 2 sektör yarışması şunlardır:
XLM-R, bir dilde eğitilen ve ek eğitim verisi olmadan başka dillerle kullanılabilen bir makine öğrenimi modelidir. İnsanların Meta teknolojilerinde 160'tan fazla dilde içerik paylaştığı günümüzde, XLM-R bize her dil için ayrı bir model oluşturmak yerine tek bir modeli birden çok dilde kullanma esnekliği sunar. Bu da birçok farklı dildeki nefret söylemini ve ihlalde bulunan içerikleri daha kolay bir şekilde tespit etmemize ve birden fazla ürünü aynı anda birden fazla dilde kullanıma sunmamıza yardımcı olur. Araştırma topluluğuna kendi çok dilli modellerinin performansını artırma fırsatı sunmak için modellerimizi ve kodumuzu açık kaynaklı hale getirdik.
Hedef: İnsanlara konuştukları dilden bağımsız olarak platformlarımızda en iyi deneyimi sunmak.
Linformer, Facebook ve Instagram'da dünyanın farklı bölgelerinden paylaşılan milyarlarca içeriği analiz eden bir dönüştürme mimarisidir. Linformer, nefret söylemini ve şiddeti teşvik eden içerikleri tespit etmemize yardımcı olur. Diğer araştırmacıların ve mühendislerin kendi modellerini iyileştirebilmesi için araştırmalarımızı yayınladık ve Linformer kodunu açık kaynaklı hale getirdik.
Hedef: Metinden, görsellerden ve konuşmalardan yeni şeyler öğrenip nefret söylemini, insan ticaretini, zorbalığı ve diğer zararlı içerik biçimlerini etkili bir şekilde tespit eden yeni bir yapay zeka modeli oluşturmak.
İzleyicileri yanıltmak amacıyla yapay zeka kullanılarak üzerinde oynanmış videoları daha iyi tespit edebilen bir teknoloji için Microsoft, the Partnership on AI ve çeşitli üniversitelerden akademisyenlerle birlikte bir yarışma başlattık. Sektörde gerçekçi bir veri setinin eksikliği hissediliyordu ve biz de bu gerçekçi veri setini sağlayarak Deepfake Tespiti Medyan Okumasına katkıda bulunduk.
Hedef: Sektörü, yapay zeka kullanılarak manipüle edilmiş medya içeriklerini tespit etmenin ve bunların insanları yanlış yönlendirmek üzere kullanılmasını önlemenin yeni yollarını oluşturmaya teşvik etmek.
Görüntüler ve metinler bir araya getirilerek oluşturulan nefret söylemini tespit etme sorununa dair araştırmaları hızlandırmak için Getty Images ve DrivenData ile birlikte bir yarışma başlattık. Araştırmacıların çalışmalarında kolayca kullanabilmesi amacıyla 10.000'den fazla örnek içeren benzersiz bir veri seti oluşturarak Nefret Söylemi İçeren Viral Görüntüler Meydan Okumasına katkıda bulunduk.
Hedef: Sektörü, çok modlu nefret söylemini tespit etmek için yeni yaklaşım ve yöntemler oluşturmaya teşvik etmek.