Nefret söylemini tespit etmenin zorlukları
GÜNCELLENME 19 OCA 2022
Nefret söylemi, hem teknolojinin hem de insan değerlendirme ekiplerinin tespit etmekte zorlandığı şeylerin başında gelmektedir. Deyimler ve nüanslar farklı kültür, dil ve bölgelerde büyük farklılıklar gösterebilmektedir. Ayrıca insanlar normal şartlarda nefret söylemi olacak sözcükleri, soruna dair farkındalık yaratmak veya doğru kullanımı teşvik etme çabasıyla kendi içinde referans olarak kullanabilmektedir.
Üstelik bunlar sadece metin formatındaki nefret söylemini tespit etmenin zorluklarıdır. Facebook ve Instagram'da bulduğumuz nefret söyleminin önemli bir bölümü fotoğraf ve videolar içerisindedir. Örneğin, bir viral görüntüde, belirli bir insan grubuna saldırmak için metinler ve görseller bir arada kullanılabilir. Bu, teknoloji için daha da büyük bir zorluktur.
İnsanlar içeriklerini değiştirerek tespit mekanizmalarını atlatmaya çalıştığında, bu tür içerikler daha da karmaşıklaşmaktadır. İnsanlar örneğin sözcükleri kasten yanlış yazabilmekte, belirli sözcük öbeklerini kullanmaktan kaçınabilmekte veya görsel ve videolarını değiştirebilmektedir.
Nefret söylemini tespit etmek için yapay zeka kullanımındaki ilerlemeler
Son birkaç yılda nefret söylemini tespit etmek üzere kullandığımız araçları iyileştirdik ve artık bu içeriklerin önemli bir bölümünü insanlar şikayet etmeden önce, hatta bazen bir kişi bile görmeden önce kaldırabiliyoruz.
Daha önce nefret söylemi gerekçesiyle kaldırdığımız içeriklerin aynısı olan görselleri ve metinleri tespit etmek için yapay zekadan yararlanmaktayız. Teknolojimiz, bir içeriğin bilinen bir içeriğe ne kadar benzediğini değerlendirmek için ifadelere ve yorumlara da bakmaktadır.
Bu teknikler, anlamın bariz olmadığı veya tespitten kaçınmak amacıyla içeriğin değiştirilmiş olduğu durumlarda bile, teknolojimizin nefret söylemini isabetli bir şekilde tespit etmesine yardımcı olmaktadır.
Facebook yapay zeka blogunda derinlemesine bir analiz okuyun