Tehlikeli Örgütler ve Kişiler Konusunda Benimsediğimiz Yaklaşım

GÜNCELLENME 11 KAS 2024

Platformumuzda şiddeti, organize suçu, nefreti veya terörü teşvik eden gruplara veya şahıslara yer yoktur. Bu tür içerikleri ele almak için yıllar süren çalışmalarımız kapsamında Tehlikeli Örgütler ve Kişiler ilkelerini ve süreçlerini geliştirdik ve geliştirmeye devam ediyoruz. İnsanların dünya genelinde hayatlarını, ailelerini ve topluluklarını etkileyen olaylar hakkında konuşabilmesi için alan sağlamaya kararlı olmakla birlikte, ilkemizin var olma amacı platformlarımızda izin verilmeyen şeyler için bir çizgi çizmektir.

İlkelerimiz, Platformlarımızı Emniyette Tutmak İçin Tasarlanmıştır

Meta'nın terör örgütlerini, nefret gruplarını, karteller gibi organize suç örgütlerini, şiddeti teşvik eden örgüt veya kişileri ve silahlı saldırılar veya terör saldırıları gibi ihlalde bulunan belirlenmiş olayların faillerini hedefleyen ilkesi, sektördeki en kapsamlı ilkelerden biridir.

Bu Tehlikeli Örgütler ve Kişiler İlkesi kapsamında, belirli faaliyetlerde bulunan kişi ve örgütleri belirleyip yasaklarız ve haberdar olduğumuz anda bu kişileri yücelten ve destekleyen içerikleri kaldırırız. Gelecekteki şiddet eylemlerini hazırlama veya savunma faaliyetlerinde bulunan ancak şimdiye kadar şiddet eylemi gerçekleştirmemiş olan Şiddeti Teşvik Eden Örgüt ve Kişileri de belirleyip yasaklarız ve bunları yücelten ve destekleyen içerikleri de aynı şekilde kaldırırız.

İlkelerimiz herkese açıktır ve bunlar hakkında daha fazla detayı Topluluk Standartları sayfamızda bulabilirsiniz. Buna ek olarak, bu içeriklerin ne kadarını kaldırdığımıza dair detayları üç aylık topluluk standartları raporumuzda düzenli olarak yayınlıyoruz.

Belirleme Şeklimiz ve Nedenimiz

Şiddet içerikli veya nefret dolu bir misyona sahip veya şiddet eylemlerinde bulunan kuruluşların veya kişilerin Meta'nın platformlarında bir varlığının olmasına izin vermeyiz. Bu örgüt ve kişileri hem çevrimiçi hem de çevrimdışı davranışlarına dayalı olarak ve en önemlisi de şiddetle bağlantılarına göre değerlendiriyoruz. Bu ilke kapsamında bireyleri, kuruluşları ve insan ağlarını belirliyoruz. Daha etkili, orantılı ve tutarlı bir yaptırım sağlamak amacıyla, bu belirlemeleri iki gruba ayırdık. Bu kategoriler ve her birinin kapsadığı örgüt türleri hakkında daha fazla bilgiyi topluluk standartlarımızda bulabilirsiniz.

Belirlenme potansiyeline sahip örgütleri ve kişileri değerlendirirken birçok bilgi kaynağını hesaba katan, son derece güçlü bir dahili sürecimiz vardır. Bölgeyi veya ideolojiyi göz önünde bulundurmadan kendi tanımlarımızı ve belirleme sürecimizi geliştirmemiz, platformlarımızın korunmasında sağlam, adil ve proaktif olmamızı sağlar.

Bu çalışmalar durağan nitelikte değildir. Riskleri sürekli olarak değerlendiriyoruz ve belirlenme potansiyeline sahip grupları ve şahısları davranışlarına, değişen koşullara, yeni bilgilere, dahili uzman analizlerine ve harici paydaşlardan gelen bilgilere dayalı olarak inceliyoruz. Örneğin, Ocak 2024'te duyurduğumuz üzere, belirlenmiş bir örgüt veya kişi davranışlarını değiştirdiğinde, şu şartları karşıladığı sürece listemizden çıkarılmaya uygun olabilmektedir: (1) ABD hükümeti tarafından Özel Olarak Belirlenmiş Uyuşturucu Kaçakçısı (SDNTK), Yabancı Terör Örgütü (FTO) veya Özel Olarak Belirlenmiş Küresel Terörist (SDGT) olarak belirlenmemiş olması, (2) şiddet veya nefret eylemlerine dahil olmaya son vermiş olması ve (3) şiddetin ve nefretin sembolü olmaması veya yeni şiddet eylemlerini teşvik etmek veya şiddet ya da nefret propagandasını yaymak için kullanılmıyor olması.

Şeffaflığa son derece önem veriyor ve artılarıyla eksilerini sürekli olarak değerlendiriyoruz, fakat şu anda hem güvenlik risklerini ve yasal riskleri azaltmak hem de bu tehlikeli aktörlerin yaptırım mekanizmalarımızı atlatmasını önlemek amacıyla, belirleme listemizin ayrıntılarını paylaşmamayı tercih ediyoruz.

Tehlikeli Örgütlere ve Kişilere Karşı Yaptırım Uygulama Şeklimiz

Tehlikeli Örgüt ve Kişilerin faaliyetlerine karşı koymak için insanlara, teknolojiye, ortaklıklara ve araştırmalara yoğun bir şekilde yatırım yapıyoruz.

Teknoloji: Bu alana yapay zeka ve insan zekasının birleşimiyle yaklaşıyoruz ve aynı zamanda bu değişen ortamda hep bir adım önde kalmak için hem araştırmalara yatırıp yapıyoruz hem de harici uzmanlarla ve kuruluşlarla birlikte çalışıyoruz. Şiddet tasvirleri içeren videoları, görselleri, sesleri, metinleri ve hatta logolar gibi grafikleri saptamak için yapay zekayı kullanıyoruz. Aynı zamanda, ortaklarımızın tehlikeli örgüt ve kişilerle kendi platformlarında mücadele etmelerini sağlayacak teknolojiye erişmesine yardımcı olmak için sektör genelinde erişilebilen açık kaynaklı araçlar üretiyoruz. Örneğin, Aralık 2022'de, sektördeki her şirketin platformlarını terör içeriklerinden arındırmasını kolaylaştırmak amacıyla, "Hasher Matcher Actioner" (HMA) aracını kullanıma sunduk. Kullanımı ücretsiz olan bu açık kaynaklı araç, platformların görsel veya video kopyalarını tespit etmesine ve bunlara karşı toplu olarak işlem yapmasına yardımcı oluyor.
Kişiler: Bağlam ve dil genellikle karmaşıktır ve teknoloji bir Tehlikeli Örgüt veya Kişinin yüceltilmesini, kültürel açıdan kendine özgü eleştirilerden her zaman ayırt edemez. Bu nedenle emniyet ve güvenlik alanında Meta'nın milyarlarca dolar yatırımı ve bu alanda faaliyet gösteren yaklaşık 40 bin çalışanı vardır. Bu kapsamda; kolluk kuvvetleri ve ulusal güvenlikten terörle mücadele istihbaratına ve radikalleşmeye ilişkin akademik çalışmalara kadar uzanan uzmanlığıyla, bu alana özel olarak yüzlerce kişiden oluşan bir departmanlar arası ekibimiz bulunuyor.
Ortaklıklar: Zararlı faaliyetler dünyada var olduğu sürece internet ortamında da var olacaktır ve bu sorunları hiçbir şirket tek başına çözemez. Şirketler, sivil toplum, araştırmacılar ve devletler gibi diğer kişi ve kuruluşlarla kurduğumuz ortaklıklar büyük önem taşır. Dünyanın dört bir yanındaki devletlerle ve devletler arası kurumlarla etkileşimde bulunuyor ve terör, şiddet yanlısı aşırılık, siber istihbarat ve internetteki düşmanca davranışlar konularında uzman kuruluşlarla ortaklıklar kuruyoruz.
- • GIFCT: 2017 yılında YouTube, Microsoft ve Twitter ile güçlerimizi birleştirerek, teröristlerin ve şiddet yanlısı aşırı uç görüşlü örgüt ve kişilerin dijital platformları suistimal etmesini önlemek amacıyla Global Internet Forum to Counter Terrorism (GIFCT) oluşumunu kurduk. 2019 yılında bağımsız bir sivil toplum kuruluşu haline gelen GIFCT, saldırılara yanıt olarak sektör genelinde kriz müdahalesini koordine ediyor.
- • Kolluk Kuvvetleri: İnsan hayatına karşı belirgin, acil ve inandırıcı bir tehditten haberdar olduğumuzda, tereddüt etmeden durumu kolluk kuvvetlerine bildiririz. Meta olarak ayrıca şiddet içerikli saldırılar hakkında kolluk kuvvetleriyle birlikte çalışırız, ancak hem hukuki açıdan geçerli olduğundan hem de yargı süreci, gizlilik, ifade özgürlüğü ve hukukun üstünlüğü dahil olmak üzere uluslararası alanda tanınan insan hakları standartlarıyla tutarlı olduğundan emin olmak için her bir devlet talebini titizlikle inceleriz. Bir talebin yetersiz veya aşırı kapsamlı olduğunu belirlersek talebi geri çeviririz. Kolluk kuvvetleriyle birlikte yürüttüğümüz çalışmalar hakkında buradan daha fazla bilgi alabilirsiniz.
Bağımsız Araştırma: Sektörümüzün bu önemli meseleleri anlamasına ve bu alanda ilerleme kaydetmesine yardımcı olmak amacıyla; internetin şiddet yanlısı aşırı uç görüşlü ve terörist kullanımı hakkında düşünce kuruluşlarına, akademisyenlere ve sivil toplum örgütlerine bağımsız araştırmalar yaptırıyoruz. Meta, 2022 yılında, şiddet yanlısı aşırı uç görüşler konusunda gelişen trendleri ve toplulukların bunlarla mücadele etmesine yardımcı olan etkili araçları analiz etmek için Middlebury Uluslararası Araştırmalar Enstitüsü bünyesindeki Terörizm, Aşırılık ve Terörle Mücadele Merkezi ile bir araştırma ortaklığı yaptığını duyurmuştur.
Stratejik Ağların Kesintiye Uğratılması: Terörizme ve organize nefrete karşı yaptırım uygulamalarımızın çoğu rutin içerik kaldırma işlemlerinden kaynaklanmakla birlikte, bazen bu yeterli gelmez. Saldırı tehditlerinin söz konusu olduğu bu alanda, belirlenmiş tehlikeli örgüt veya kişiler bazen platformumuzdaki yaptırım faaliyetlerimizin etrafından dolaşmaya ve ağlarını yeniden kurmaya çalışmaktadır. Bu ağlarla mücadele etmek için, Stratejik Ağın Kesintiye Uğratılması adı verilen bir yaklaşım kullanırız. Bir Stratejik Ağın Kesintiye Uğratılması, ilk belirlendikleri anda ya da bu belirlenmiş grupları platformumuzdan uzak tutma amacıyla devam eden çalışmalarımız kapsamında, zaten yasaklı olan Tehlikeli Örgüt veya Kişilerden oluşan bir ağı tek seferde kaldırmamıza imkan tanır. Bu kümelerin bütünüyle devre dışı bırakılması, platforma geri dönmelerini zorlaştırır. Bu aynı zamanda, onların varlığından haberdar olduğumuza ve bu grupların platformlarımızda hoş karşılanmadığına dair net bir mesaj verir. Bu teknik son olarak, bu tehlikeli örgüt veya kişilerin saptama sistemlerimizi nasıl atlatmaya çalışabileceğini ve biz onların hesaplarını kaldırdıktan sonra uygulamalarımıza nasıl geri dönmeye çalışabileceğini incelememize imkan tanır.
- • Bağımsız akademik dergi Proceedings of the National Academy of Sciences (PNAS), Haziran 2023'te, Meta araştırmacıları Daniel Robert Thomas ve Laila A. Wahedi tarafından yazılan ve nefret gruplarını kesintiye uğratmaya yönelik Stratejik Ağların Kesintiye Uğratılması stratejimizin etkililiğini inceleyen bir makale yayınladı. Bu makaleden, taktiğin işe yaradığını ve platformlarımızda daha sağlıklı ve daha emniyetli bir kullanıcı deneyiminin oluşturulmasına yardımcı olduğunu öğrendik.

Önleme Çalışmaları

Meta olarak, platformlarımızda emniyeti ve bütünlüğü korumaya önem veriyoruz. Bunu başarmak için izlediğimiz yollardan biri, bireylerde veya topluluklarda kök salmadan önce tehlikeli örgüt ve kişilerin yayılmasını önlemek için proaktif önlemler almayı içeren yukarı yönlü bir önleme çalışmasıdır. Hedefli müdahalelerin kullanılması ve olumlu konuşmaların teşvik edilmesi buna dahildir. Yapıcı diyalogların olmazsa olmaz olduğuna inanıyoruz ve bu tür fikir alışverişlerini teşvik eden bir ortam yaratmaya çalışıyoruz.

Çalışmalarımızı daha da güçlendirmek amacıyla; aşırı uç görüşlere, organize nefrete ve suç faaliyetlerine karşı koyma alanında öne çıkan Sivil Toplum Kuruluşları (STK) ile aktif bir şekilde çalışıyoruz. Kapasitelerini artırarak ve karşı söylem içerikleri oluşturmaları için gerekli kaynakları sağlayarak bu kuruluşları destekliyoruz. Radikal anlatılara meydan okuyan ve alternatif bakış açıları sunan bu içerikler, daha olumlu ve kapsayıcı bir çevrimiçi ortamın oluşmasına yardımcı olur.

Aşırılığa karşı koyma yaklaşımımız; önleme, işbirliği ve olumlu konuşmaların artırılması çalışmalarını içeren çok yönlü ve proaktif bir yaklaşımdır.

Resiliency Initiative; Asya, Afrika ve Amerika Birleşik Devletleri'ndeki STK'leri Şiddet Yanlısı Aşırılığı Önleme/Mücadele konusunda eğiten ve şiddet eylemlerine karşı etkili konuşma kampanyaları için kapasitelerini geliştiren bir programdır. Meta, Resiliency Initiative kapsamında, hem nefret kaynaklı şiddete karşı koymak hem de sosyal ve toplumsal dayanıklılığı artırmak için yerel olarak çalışan topluluk temelli ortaklara destek olmak amacıyla, Search for Common Ground (SFCG) ile ABD merkezli bir ortaklık başlatmıştır.
Daha Emniyetli Aramalar: Uygun olduğunda, tehlikeli örgütlerle ve kişilerle ilişkili terimleri arayan kişileri doğru kaynaklara yönlendiririz. Kullanıcılar Facebook, Instagram ve Threads'de Tehlikeli Örgüt ve Kişiler terimleri için arama yaptığında, aradıkları sonuçlar yerine faydalı kaynaklar sağlanır. Böylece, Tehlikeli Örgütler ve Kişiler içerikleri için yapılan aramaların caydırılması ve kullanıcıların eğitim kaynaklarına ulaşması sağlanır.
Avustralya, Amerika Birleşik Devletleri, Birleşik Krallık, Almanya, Hindistan, Endonezya ve Pakistan dahil olmak üzere birkaç ülkede yürüttüğümüz bir arama programı da mevcuttur. İlgili pazara özgü olarak genellikle Tehlikeli Örgüt ve Kişilerin zararlarına odaklanan terimler aratıldığında, arama yapan kişiye aşırılık riski taşıyan kullanıcılara destek hizmetleri sunma konusunda uzmanlaşmış yerel bir STK ile işbirliği içinde ek bilgi ve kaynaklar sunarız.
Topluluk Kuruluşlarına Kaynaklar Sağlama: Karşı söylem programları yürüttüklerinde onlara reklam kredileri ve stratejik destek sağlayarak, STK ortaklarımıza zararları proaktif bir şekilde önlemeleri için destek olmak üzere çalışan bir Emniyet Reklamları Programı yürütüyoruz. Bu kuruluşlarla birlikte çalışarak, Tehlikeli Örgüt ve Kişilerle mücadele için ortaklıklarımızı büyütmeyi amaçlıyoruz.

Bu çalışma devam etmektedir ve tehlikeli örgütler ve kişiler dünyada var olduğu sürece internette de var olacağını bildiğimiz için biz de tetikte olmaya devam ediyoruz. Bu gruplar hem saptama sistemlerini atlatmak hem de ilkelerimizden ve yaptırımlarımızdan kaçınmaya çalışmak için yeni taktikler benimsiyor. Biz de bu saldırgan davranış nedeniyle yaklaşımımızı değerlendirerek ve güncelleyerek sürekli olarak bir adım önde kalmaya çalışıyoruz.