Veszélyes szervezetekkel és magánszemélyekkel kapcsolatos megközelítésünk
FRISSÍTVE 2024. NOV. 11.
A platformunkon nincs helye olyan csoportoknak, illetve egyéneknek, akik az erőszakot, a szervezett bűnözést, a gyűlöletet vagy a terrorizmust népszerűsítik. Éveken át tartó munkával kidolgoztuk – és továbbra is fejlesztjük – a veszélyes magánszemélyekre és szervezetekre vonatkozó szabályainkat és eljárásainkat az ilyen jellegű tartalmakra való reagálás érdekében. Miközben elkötelezettek vagyunk amellett, hogy teret biztosítsunk az embereknek az életüket, a családjukat és a közösségeiket érintő, világszerte zajló események megtárgyalására, szabályunk szerepe az, hogy kijelölje a határvonalat a platformjainkon megengedett, illetve nem megengedett dolgok között.
Szabályaink a platformjaink biztonságának megőrzésére szolgálnak
Az ágazatban a Meta rendelkezik az egyik leginkább teljes körű szabályzattal, amely a terrorszervezetekkel, a gyűlöletkeltő csoportokkal, a szervezett bűnözői csoportokkal (például a kartellekkel), az erőszakra buzdító entitásokkal, illetve a veszélyesként megjelölt szabálysértő erőszakos események (például lövöldözés vagy terrortámadás) elkövetőivel foglalkozik.
Ezen veszélyes szervezetekkel és magánszemélyekkel kapcsolatos szabály hatálya alatt megjelöljük és letiltjuk a cselekményekben részt vevő egyéneket és szervezeteket, továbbá eltávolítjuk a dicsőítésüket vagy támogatásukat szolgáló tartalmakat, amint értesülünk ilyenről. Emellett megjelöljük és letiltjuk az erőszakra buzdító entitásokat is – azaz olyan entitásokat, amelyek részt vesznek későbbi erőszakos cselekmények előkészítésében vagy helyeslésében, miközben korábban nem feltétlenül követtek el erőszakos cselekményt –, továbbá eltávolítjuk a dicsőítésüket, illetve támogatásukat szolgáló tartalmakat is.
A szabályaink nyilvánosan elérhetők, további vonatkozó részleteket pedig a Közösségi alapelveink oldalán olvashatsz. Emellett A közösségi alapelvek betartatásával kapcsolatos negyedéves jelentésünkben rendszeresen teszünk közzé adatokat arra vonatkozóan, hogy mennyi ilyen tartalmat távolítunk el.
A megjelölések menete és indoka
Nem engedélyezzük olyan szervezetek, illetve magánszemélyek jelenlétét a Meta platformjain, amelyek/akik erőszakos vagy gyűlölettől vezérelt küldetést hirdetnek, vagy erőszakos tevékenységben vesznek részt. Ezeket az entitásokat mind online, mind offline viselkedésük alapján vizsgáljuk, leginkább az erőszakhoz kapcsolódó viszonyuk szempontjából. E szabályunk alapján besoroljuk a magánszemélyeket, a szervezeteket, illetve az emberekből álló hálózatokat. A hatékonyabb, arányosabb és következetesebb szabálybetartatás garantálása érdekében a megjelöléseket két szintre osztottuk. Ezekről a szintekről, valamint az egyes szintekhez sorolt szervezettípusokról további részleteket is megtudhatsz a közösségi alapelveinkből.
Saját, nagy teljesítményű – számos információforrást figyelembe vevő – belső folyamatot használunk a szervezetek és magánszemélyek kiértékeléséhez az esetleges megjelölés szempontjából. A megjelöléshez saját, földrajzi régiótól és ideológiától független definíciókat és eljárásokat dolgoztunk ki, ez pedig lehetővé teszi számunkra a platformjaink hathatós, méltányos és proaktív védelmének biztosítását.
Ez a feladat nem statikus. Folyamatosan elemezzük a kockázatokat, továbbá vizsgáljuk a csoportok és a magánszemélyek megjelölésének szükségességét a viselkedésük, a körülmények változása, az új információk, a belső szakértői elemzések és a külső érintettektől érkező ismeretek alapján. Például a 2024 januárjában tett bejelentésünknek megfelelően, ha egy megjelölt szervezet vagy magánszemély megváltoztatja viselkedését, jogosulttá válik a listánkról való törlésre – különösen akkor, ha (1) az Egyesült Államok kormánya nem sorolta be „Specially Designated Narcotics Trafficking Kingpin” (SDNTK – külön megjelölt, jelentős illegális narkotikumkereskedő), „Foreign Terrorist Organization” (FTO – külföldi terroristaszervezet) vagy „Specially Designated Global Terrorist” (SDGT – külön megjelölt globális terrorista) megjelölésű kategóriába; (2) többé nem vesz részt erőszakos vagy gyűlöletkeltő tevékenységben; továbbá (3) nem képviseli szimbolikusan az erőszakot és a gyűlöletet, illetve nem használatos arra, hogy általa további erőszakra ösztönözzenek, sem arra, hogy erőszakos vagy gyűlöletkeltő propagandát terjesszenek.
Bár kifejezetten értékesnek tartjuk az átláthatóságot, és folyamatosan vizsgáljuk a kompromisszumokat, jelenleg nem tesszük közzé a megjelölési listánk részleteit annak érdekében, hogy mérsékelni tudjuk a biztonsági és jogi kockázatokat, valamint meggátolhassuk, hogy ezek a veszélyes szereplők megkerülhessék a szabálybetartatási mechanizmusainkat.
A veszélyes szervezetekkel és magánszemélyekkel kapcsolatos szabályaink betartatásának menete
Komoly személyzeti, technológiai, partnerségi és kutatási befektetéseket eszközölünk annak érdekében, hogy sikerrel lépjünk fel a veszélyes szervezetekkel és magánszemélyekkel összefüggő tevékenységekkel szemben.
- Technológia: Ehhez a területhez a mesterséges intelligencia és az emberi intelligencia kombinációjának használatával közelítünk – emellett befektetünk a kutatásba, továbbá külső szakértőkkel és szervezetekkel működünk együtt, hogy mindig naprakészek lehessünk ebben a folyton változó környezetben. Mesterséges intelligenciát használunk videók, képek, hangok, szövegek, sőt ábrák (például logók) és erőszak-ábrázolások észleléséhez. Nyílt forráskódú eszközöket is elérhetővé teszünk az ágazatban, hogy hozzásegítsük a partnereinket a megfelelő technológiához, amellyel saját platformjaikon harcolhatnak a veszélyes szervezetek és magánszemélyek ellen. 2022 decemberében például segítettünk az ágazat összes vállalatának abban, hogy a platformjaik mentesek maradjanak a terroristákhoz kapcsolódó tartalmaktól: elérhetővé tettük a „Hasher Matcher Actioner” (HMA) eszközt – ez egy ingyenesen használható, nyílt forráskódú szoftvereszköz, amely segít a platformoknak a képek, illetve videók másolatainak azonosításában, és a rájuk vonatkozó szabálybetartatási műveletek tömeges végrehajtásában.
- Emberek: A kontextus és a nyelv gyakran összetett dolog, és a technológia nem mindig képes megkülönböztetni egy veszélyes szervezet vagy magánszemély dicsőítését a kultúraspecifikus kritizálásától. Éppen ezért a Meta több milliárd dollárt fektetett be a biztonsági megoldásokba, és közel 40 ezer munkatársa dolgozik ezen a területen. Ezen belül egy szerepkörökön átívelő, több száz fős csapatunk foglalkozik ezzel a feladattal, amelynek tagjai különféle szakterületekről érkeztek – a bűnüldözéstől és a nemzetbiztonságtól a terrorelhárítási információszerzésig és a radikalizálódás tudományos vizsgálatáig.
- Partneri együttműködések: Amíg előfordul kártékony tevékenység a világon, addig az jelen lesz az interneten is, és egyetlen vállalat sem képes egymagában megoldani ezeket a problémákat. Ezért létfontosságúak a másokkal – vállalatokkal, civil szervezetekkel, kutatókkal és kormányokkal – kötött partneri megállapodások. Világszerte felvesszük a kapcsolatot kormányokkal és kormányközi szervezetekkel, illetve partneri megállapodást kötünk a terrorizmus, az erőszakos szélsőségesség, a kiberfenyegetés-elhárítás és az ellenséges online viselkedés terén szakértelemmel rendelkező szervezetekkel.
- GIFCT: Összefogtunk, és 2017-ben a YouTube-bal, a Microsofttal és a Twitterrel közösen létrehoztuk a „Global Internet Forum to Counter Terrorism” (GIFCT) nevű szervezetet, amelynek célja, hogy meggátolja a terroristákat és az erőszakos szélsőségeseket a digitális platformok funkcióinak kihasználásában. A GIFCT független nem kormányzati szervezetté alakult 2019-ben, és támadások esetén a krízishelyzeti reakciók koordinálását végzi az ágazaton belül.
- Bűnüldöző szervek: Amint tudomásunkra jut egy emberéletet fenyegető konkrét, közelgő és hitelt érdemlő veszély, haladéktalanul értesítjük a bűnüldöző szerveket. A Meta együttműködik a bűnüldöző szervekkel erőszakos támadások esetén is, jóllehet minden kormányzati megkeresést alaposan megvizsgálunk, hogy meggyőződjünk annak törvényességéről és a nemzetközileg elfogadott emberi jogi normáknak való megfeleléséről, beleértve a jogszerű eljárás, az adatvédelem, a kifejezés szabadsága és a jogállamiság követelményeit. Ha úgy találjuk, hogy adott megkeresés hiányos vagy túlságosan általános, elutasítjuk. A bűnüldöző szervekkel folytatott együttműködésünk további részleteiről itt olvashatsz.
- Független kutatás: Független kutatásokat rendelünk meg kutatóközpontoktól, egyetemektől és nem kormányzati szervezetektől különféle témákban – például az erőszakos szélsőségesek és a terroristák internethasználatával kapcsolatban – annak érdekében, hogy az ágazatunk szereplői jobban ismerjék ezeket a fontos problémákat, és előrelépést tudjanak tenni. 2022-ben a Meta bejelentette, hogy partneri megállapodást kötött a Middlebury Institute of International Studies’Center on Terrorism, Extremism, and Counterterrorism központtal az erőszakos szélsőségesség változó trendjeinek elemzéséhez, valamint azoknak az eszközöknek a vizsgálatához, amelyek segítségével a közösségek harcolni tudnak ellene.
- Stratégiai hálózatkiiktatás: Bár a terrorizmus és a szervezett gyűlöletkeltés elleni szabálybetartatásunk java része rutinszerű tartalomeltávolításból áll, bizonyos esetekben ez nem elégséges. Ellenséges térről van szó, és a megjelölt veszélyes entitások időnként megkísérlik megkerülni a szabálybetartatási folyamatainkat, és újra felépíteni a hálózataikat a platformunkon. Az ezen hálózatok elleni harc részeként a kulcsfontosságú Strategic Network Disruption (SND), azaz a stratégiai hálózatkiiktatás megközelítést alkalmazzuk. Az SND lehetővé teszi számunkra, hogy egyetlen lépésben eltávolítsuk a már letiltott veszélyes szervezetek, illetve magánszemélyek hálózatát akár az első megjelölésükkor, akár azon folytonos munkánk részeként, amellyel igyekszünk távol tartani ezeket a megjelölt csoportokat a platformjainktól. Ezen hálózatfürtök maradéktalan kiiktatása megnehezíti a tagjaik számára, hogy visszatérjenek a platformra. Ez egyben világos üzenet is, hogy tisztában vagyunk a jelenlétükkel, és az ilyen csoportokat nem látjuk szívesen a platformjainkon. Végezetül pedig ez a technika lehetőséget biztosít számunkra annak tanulmányozására is, hogy ezek a veszélyes szervezetek és magánszemélyek miként próbálkoznak az észlelési megoldásaink megkerülésével, és miként kísérelnek meg visszatérni az alkalmazásainkba, miután eltávolítottuk a fiókjaikat.
- 2023 júniusában egy független tudományos folyóirat, a Proceedings of the National Academy of Sciences (PNAS) közzétette a Meta kutatói, Daniel Robert Thomas és Laila A. Wahedi által írt tanulmányt, amely az SND-stratégiánk hatékonyságát tárgyalta a gyűlöletkeltő csoportok visszaszorítása terén. Úgy találtuk, hogy a taktika működik – egyben segíti az egészségesebb és biztonságosabb felhasználói élmény kialakítását a platformjainkon.
Megelőzést célzó munka
Mi a Metánál elkötelezettek vagyunk a platformjaink biztonságának és integritásának megőrzése mellett. Az egyik módszer ennek elérésére a beáramlás felőli megelőzés, amelynek részét képezik proaktív intézkedések a veszélyes szervezetek és magánszemélyek terjesztésének kiküszöbölésére még azelőtt, hogy azok gyökeret verhetnének az egyének vagy a közösségek világában. Ilyen intézkedés például a célzott beavatkozás, illetve a pozitív véleménykifejezés népszerűsítése. Hiszünk abban, hogy az építő jellegű párbeszéd létfontosságú, és törekszünk egy olyan környezet kialakítására, amely ösztönzi az ilyen eszmecserét.
Az erőfeszítéseink további előmozdítása érdekében aktívan együttműködünk civil társadalmi szervezetekkel, amelyek elkötelezettek a szélsőségesség, a szervezett gyűlöletkeltés és a törvénysértő tevékenységek elleni küzdelem mellett. Támogatjuk ezeket a szervezeteket a kapacitásaik bővítésén keresztül, valamint azzal, hogy biztosítjuk számukra a válaszbeszédet hordozó tartalmak létrehozásához szükséges információforrásokat. Az ilyen tartalom vitatja a szélsőséges narratívákat, és alternatív szempontokat kínál, ami segít előmozdítani a pozitívabb, befogadó online környezetet.
A szélsőségesség visszaszorításával kapcsolatos megközelítésünk többelemű és proaktív – a megelőzésnek, az együttműködésnek és a pozitív véleménykifejezés népszerűsítésének kombinációját alkalmazva.
- A Resiliency Initiative program civil társadalmi szervezeteknek tart felkészítést Ázsiában, Afrikában és az Egyesült Államokban az erőszakos szélsőségesség megelőzésére, illetve az azzal szembeni fellépésre szolgáló kampánystratégiákból, és fejleszti kapacitásaikat a hatékony válaszbeszédkampányok érdekében. A Resiliency Initiative részeként a Meta az Egyesült Államokban partnerségi megállapodást kötött a Search for Common Ground (SFCG) szervezettel olyan közösségi partnerek támogatására, akik helyben dolgoznak a gyűlöletből táplálkozó erőszak ellen, és erősítik a társadalmi és közösségi ellenálló képességet.
- Biztonságosabb keresések: Emellett – megfelelő helyzetekben – információforrások felé irányítjuk a felhasználókat, ha veszélyes szervezetekkel és magánszemélyekkel kapcsolatos kifejezésekre keresnek rá. Ha a felhasználók veszélyes szervezetekkel és magánszemélyekkel kapcsolatos kifejezésre keresnek rá a Facebook, az Instagram vagy a Threads rendszerében, találatként információforrásokat kapnak – ez segít eltéríteni őket a veszélyes szervezetekkel és magánszemélyekkel kapcsolatos tartalmaktól, és tájékozódási forrásokat kínál nekik.Keresési programokat is futtatunk néhány országban, köztük Ausztráliában, az Egyesült Államokban, az Egyesült Királyságban, Németországban, Indiában, Indonéziában és Pakisztánban. Ha valaki az egyes piacokra jellemző kifejezésekre keres rá, és általában meghatározott, a veszélyes szervezetekhez és magánszemélyekhez kapcsolható ártalmakra összpontosít, akkor további információt és ismeretforrásokat ajánlunk neki valamely olyan helyi civil társadalmi szervezet segítségével, amelynek szakterülete a szélsőségességre hajlamos felhasználóknak nyújtott segítség.
- Információforrások biztosítása közösségi szervezeteknek: Szintén fut a „Safety Ads” nevű programunk, amely támogatja civil társadalmi szervezet partnereinket abban, hogy proaktívan megelőzzék a károkat – ehhez hirdetési jóváírást és stratégiai támogatást kapnak a válaszbeszédprogramjaik végrehajtásakor. Az ezekkel a szervezetekkel folytatott együttműködésünk célja, hogy fejlesszük partneri kapcsolatainkat a veszélyes szervezetekkel és magánszemélyekkel kapcsolatos tartalmak elleni küzdelemhez.
Ez folyamatos feladat, és tisztában vagyunk azzal, hogy amíg léteznek veszélyes szervezetek és magánszemélyek a világon, addig jelen lesznek az interneten is, éppen ezért mindig éberek maradunk. Ezek a csoportok új taktikákat alkalmaznak az észlelés elkerülése érdekében, és megkísérlik kijátszani a szabályainkat és a szabálybetartatási megoldásainkat. Emiatt az ellenséges viselkedés miatt dolgozunk azon folyamatosan, hogy mindig egy lépéssel előrébb járjunk, és kiértékeljük és átdolgozzuk a megközelítésünket.