Nagy hatású tartalom pontos ellenőrzése a keresztellenőrzés rendszerének segítségével
FRISSÍTVE 2024. NOV. 12.
2022. december 6-án az Ellenőrző Bizottság közzétette a Meta keresztellenőrzési szabályzatával kapcsolatos iránymutatását. Az ajánlások teljes körű megválaszolása érdekében megállapodtunk a Bizottsággal, hogy 90 napon belül áttekintjük és megválaszoljuk az ajánlásokat. A keresztellenőrzési rendszerről további információért tekintsd meg bejegyzésünket az Átláthatósági központban.
A keresztellenőrzés áttekintése
A Facebook- és Instagram-felhasználók naponta több milliárd tartalomelemet hoznak létre. Az ilyen mértékű tartalom moderálása kihívásokat jelent, többek között a fontos értékek és célok közötti kompromisszumokat. Arra törekszünk, hogy gyorsan ellenőrizzük a potenciálisan szabálysértő tartalmakat, és eltávolítsuk őket, amennyiben sértik a szabályzatainkat. Ugyanakkor ezt a célt a felhasználók véleménynyilvánításának védelme érdekében egyensúlyba kell hoznunk az „álpozitív” eredmények (a nem szabálysértő tartalmak téves eltávolítása) kockázatával. (Itt a tartalom „eltávolítása” kifejezést általánosabb, az integritással kapcsolatos általánosabb műveletek leírására használjuk. Ide tartozhat például a figyelmeztető képernyők használata vagy az oldalak eltávolítása is.)
A Meta az említett szempontok közötti egyensúly érdekében bevezette a keresztellenőrzési rendszert, amellyel azonosítani tudja azokat a tartalmakat, amelyeknél nagyobb az álpozitív eredmények előfordulásának kockázata, és további ellenőrzési szinteket biztosít a kockázat csökkentésére. A keresztellenőrzés további ellenőrzési szinteket biztosít bizonyos, a belső rendszereink (automatikus vagy emberi ellenőrzés) által szabálysértőként megjelölt tartalmak esetében, hogy kiküszöbölje vagy minimálisra csökkentse a legnagyobb kockázatú álpozitív moderációs hibákat, amelyek máskülönben különféle tényezők – például az árnyalatok vagy a kontextus ismeretének szükségessége – miatt előfordulnának. (Itt a „tartalom” szó azokra a tartalmakra utal, amelyeket ellenőrzünk keresztellenőrzési rendszerünkben. Az ellenőrzési módszert más műveletek – például oldal vagy profil eltávolítása – felülvizsgálatára is alkalmazzuk.) Bár a keresztellenőrzés több szinten is megtörténik, az ellenőrzést végző munkatársak ugyanazokat a közösségi alapelveket alkalmazzák, amelyek a Facebookon és az Instagramon megjelenő összes többi tartalomra is vonatkoznak.
Az ellenőrzési rendszer kulcsfontosságú szerepet játszik az emberi jogok védelmében. A keresztellenőrzés rendszere vizsgálja például a konfliktusövezetekből tudósító újságírók tartalomelemeit és bejegyzéseit, valamint a közösségi vezetők gyűlölködő vagy erőszakos esetekre vonatkozó figyelemfelhívásait is. A keresztellenőrzések során figyelembe vesszük a tartalom helyes kezelését segítő kontextust. A keresztellenőrzés kiterjedhet a civil entitásokra is, amelyeknél a felhasználók fokozott érdeklődést mutatnak a vezetők kijelentései iránt.
Emellett a keresztellenőrzés fontos szerepet játszik a Meta és számos üzleti partnere közötti kapcsolat kezelésében is. Ha például tévesen távolítunk el egy nagy követőtáborral rendelkező oldal vagy profil által közzétett tartalmat, az negatív élményt okozhat mind a Meta üzleti partnereinek, mind az őket követő jelentős számú felhasználónak. Egyes különösen nagy csoportok esetében is alkalmazunk keresztellenőrzést, ahol egy hiba akár több százezer vagy több millió felhasználót is érinthet. A keresztellenőrzés nem mentesíti a Meta üzleti partnereit és a csoportokat a tartalmakra vonatkozó szabályzatunk betartásának kötelezettsége alól, de bizonyos esetekben további ellenőrzési szinteket biztosít a szabályok pontos alkalmazása érdekében.
A Facebook- és Instagram-felhasználók naponta több milliárd tartalmat tesznek közzé. Bár több ezer ember dolgozik a tartalmak ellenőrzésén világszerte, nincs lehetőség minden olyan tartalmat manuálisan ellenőrizni, amely potenciálisan sérti a közösségi alapelveinket. Az általunk eltávolított szabálysértő tartalmak többségét még azelőtt észleljük technológiai eszközeinkkel, hogy bárki jelentené. Amikor valaki tartalmat tesz közzé a Facebookon vagy az Instagramon, a technológiai eszközök ellenőrzik, hogy a tartalom sérti-e a közösségi alapelveinket. Az azonosítás a legtöbb esetben egyszerű. A bejegyzés vagy egyértelműen sérti a szabályainkat, vagy nem. Más esetekben azonban a tartalom további értékelés céljából emberi ellenőrzésre kerül.
Az elsődleges ellenőrzési rendszereink technológiai megoldások segítségével sorolják előre a nagy súlyosságú – köztük a gyorsan, vírusszerűen terjedő – tartalmakat. Amikor a rendszerek jelzik, hogy egy tartalom esetlegesen további intézkedést igényel, ellenőrzést végző munkatársainknak nehéz, és gyakran kényes döntést kell hozniuk arról, hogy a tartalom fent maradhat-e a platformon. Bár mindig a helyes döntésre törekszünk, tudatában vagyunk annak, hogy előfordulhatnak álpozitív esetek, amikor olyan tartalmak kerülhetnek eltávolításra a Meta szabályainak megsértése miatt, amelyek valójában nem sértik a szabályokat. A Meta ezért befektetett a hibák elkerülésébe, hogy tovább vizsgálja és mérsékelje az álpozitív eseteket. A keresztellenőrzés is az egyik ilyen hibaelkerülési stratégia.
A keresztellenőrzés egy olyan rendszer, amely segít biztosítani a pontos szabálybetartatási döntések meghozatalát, és további emberi ellenőrzési szinteket alkalmaz. Ha keresztellenőrzés során egy ellenőrzést végző munkatárs megerősíti, hogy az adott tartalom ellentétes a közösségi alapelveinkkel, érvényesítjük a vonatkozó szabályokat, és megtesszük a szükséges lépéseket. A tartalom összetettségétől függően többszintű ellenőrzést is alkalmazhatunk, némely esetekben akár a vezetőség általi ellenőrzést is. Ha a végső ellenőrzést végző személy megállapítja, hogy a kérdéses tartalom nem sérti a közösségi alapelveinket, felülbírálhatja az eredeti döntést, és a tartalom továbbra is elérhető lehet a platformon.
A keresztellenőrzés korábbi gyakorlata
A most keresztellenőrzésként ismert rendszert elsőként 2013-ban vezettük be. A rendszer az évek során változott, és ahol lehetséges, dátumokkal és dátumtartományokkal jeleztük, hogy mikor történtek ezek a változtatások.
Annak meghatározására, hogy milyen tartalmak vagy entitások esetében alkalmaztunk keresztellenőrzést, csapataink azonosították és összeállították azoknak a felhasználóknak vagy entitásoknak a listáját, akiknél nagyobb kockázatot jelentettek az álpozitív intézkedések. Az „álpozitív találat kockázata” az olyan tartalmakkal vagy entitásokkal szembeni téves intézkedés kockázatára utal, amelyek valójában nem sértik a közösségi alapelveinket. Az álpozitív találat magasabb kockázatát hordozó felhasználók és entitások azonosítása érdekében a csapataink különféle kritériumokat vettek figyelembe, köztük a felhasználó vagy entitás típusát (pl. választott tisztviselő, újságíró, jelentős üzleti partner, emberi jogi szervezet), a követők számát, valamint az entitás tárgyát. (Az „entitás” általános fogalom, amely a tartalom lehetséges forrását vagy megjelenésének helyét jelöli – például felhasználói fiók, oldal vagy csoport.)
Ha az ezen listákon szereplő felhasználók vagy entitások olyan tartalmat tettek közzé, vagy olyan műveletet hajtottak végre, amelyet a rendszereink potenciálisan szabályellenesnek jelöltek meg, a tartalom vagy entitás a keresztellenőrzési listára kerül.
2020-tól kezdődően változtatásokat vezettünk be, és az ellenőrzése váró tartalmak többségét kockázati keretrendszer alapján rangsoroljuk. Ez a rendszer meghatározza, mekkora valószínűséggel minősülhet az adott tartalom álpozitívnak, amennyiben a Meta tévesen távolítja el. Ez a kockázati keretrendszer általánosságban három tényezőt vett figyelembe: (1) az entitás érzékenysége, (2) a vélt szabálysértés súlyossága, illetve (3) a potenciális szabálybetartatási intézkedés súlyossága.
Jelenlegi keresztellenőrzési gyakorlatok
Minden egyéb szabályunkhoz és eljárásunkhoz szüntelenül keressük a fejlesztési lehetőségeket, és folyamatosan hajtunk végre változtatásokat. Idén korábban már további lehetőségeket azonosítottunk a keresztellenőrzési rendszer fejlesztésére. Az egyik strukturális változtatásunknak köszönhetően a keresztellenőrzési rendszer most már két összetevőből áll: az általános másodlagos ellenőrzésből (General Secondary Review, GSR) és a kényes entitásokra irányuló másodlagos ellenőrzéséből (Sensitive Entity Secondary Review, SSR). Jóllehet bizonyos felhasználók és entitások adott százalékánál továbbra is a fent említett, listán alapuló megközelítést alkalmazzuk a kényes entitásokra irányuló másodlagos ellenőrzésbe történő bevonáshoz, az általános másodlagos ellenőrzésnél azonban annak biztosításán dolgozunk, hogy a Facebookon és az Instagramon jelen lévő felhasználók és entitások tartalmai keresztellenőrzés alá vonhatók legyenek egy dinamikus priorizálási rendszer, az ún. „keresztellenőrzési rangsoroló” alapján.
Az általános másodlagos ellenőrzésben szerződéses ellenőrök és saját regionális csapatunk tagjai vesznek részt, akik másodlagos ellenőrzést végeznek a szabályainkat vélhetően sértő tartalmakon vagy entitásokon, mielőtt szabálybetartatási műveletre kerülne sor. Ez az ellenőrzés nem kizárólag a felhasználó vagy entitás személyazonosságára támaszkodik annak meghatározásához, hogy mely tartalmak kerülnek keresztellenőrzésre. A keresztellenőrzési rangsoroló az álpozitív találat kockázata alapján rangsorolja a tartalmat különféle kritériumok mentén, például a témakör érzékenysége (mennyire felkapott/kényes a téma), a szabálybetartatás súlyossága (a lehetséges betartatási művelet súlya), az álpozitivitás valószínűsége, a várt elérés, valamint az entitás kényes volta alapján (főként az összeállított listákra támaszkodva, a fentebb leírtaknak megfelelően). A keresztellenőrzési rangsorolót a keresztellenőrzések többségénél már jelenleg is használjuk.
A kényes entitásokra irányuló másodlagos ellenőrzés a keresztellenőrzés korábbi rendszeréhez hasonlít. A kényes entitásokra irányuló másodlagos ellenőrzésben részt vevő tartalmak, illetve entitások meghatározásához továbbra is vezetünk listákat azokról a felhasználókról és entitásokról, amelyek esetében a szabálybetartatási lépések további keresztellenőrzésen esnek át, amennyiben a rendszer megjelölése szerint potenciálisan sértik a közösségi alapelveinket. Ugyanakkor a listák összeállításának és felülvizsgálatának folyamatához szabályozási mechanizmusokat is bevezettünk. 2020 szeptemberéig a legtöbb alkalmazottnak lehetősége volt felvenni egy felhasználót vagy entitást a keresztellenőrzési listára. 2020 szeptemberét követően ugyan bármely munkatársunk kérheti adott felhasználó vagy entitás felvételét a keresztellenőrzési listákra, csupán munkatársaink egy kijelölt csoportja rendelkezik listabővítési jogosultsággal.
A kényes entitásokra irányuló másodlagos ellenőrzés listájának kezeléséért jelenleg a globális működési szervezetünk felelős, amelynek munkáját a jogi és partnerkapcsolati csapataink szakértelmükkel és tapasztalataikkal támogatják. Bár a globális működésért felelős csapatunk jelentési struktúrája elkülönül a Meta közcélú szabályozásért felelős csapatétól, a keresztellenőrzési döntések kapcsán kikérik a közcélú szabályozásért felelős csapat véleményét – ahogyan számos tartalommoderálási területen a vállalatnál. Ezekben az esetekben a működésért felelős csapatunk a helyi és kulturális perspektívák javítása érdekében felhasználhatja a Meta közcélú szabályozási csapatának tudását, valamint regionális szakértőink és nyelvfüggetlen szakvéleményezőink szakértelmét. Ezek a különálló jelentési struktúrák segítenek biztosítani, hogy az ellenőrzés politikai vagy gazdasági befolyástól függetlenül történjen. A listák relevanciájának és megfelelőségének fenntartása érdekében kialakítottunk egy gondos éves felülvizsgálati folyamatot is, amelynek keretében ellenőrizzük, hogy a kényes entitásokra irányuló másodlagos ellenőrzési listákon szereplő entitások továbbra is jogosultak-e a listákon való szereplésre. Ezt a folyamatot időről időre finomítjuk.
Az elmúlt hónapokban a Meta naponta átlagosan több ezer keresztellenőrzött álláslehetőséget vizsgált meg, ezek többségét az általános másodlagos ellenőrzés keretében. (A közösségi alapelveink megsértése miatt megjelölt és szankcionált napi több millió tartalomelemnek ez csupán csekély hányada.) A kényes entitásokra irányuló másodlagos ellenőrzések jelenleg csak ezen napi ellenőrzések kisebbik részét teszik ki. Várakozásaink szerint az általános másodlagos ellenőrzés prioritásai miatt 2021 végéig és 2022 elejéig továbbra is változások lesznek tapasztalhatók a keresztellenőrzési feladatok számában.
Ha egy tartalmi elem olyan egyéntől vagy entitástól származik, amely része egy kényes entitásra irányuló másodlagos ellenőrzésnek, azt jellemzően saját helyi regionális csapatunk ellenőrzi először. Az eszkalációs csapat ezt követően végez ellenőrzést, és megvizsgálja, hogy a tartalom valóban sérti-e a szabályainkat. Ha a regionális csapat megállapítja, hogy a tartalom nem sérti a szabályzatunkat, az eszkalációs csapat általában nem ellenőrzi az esetet. Ha egy tartalmi elem a keresztellenőrzési rangsoroló által priorizált egyéntől vagy entitástól származik, akkor azt rendszerint szerződéses partnerek vagy regionális csapataink ellenőrzik, hacsak nem áll rendelkezésre ellenőrzési kapacitás az eszkalációs csapatnál. A korábbi keresztellenőrzéshez hasonlóan a sokrétűen összetett problémák további ellenőrzésen eshetnek át, amelyet ritka esetben akár a vezetőség is végezhet. Ha a végső ellenőrzés során arra a megállapításra jutunk, hogy a tartalom sérti a közösségi alapelveinket, eltávolítjuk. Ha az ellenőrzésünk eredménye szerint a tartalom nem szabályellenes, nem távolítjuk el.
2021. október 16-ai állapot szerint hozzávetőleg 660 000 felhasználó és entitás esetében került sor olyan műveletre, amely kényes entitásra irányuló másodlagos ellenőrzést igényel, a fentebb említett listákon való szereplés okán. Ez a szám rendszeresen változik, mivel a felvételre vonatkozó kritériumok változása alapján felhasználókat és entitásokat adunk hozzá vagy távolítunk el a fent említett listákról. A kényes entitásra irányuló másodlagos ellenőrzés feltételeinek megfelelő felhasználók és entitások közé tartoznak többek között a következők:
Eszkalációval kapcsolatos válaszokhoz vagy nagy kockázatú eseményekhez kapcsolódó entitások Jelenleg egy informális folyamat keretében a magas kockázatú eseményekre felkészülő csapatok azonosítják azokat az entitásokat, amelyeknél fennáll a túlzott szabálybetartatás kockázata. Ha például egy felhasználó ellentmondásos tartalma vírusszerűen terjed (például a rendőri erőszakot ábrázoló élő videó), azonosíthatjuk az érintett felhasználót a kényes entitásra irányuló másodlagos ellenőrzés keretében, hogy elkerüljük a téves eltávolítást.
A jogi megfelelőség céljából felvett entitások Kényes entitásra irányuló másodlagos ellenőrzést végzünk bizonyos esetekben a jogi vagy egyéb szabályozási követelmények teljesítése érdekében.
Közismert közszereplők és közzétevők Azért azonosítjuk a kényes entitásra irányuló másodlagos ellenőrzés hatálya alá tartozó entitásokat, mert a túlzott mértékű szabálybetartatási műveletek negatív élményt jelenthetnek a felhasználók jelentős részének.
Perifériára szorult közösségek Azonosítjuk többek között azokat az emberi jogi jogvédőket és politikai menekülteket, akikről úgy gondoljuk, hogy esetleg az állam által támogatott vagy más ellenséges zaklatás, brigading (más néven tömeges bejelentés) áldozatává válhatnak, hogy megvédhessük őket az ilyen támadásoktól.
Közösségi szervezetek A politikusok, kormányzati tisztviselők, intézmények, szervezetek, érdekképviseleti csoportok és a közéletben nagy befolyással rendelkező szereplők azonosításához objektív kritériumokat követünk, valamint a helyi szabályozási csapataink szakértelmére támaszkodunk. Ezeket az entitásokat kényes entitásokra irányuló másodlagos ellenőrzés alá vonjuk olyan hibák megelőzése érdekében, amelyek korlátoznák a szabályokat nem sértő politikai beszédet, és akaratlanul is visszavetnék a közösségi párbeszédet olyan témakörökben, mint a választások, a közérdek vagy a társadalmi kérdések. Arra törekszünk, hogy egyenlő feltételeket teremtsünk egy ország közösségi szervezetei között – ha például bevonunk egy minisztériumot a kényes entitásokra irányuló másodlagos ellenőrzésbe, akkor az adott ország kormányának összes minisztériumát bevonjuk.
Vállalkozások A bevétel védelme és a platformunkba vetett hosszú távú bizalom erősítése érdekében azonosítjuk a nagy értékű hirdetőket, valamint azokat, akik a szabályok túlzott betartatását tapasztalták.
Jelenleg is vizsgáljuk, hogyan lehet javítani az olyan entitások azonosítására szolgáló kritériumokat, amelyeknek át kellene esniük kényes entitásokra irányuló másodlagos ellenőrzésen. Vizsgáljuk például a kritériumok módosítását olyan területeken, mint a követők száma, a korábbi téves riasztások száma, a jogi/szabályozói követelmények, valamint a fontos politikai/társadalmi kérdések. A felhasználók ezen az űrlapon keresztül kérhetik, hogy ne szerepeljenek a kényes entitásokra irányuló másodlagos ellenőrzési listán. A Meta nem erősíti meg, hogy a felhasználók szerepelnek-e ezeken a listákon, vagy hogy eltávolításra kerültek-e onnan. Meggyőződésünk szerint azonban a felhasználók magánszférájának védelme kiemelten fontos, ezért minden kérést a lehető leghamarabb megvizsgálunk.
A keresztellenőrzési rendszerünk két összetevője mellett egy belső hibamegelőző rendszerünk is van, az ún. dinamikus többszörös ellenőrzés (Dynamic Multi Review, DMR). Ez a rendszer lehetővé teszi számunkra, hogy az ellenőrzött eseteket visszaküldjük újraellenőrzésre, hogy többségi döntést hozhassunk (pl. ha az ellenőrzést végzők többsége egyetért a döntésben, az eset lezárul), így nagyobb biztonsággal állíthatjuk, hogy helyes volt a döntés. Ezzel a rendszerrel javítjuk az emberi ellenőrzés minőségét és pontosságát, és csökkentjük a helytelen döntések kockázatát azáltal, hogy a végső döntés meghozatalához szükséges ellenőrzések számát különböző tényezők – például a vírusszerű terjedés, a megtekintések száma, valamint az ártalmas közreműködés (pl. a szexuális kizsákmányolásra vonatkozó szabályaink vagy a veszélyes személyekre és szervezetekre vonatkozó szabályaink potenciális megsértése) – alapján igazítjuk.
Jövőbeni átláthatósági beavatkozások a keresztellenőrzés kapcsán
Az Ellenőrző Bizottság 2022. decemberi, a keresztellenőrzéssel kapcsolatos szabályzatra vonatkozó iránymutatási kérésünkről hozott döntésére válaszként elköteleztük magunkat számos átláthatósági beavatkozás mellett, a hibák megelőzése érdekében. Ezek a beavatkozások a következők:
Rendszerezett és szoros együttműködés a vállalat belső emberi és polgári jogi csapataival, megbízható partnereivel, valamint más külső civil szervezetekkel annak feltérképezésére, hogy miként lehet megalapozni a keresztellenőrzési listák összeállításához használt, közérdekű entitások azonosítására szolgáló kritériumokat.
A globális, regionális és helyi civil társadalmi csoportok által javasolt, formálisabb keresztellenőrzési lista kidolgozása.
Minőségi ellenőrzési és képzési erőforrásokra fordított beruházások folyamatos megvalósítása, hogy ahol lehetséges, az összes keresztellenőrzési döntésen olyan ellenőrző munkatársak dolgozhassanak, akik beszélik a nyelvet és regionális szakértelemmel rendelkeznek.
Robusztus szolgáltatási szintű megállapodások (SLA-k) bevezetése az ellenőrzési döntések kapcsán a hibamegelőzési rendszereinkben, aminek révén optimalizálhatjuk a jelenlegi ellenőrzési munkatársi modellünket a lehető leggyorsabb nyelvspecifikus ellenőrzés érdekében.
Bár jelentős fejlesztéseket hajtottunk végre a keresztellenőrzési rendszerben, továbbra is keressük a megfelelő módszereket annak biztosítására, hogy ez a rendszer megfelelő egyensúlyt teremtsen a céljaink között: eltávolítani a közösségi alapelveinket sértő tartalmakat, és egyúttal minimalizálni a legsúlyosabb hatású szabálybetartatási hibák számát.