Náš přístup k nebezpečným organizacím a jedincům
AKTUALIZOVÁNO 11. 11. 2024
Na naší platformě nemají místo skupiny ani jednotlivci, kteří podporují násilí, organizovaný zločin, nenávist nebo terorismus. Za léta práce jsme vyvinuli a neustále vylepšujeme zásady a postupy týkající se nebezpečných organizací a jedinců (DOI), které míří na tento typ obsahu. Naším cílem je poskytovat lidem prostor, kde můžou mluvit o tom, co se děje po celém světě a co ovlivňuje jejich životy, rodiny a komunity, ale naše zásady jsou tu právě proto, aby stanovily hranici mezi tím, co je a co není na našich platformách povolené.
Zásady máme proto, aby platforma zůstala bezpečná
Společnost Meta má v rámci odvětví zavedené jedny z nejkomplexnějších zásad cílených proti teroristickým organizacím, nenávistným skupinám, organizovaným kriminálním organizacím, jako jsou kartely, dále proti subjektům vyzývajícím k násilí a pachatelům uvedených násilných akcí, jako jsou hromadná střelba nebo teroristické útoky.
Na základě těchto Zásad týkajících se nebezpečných organizací a jedinců (DOI) označujeme a zakazujeme jednotlivce a organizace podílející se na určité činnosti, a odebíráme jejich oslavování a podporu, jakmile to zjistíme. Označujeme a zakazujeme také subjekty vyzývající k násilí, tj. subjekty, které se podílejí na přípravě nebo obhajobě budoucího násilí, ale doposud se násilí nutně nedopustily, a odebíráme i jejich oslavování a podporu.
Naše zásady jsou veřejné a podrobnosti o nich si můžete přečíst na stránce Zásady komunity. Kromě toho ve čtvrtletní zprávě o zásadách komunity pravidelně zveřejňujeme podrobnosti o tom, kolik takového obsahu odebíráme.
Jak a proč je označujeme
Na platformách společnosti Meta nepovolujeme přítomnost žádným organizacím ani jednotlivcům, jejichž cílem je šířit nenávist a násilí nebo kteří jsou zapojení do násilných aktivit. Tyto subjekty hodnotíme na základě jejich chování online i offline, ale především podle jejich vazeb na násilí. Podle těchto zásad označujeme jednotlivce, organizace a sítě lidí. Abychom zajistili efektivnější, přiměřenější a konzistentnější prosazování předpisů, rozdělili jsme označení do dvou úrovní. Víc informací o těchto úrovních a příslušných typech organizací, které do nich patří, se dočtete v zásadách komunity.
Máme vlastní spolehlivý interní postup (který bere v potaz řadu zdrojů informací), který používáme k hodnocení organizací a jednotlivců z hlediska možného označení. Tím, že jsme vyvinuli vlastní definice a postupy označování, nezávislé na lokalitě nebo ideologii, můžeme naše platformy chránit spolehlivě, férově a aktivně.
Není to statická práce. Neustále vyhodnocujeme rizika a posuzujeme skupiny a jednotlivce na základě chování, měnících se okolností, nových informací, analýz interních expertů a informací od externích subjektů, zda je třeba je označit. Příklad: Jak jsme oznámili v lednu 2024, když označená organizace nebo označený jednotlivec změní své chování, můžeme je odebrat ze seznamu. Platí to zejména tehdy, pokud je (1) neoznačí vláda USA jako Specially Designated Narcotics Trafficking Kingpin (SDNTK, speciálně označená hlava obchodu s narkotiky); Foreign Terrorist Organization (FTO, zahraniční teroristická organizace); nebo Specially Designated Global Terrorist (SDGT, speciálně označený globální terorista); (2) se přestali podílet na násilí a nenávisti; a (3) nesymbolizují násilí ani nenávist ani dále nepodněcují k násilí ani šíření násilnické nebo nenávistné propagandy.
Hluboce si vážíme transparentnosti a neustále vyhodnocujeme kompromisy, ale aktuálně nesdílíme podrobnosti seznamu označených. Důvodem je snížení bezpečnostních a právních rizik i snaha zabránit těmto nebezpečným aktérům v obcházení mechanismů pro prosazování předpisů.
Jak postupujeme proti nebezpečným organizacím a jedincům
Výrazně investujeme do lidí, technologií, partnerství i výzkumu, abychom mohli čelit činnosti DOI.
- Technologie: K této problematice přistupujeme pomocí kombinace AI a lidské inteligence, navíc investujeme do výzkumu a spolupracujeme s externími odborníky a organizacemi, abychom s měnícím se prostředím udrželi krok. AI nám pomáhá detekovat videa, obrázky, zvuky, texty i grafickou podobu log a zobrazování násilí. Pro naše odvětví také dáváme k dispozici nástroje s otevřeným zdrojovým kódem, aby na svých platformách mohli tyto technologie využívat v boji s nebezpečnými organizacemi a jednotlivci i naši partneři. Například v prosinci 2022 jsme s cílem zjednodušit všem společnostem z našeho odvětví boj proti teroristickému obsahu na jejich platformách zpřístupnili „Hasher Matcher Actioner“(HMA) – bezplatný open-sourcový softwarový nástroj, který platformám pomáhá označovat kopie obrázků a videí a hromadně proti nim zasahovat.
- Lidé: Kontext a jazyk jsou komplexní záležitosti a technologie ne vždy dokáže rozlišit oslavování nebezpečných organizací a jednotlivců od kulturně specifické kritiky. Společnost Meta proto investovala miliardy dolarů a na bezpečí a zabezpečení u ní pracuje téměř čtyřicet tisíc lidí. Této práci se věnuje mezioborový tým složený ze stovek odborníků na konkrétní oblasti, od prosazování právních předpisů a národní bezpečnosti po protiteroristické zpravodajství a akademický výzkum radikalizace.
- Partnerství: Dokud se na světě vyskytuje škodlivá aktivita, bude se vyskytovat i na internetu a žádná společnost nedokáže tyto problémy řešit sama o sobě. Spolupráce s ostatními – ať už jde o společnosti, občanskou společnost, vědce nebo vlády – je naprosto zásadní. Spolupracujeme s vládami a mezivládními agenturami po celém světě a našimi partnery jsou organizace s odbornými znalostmi v oblasti terorismu, násilného extremismu, kybernetického zpravodajství a nepřátelského chování online.
- GIFCT: V roce 2017 jsme spojili síly se společnostmi YouTube, Microsoft a Twitter a založili jsme Global Internet Forum (GIFCT, globální internetové fórum pro boj proti terorismu), organizaci, jejímž cílem je bránit teroristům a násilným extremistům ve zneužívání platforem. Z tohoto globálního internetového fóra se v roce 2019 stala nezávislá nevládní organizace, která v našem odvětví v případě útoků koordinuje krizové reakce.
- Prosazování předpisů: Když zjistíme konkrétní bezprostřední a věrohodné ohrožení lidského života, bez váhání kontaktujeme bezpečnostní složky. S bezpečnostními složkami společnost Meta také spolupracuje v souvislosti s násilnými útoky, ale každou obdrženou úřední žádost vždy pečlivě zkoumáme, abychom se ujistili, že je právně platná a v souladu s mezinárodně uznávanými lidskými právy, včetně právy na řádný proces, soukromí, svobodu projevu a právní stát. Pokud rozhodneme, že žádost vykazuje nedostatky nebo je příliš široká, vrátíme ji. O naší spolupráci s bezpečnostními složkami si můžete přečíst tady.
- Nezávislý výzkum: Think-tankům, akademikům a neziskovým organizacím zadáváme nezávislý výzkum na rozličná témata související s násilným extremismem a využitím internetu teroristy, abychom v našem odvětví těmto důležitým záležitostem lépe porozuměli a dokázali v souvislosti s nimi udělat pokrok. V roce 2022 společnost Meta informovala o výzkumném partnerství s Centrem pro terorismus, extremismus a boj proti terorismu při institutu mezinárodních studií Middlebury Institute of International Studies, jehož úkolem bylo analyzovat trendy násilného extremismu a vyvinout pro komunity účinné nástroje na jeho potírání.
- Strategické výpadky sítě: Ačkoli většinu našich kroků k prosazování předpisů proti terorismu a organizovaným nenávistným projevům představuje rutinní odebírání obsahu, někdy to nestačí. Jedná se o nepřátelský prostor a označené nebezpečné subjekty se někdy pokoušejí obejít naše způsoby prosazování předpisů a znovu si na naší platformě vytvořit sítě. V boji proti těmto sítím uplatňujeme klíčový přístup zvaný strategické výpadky sítě (SND). Strategické výpadky sítě nám pomáhají odebírat sítě už zakázaných nebezpečných organizací a jednotlivců najednou, a to buď při jejich prvotním označení nebo v rámci dlouhodobého úsilí udržet tyto označené skupiny mimo naši platformu. Když tyto skupiny zablokujeme jako celek, je pro ně návrat na platformu složitější. Vysílá jim to také jednoznačný vzkaz, že o jejich přítomnosti víme a že tyto skupiny nejsou na našich platformách vítané. Tyto techniky nám nakonec pomáhají také zkoumat, jak se nebezpečné organizace a jednotlivci pokoušejí obcházet naše systémy detekce i jak se mohou snažit vrátit do našich aplikací potom, co jsme jejich účty odebrali.
- V červnu 2023 zveřejnil nezávislý odborný časopis Proceedings of the National Academy of Sciences (PNAS)studii výzkumníků společnosti Meta Daniela Roberta Thomase a Laily A. Wahedi o účinnosti naší strategie strategických výpadků sítě v případě rozvratných nenávistných skupin. Zjistili jsme, že tato taktika funguje – a pomáhá na platformě vytvářet zdravější a bezpečnější uživatelské prostředí.
Prevence
Ve společnosti Meta jsme odhodlaní chránit bezpečnost a integritu našich platforem. Jedním ze způsobů, jak toho dosáhnout, je prevence v počátečním stadiu. Zahrnuje aktivní opatření, která zabraňují šíření nebezpečných organizací a jednotlivců předtím, než se mohou u jednotlivců nebo komunit uchytit. Součástí jsou cílené zákroky a propagace pozitivního vyjadřování. Věříme, že zásadní je konstruktivní dialog, a usilujeme o to, abychom vytvářeli prostředí, které takovou komunikaci umožňuje.
Naše snahy dále podporujeme i aktivní spoluprací s organizacemi občanské společnosti, které se věnují potírání extremismu, organizovaným nenávistným projevům a trestné činnosti. Těmto organizacím pomáháme budovat kapacity a poskytujeme jim nezbytné zdroje, aby mohly vytvářet obsah s nesouhlasnými projevy. Tento obsah zpochybňuje extremistickou rétoriku a nabízí alternativní pohledy, čímž pomáhá podporovat pozitivnější a inkluzivnější online prostředí.
Náš aktivní přístup k boji proti extremismu má mnoho podob. Kombinuje mimo jiné prevenci, spolupráci a podporu pozitivního vyjadřování.
- The Resiliency Initiative je program, který školí organizace občanské společnosti v Asii, Africe a Spojených státech v oblasti strategií kampaní na prevenci násilného extremismu a boj proti němu (P/CVE) a buduje jejich kapacitu pro efektivní kampaně s nesouhlasnými projevy. V rámci programu Resiliency Initiative spustila společnost Meta partnerství se základnou v USA Search for Common Ground (SFCG), jehož úkolem je podpora partnerů, kteří ve svých komunitách bojují proti násilí živeném nenávistí a budují společenskou a komunitní odolnost.
- Bezpečnější vyhledávání: Pokud lidé vyhledávají obsah související s nebezpečnými organizacemi a jednotlivci, nasměrujeme je ve vhodných případech také na příslušné zdroje. Když uživatelé hledají podmínky týkající se nebezpečných organizací a jednotlivců na Facebooku, Instagramu a Threads, dostane se jim místo nich jiných zdrojů, které je mají odradit od vyhledávání obsahu souvisejícího s nebezpečnými organizacemi a jednotlivci a poskytnout jim vzdělávací materiály.V některých zemích, včetně Austrálie, Spojených států amerických, Spojeného království, Německa, Indie, Indonésie a Pákistánu také spustíme vyhledávací program. Když někdo vyhledává pojmy specifické pro daný trh a typicky se zaměřuje na konkrétní škody způsobené nebezpečnými organizacemi a jednotlivci, ve spolupráci s místní organizací občanské společnosti, která poskytuje podpůrné služby pro uživatele ohrožené extremismem, mu nabídneme dodatečné informace a materiály.
- Poskytování zdrojů komunitním organizacím: Provozujeme také program reklam pro bezpečnost (Safety Ads Program). Podporuje partnery z organizací občanské společnosti, aby aktivně předcházely újmě tím, že jim poskytneme kredit na reklamu a strategickou podporu, když spustí programy s nesouhlasnými projevy. Cílem spolupráce s těmito organizacemi je posílení našich partnerství v boji proti nebezpečným organizacím a jednotlivcům.
Tato práce nekončí. Víme, že dokud na světě budou existovat nebezpečné organizace a jednotlivci, budou existovat i na internetu, musíme proto zůstat ostražití. Tyto skupiny přicházejí s novými taktikami, jak se vyhnout odhalení a snaží se obcházet naše zásady a prosazování předpisů. Toto nepřátelské chování je důvodem, proč ustavičně vyhodnocujeme a aktualizujeme náš přístup. Snažíme se být o krok napřed.