Nasze podejście do Niebezpiecznych organizacji i osób

ZAKTUALIZOWANO 11 LIS 2024

Na naszej platformie nie ma miejsca dla grup ani osób promujących przemoc, przestępczość zorganizowaną, nienawiść ani terroryzm. Przez lata pracy opracowaliśmy i nadal opracowujemy zasady oraz procesy dotyczące niebezpiecznych organizacji i osób (DOI), aby zajmować się tego rodzaju treściami. Zobowiązaliśmy się do tego, by zapewniać ludziom przestrzeń do rozmowy o wydarzeniach na świecie, które wpływają na ich życie, rodziny i społeczności, natomiast celem naszych zasad jest wyznaczenie wyraźnej granicy pomiędzy tym, co jest, a co nie jest dozwolone na naszych platformach.

Nasze zasady zostały opracowane w taki sposób, by dbać o bezpieczeństwo naszych platform

Meta ma jedne z najbardziej kompleksowych zasad w branży ukierunkowanych na organizacje terrorystyczne, grupy szerzące nienawiść, zorganizowane organizacje przestępcze takie jak kartele, podmioty zachęcające do przemocy oraz sprawcy określonych wydarzeń naruszających przepisy, np. strzelanin czy ataków terrorystycznych.

Zgodnie z takimi Zasadami dotyczącymi niebezpiecznych organizacji i osób wyznaczamy i blokujemy osoby i organizacje zaangażowane w taką aktywność oraz usuwamy pochwały i wsparcie dla nich, gdy się o tym dowiemy. Wskazujemy też i blokujemy podmioty zachęcające do przemocy, które biorą udział w przygotowywaniu przyszłych aktów przemocy lub je popierają, ale które do tej pory niekoniecznie się jej dopuszczały; usuwamy pochwały i wsparcie dla nich.

Nasze zasady są ogólnodostępne i można się o nich więcej dowiedzieć z naszej strony poświęconej Standardom społeczności. Ponadto w naszych kwartalnych raportach na temat standardów społeczności na bieżąco publikujemy szczegółowe informacje o tym, ile z takich treści usuwamy.

Jak i dlaczego wyznaczamy osoby i organizacje

Nie zezwalamy, aby na platformach Meta obecne były organizacje bądź osoby, które głoszą poglądy popierające przemoc lub nienawiść lub się jej dopuszczają. Oceniamy te podmioty na podstawie ich zachowania zarówno w Internecie, jak i poza nim, a zwłaszcza ich powiązania z przemocą. Zgodnie z niniejszymi zasadami wskazujemy osoby, organizacje oraz sieci osób. Aby zapewnić bardziej skuteczne, proporcjonalne i spójne egzekwowanie zasad, podzieliliśmy wyznaczanie na dwa poziomy. Więcej o tych poziomach oraz o rodzajach organizacji, które każdy z nich obejmuje, zawierają nasze standardy społeczności.

Mamy własny skuteczny proces wewnętrzny, uwzględniający wiele źródeł informacji, który wykorzystujemy do oceny organizacji i osób do ewentualnego wyznaczenia. Opracowanie własnych definicji i procesu do wyznaczania osób i organizacji, niezależnie od regionu i ideologii, pozwala nam na skuteczną, uczciwą i aktywną ochronę naszych platform.

Takie działanie nie jest statyczne. Nieustannie oceniamy ryzyko i grupy oraz osoby do wyznaczenia na podstawie ich zachowań, zmieniających się okoliczności, nowych informacji, wewnętrznych analiz ekspertów oraz zasobów zewnętrznych interesariuszy. Na przykład zgodnie z deklaracją ze stycznia 2024 r., jeżeli wyznaczona organizacja lub osoba zmieni zachowanie, również kwalifikuje się do usunięcia z naszej listy – szczególnie wówczas gdy (1) nie jest zaklasyfikowana przez rząd USA jako Szczególnie oznaczony król handlu narkotykami” (SDNTK); Zagraniczna organizacja terrorystyczna (FTO) lub Szczególnie oznaczony globalny terrorysta (SDGT). (2) nie dopuszcza się już przemocy ani nienawiści i (3) nie jest symbolem przemocy lub nienawiści ani nie jest wykorzystywana do podżegania do przemocy ani do rozpowszechniania brutalnej lub nienawistnej propagandy.

Wysoko cenimy transparentność i nieustannie oceniamy kompromisy, ale obecnie nie udostępniamy szczegółowych informacji o naszej liście wyznaczonych, aby zminimalizować ryzyko dla bezpieczeństwa i prawne oraz w celu uniemożliwiania niebezpiecznym osobom obchodzenia mechanizmów egzekwowania prawa.

Jak egzekwujemy prawo w stosunku do Niebezpiecznych organizacji i osób

Dużo inwestujemy w ludzi, technologię, partnerstwa oraz badania na rzecz działalności zwalczającej terroryzm.

Technologie: Podchodzimy do tej przestrzeni poprzez połączenie sztucznej inteligencji i inteligencji ludzkiej – oraz inwestujemy w badania i współpracujemy z zewnętrznymi ekspertami i organizacjami, aby być na bieżąco ze zmianami w środowisku. Wykorzystujemy SI do wykrywania filmów, zdjęć, materiałów dźwiękowych, tekstu, a nawet grafik typu logotypy i przedstawienia przemocy. Udostępniamy też narzędzia open source w branży, aby pomagać partnerom w uzyskiwaniu dostępu do technologii w celu zwalczania niebezpiecznych organizacji i osób na ich własnych platformach. Na przykład w grudniu 2022 r. aby ułatwić każdej firmie w branży zachowanie platform bez treści terrorystycznych, udostępniliśmy Hasher Matcher Actioner (HMA) – bezpłatne narzędzie oprogramowaniowe open source, dzięki któremu platformy identyfikują kopie zdjęć lub filmów oraz podejmują wobec nich działania o charakterze masowym.
Osoby: Kontekst i język często są złożone, a technologia nie zawsze może odróżnić pochwałę niebezpiecznych osób i organizacji od krytycyzmu specyficznego dla danej kultury. Dlatego też Meta zainwestowała miliardy dolarów i ma grupę niemal 40 tysięcy osób, które pracują nad bezpieczeństwem. W ramach tego mamy interdyscyplinarny zespół złożony z setek osób ze specjalistyczną wiedzą od egzekwowania prawa i bezpieczeństwa narodowego po wywiad antyterrorystyczny i badania naukowe w dziedzinie radykalizacji poświęcone tym działaniom.
Partnerstwa: Dopóki szkodliwa działalność istnieje na świecie, będzie istniała w Internecie i żadna firma nie będzie umiała rozwiązać takich problemów we własnym zakresie. Dlatego właśnie tak istotne są partnerstwa z innymi podmiotami – przedsiębiorstwami, społeczeństwem obywatelskim, naukowcami i rządami. Nawiązujemy współpracę z rządami i agencjami międzyrządowymi na całym świecie oraz współdziałamy z organizacjami, które znają się na terroryzmie, brutalnym ekstremizmie, cyberwywiadzie oraz wrogich działaniach w Internecie.
- GIFCT: W 2017 r. połączyliśmy siły z YouTube, Microsoft i Twitterem, aby stworzyć Ogólnoświatowe Forum Internetowe na rzecz zwalczania terroryzmu (GIFCT), organizację utworzoną w celu uniemożliwienia terrorystom i brutalnym ekstremistom wykorzystywania platform cyfrowych. GIFCT w 2019 r. stała się niezależną organizacją pozarządową i koordynuje reakcje na sytuacje kryzysowe w branży w odpowiedzi na ataki.
- Organy ścigania: Gdy dowiemy się o konkretnym, bezpośrednim i wiarygodnym zagrożeniu życia ludzkiego, nie zawahamy się powiadomić organów ścigania. Meta współpracuje też z organami ścigania w sprawie brutalnych ataków, choć zawsze dokładnie sprawdzamy każde żądanie administracji publicznej, jakie otrzymujemy, aby mieć pewność, że jest prawnie uzasadnione i spójne z uznanymi międzynarodowo standardami dotyczącymi praw człowieka, w tym dotyczącymi należytego procesu, prywatności, swobody wyrazu oraz rządów prawa. Jeżeli stwierdzimy, że żądanie wydaje się wadliwe lub nadmierne, odrzucamy je. Więcej informacji o naszej współpracy z organami ścigania można znaleźć tutaj.
Niezależne badania: Zlecamy think tankom, naukowcom i organizacjom pozarządowym przeprowadzanie niezależnych badań na różne tematy, począwszy od brutalnych ekstremistów i wykorzystywania Internetu do celów terrorystycznych w celu pomocy naszej branży w zrozumieniu ważnych spraw oraz osiągania postępów w ich zakresie. W 2022 r. Meta ogłosiła partnerstwo badawcze z Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism w celu przeanalizowania rozwijających się trendów w obszarze brutalnego ekstremizmu oraz skutecznych narzędzi, które pomagają społecznościom w ich zwalczaniu.
Strategiczne zakłócenia sieci: Wprawdzie większość naszych działań egzekucyjnych wobec terroryzmu i zorganizowanego propagowania nienawiści pochodzi z rutynowego usuwania treści, jednak czasem to nie wystarcza. Jest to przestrzeń zagrożenia, a wyznaczone podmioty niebezpieczne czasem podejmują próby obejścia egzekwowania zasad i ponownie uruchamiają sieci na naszej platformie. Aby zwalczać takie sieci, wykorzystujemy zasadnicze podejście zwane Strategicznym zakłóceniem sieciowym (SND). SND pozwala nam na usunięcie sieci już zablokowanych niebezpiecznych osób i organizacji jednocześnie, albo gdy po raz pierwszy zostaną wyznaczone, albo w ramach naszych nieustających działań w celu utrzymania takich wyznaczonych grup poza naszą platformą. Wyłączenie takich grup w całości utrudnia ich powrót na platformę. Wysyła to też wyraźny przekaz, że jesteśmy świadomi ich obecności oraz że takie grupy nie są mile widziane na naszych platformach. Wreszcie ta technika pozwala nam na analizowanie, jak takie niebezpieczne osoby i organizacje mogą próbować obchodzić nasze systemy wykrywania oraz jak mogą próbować powrócić do naszych aplikacji po tym jak usuniemy ich konta.
- W czerwcu 2023 r. niezależne czasopismo naukowe Proceedings of the National Academy of Sciences (PNAS) opublikowało artykuł napisany przez badaczy Meta Daniela Roberta Thomasa i Lailę A. Wahedi dotyczący badania skuteczności naszej strategii SND w zakresie rozbijania grup szerzących nienawiść. Stwierdziliśmy, że taka taktyka działa – i pomaga w tworzeniu zdrowszego i bezpieczniejszego sposobu korzystania z naszych platform.

Działania zapobiegawcze

W firmie Meta zobowiązaliśmy się do utrzymania bezpieczeństwa i integralności na naszych platformach. Jednym ze sposobów na osiągnięcie tego jest zapobieganie, do czego zalicza się podejmowanie aktywnych działań w celu zapobiegania popularyzacji niebezpiecznych osób i organizacji, zanim zakorzenią się w poszczególnych społecznościach. Zalicza się do tego korzystanie z targetowanych interwencji i promowanie pozytywnej mowy. Jesteśmy przekonani, że niezbędny jest konstruktywny dialog i staramy się tworzyć środowisko, które zachęca do takich wymian.

Aby dalej wzmacniać nasze starania, aktywnie działamy z Organizacjami społeczeństwa obywatelskiego, których celem jest zwalczanie ekstremizmu, zorganizowanego propagowania nienawiści oraz działalności przestępczej. Wspieramy te organizacje, budując ich moce oraz dostarczając im niezbędnych zasobów w celu tworzenia zawartości z pozytywnym przekazem. Taka zawartość kwestionuje narrację ekstremistyczną i oferuje alternatywną perspektywę, pomagając w promowaniu bardziej pozytywnego i inkluzywnego środowiska w Internecie.

Nasze podejście do zwalczania ekstremizmu jest wielowymiarowe i aktywne, obejmuje zapobieganie, współpracę i promowanie mowy o pozytywnym nastawieniu.

Inicjatywa odporności to program, który szkoli organizacje społeczeństwa obywatelskiego w Azji, Afryce i Stanach Zjednoczonych z zakresu strategii zapobiegania brutalnemu ekstremizmowi i jego zwalczania oraz buduje ich możliwości skutecznych kampanii pozytywnego przekazu. W ramach Inicjatywy odporności Meta uruchomiła w USA partnerstwo z organizacją Search for Common Ground (SFCG) w celu wspierania partnerów społecznościowych działających lokalnie na rzecz zwalczania przemocy podsycanej nienawiścią oraz budowania odporności społecznej i społecznościowej.
Bezpieczniejsze wyszukiwania: W stosownych przypadkach przekierowujemy też osoby do zasobów, gdy wyszukują terminy powiązane z niebezpiecznymi organizacjami i osobami. Gdy użytkownicy wyszukują terminy związane z niebezpiecznymi organizacjami i osobami na Facebooku, na Instagramie i w Threads, dostarcza im się zasobów, co ma na celu zniechęcenie do wyszukiwania treści związanych z niebezpiecznymi organizacjami i osobami oraz zapewnienie użytkownikom zasobów edukacyjnych.
Uruchamiamy też w wielu krajach program wyszukiwania, w tym w Australii, Stanach Zjednoczonych, Wielkiej Brytanii, Niemczech, Indiach, Indonezji oraz Pakistanie. Jeżeli ktoś wyszukuje terminy typowe dla danego rynku, które koncentrują się na konkretnych szkodach wyrządzanych przez niebezpieczne organizacje i osoby, oferujemy im dodatkowe informacje i zasoby we współpracy z lokalnymi organizacjami społeczeństwa obywatelskiego, które specjalizują się w oferowaniu wsparcia użytkownikom zagrożonym terroryzmem.
Zapewnianie zasobów organizacjom społecznościowym: Prowadzimy też Program bezpieczeństwa reklam, który ma za zadanie wspieranie partnerów CSO w aktywnym zapobieganiu szkodom poprzez dostarczanie im środków na reklamę oraz zapewnianie wsparcia strategicznego podczas uruchamiania programów wypowiedzi z pozytywnym przekazem. Współpracując z takimi organizacjami, mamy na celu rozwijanie partnerstwa na rzecz zwalczania niebezpiecznych osób i organizacji.

Ta praca ma charakter ciągły i wiemy, że dopóki niebezpieczne organizacje i osoby będą istniały na świecie, będą też istniały w Internecie, dlatego zachowujemy czujność. Takie grupy przyjmują nowe taktyki, aby uniknąć wykrycia lub próbują unikać naszych zasad i ich egzekwowania – poprzez takie wrogie zachowania nieustająco pracujemy nad tym, by być o krok naprzód, oceniając i aktualizując nasze podejście.