Jak oceniamy globalne zagrożenia i się na nie przygotowujemy
ZAKTUALIZOWANO 29 KWI 2024
Meta nieustannie ocenia ryzyko powstania bezpośredniej szkody w sytuacjach krytycznych, abyśmy mogli reagować ukierunkowanymi, ograniczonymi czasowo działaniami dotyczącymi zasad i produktów, gwarantującymi bezpieczeństwo użytkownikom. W ramach tego podejścia badamy potencjalne zagrożenia przed wydarzeniami lokalnymi, regionalnymi i krajowymi, w tym wyborami, a także w ich trakcie.
W odpowiedzi na wydarzenia o wysokim stopniu ryzyka Meta stosuje różne podejścia, które mogą obejmować szereg scenariuszy, na przykład zmianę lub ograniczenie funkcji produktów, wprowadzenie limitów częstotliwości wysyłania wiadomości czy ograniczenie dystrybucji treści.
Potencjalnie szkodliwe trendy identyfikujemy, gromadząc informacje z publicznych raportów, sprawdzając rekomendacje naszych zaufanych partnerów, obserwując na bieżąco trendy dotyczące treści, prowadząc analizy due diligence przestrzegania praw człowieka oraz uwzględniając oceny naszych zespołów ds. analizy informacji. Informacje te, wraz z obowiązującymi Standardami społeczności i systemami egzekwowania zasad, pomagają nam w wyborze produktów i zasad ograniczających ryzyko, które możemy zastosować, aby zapobiec nadużyciom w sytuacjach kryzysowych, w tym podczas wyborów wysokiego ryzyka. To między innymi Protokół zasad reagowania w sytuacjach kryzysowych (CPP), który pomaga nam ocenić sposoby rozwiązywania problemów związanych z ryzykiem dotyczącym treści i wskazać odrębne środki, które możemy podjąć w celu dostosowania naszych systemów w reakcji na zwiększone ryzyko.
Ważnym i potencjalnym środkiem ograniczania ryzyka może być wyznaczanie Tymczasowych lokalizacji o wysokim ryzyku (THRL). To oparte na zasadach narzędzie reagowania na określone rodzaje potencjalnie brutalnych treści w lokalizacjach zidentyfikowanych jako wysokiego ryzyka ze względu na wydarzenia mające miejsce w realnym świecie. Oprócz narzędzi i metod zarządzania sytuacjami kryzysowymi, Meta opiera się również na Zespołach Operacyjnych ds. Przestrzegania Zasad (IPOC), które łączą różne zespoły, ekspertów merytorycznych i kompetencje z całej firmy, i są tworzone w razie potrzeby i niekiedy z wyprzedzeniem, aby w czasie rzeczywistym reagować na potencjalne problemy lub trendy.
W trakcie wyborów IPOC monitoruje wiele źródeł, w tym narzędzia do analizy danych, dane dostarczane przez zaufanych partnerów oraz tradycyjne media. Monitorujemy również trendy w zgłoszeniach użytkowników i treści oflagowane przez nasze systemy klasyfikacji.
Mimo że są to odrębne przedsięwzięcia, proces wyznaczania THRL i proces weryfikacji określania CPP opierają się na tych samych sygnałach wskazujących na zwiększone ryzyko przemocy lub szkód poza Internetem. Chociaż możemy rozważyć wyznaczenie THRL w sytuacji kryzysowej, nie jest to uzależnione od określenia CPP.
Nasze zespoły nieustannie monitorują nasze platformy, aby oceniać zmieniające się środowisko zagrożeń i pomagać w określaniu wszelkich wynikających z tego korekt w odpowiedzi na nagły wzrost monitorowanych przez nas sygnałów lub ich zmiany. Przejdź tutaj, aby uzyskać dodatkowe informacje na temat sposobów, w jakie dostosowujemy nasze systemy w reakcji na zwiększone ryzyko.