Jak technologia ułatwia ustalenie kolejności weryfikacji

ZAKTUALIZOWANO 19 STY 2022
Niezależnie od tego, czy treści potencjalnie naruszające zasady zostaną zgłoszone przez użytkowników, czy wykryte przez technologię firmy Meta, dzięki automatyzacji możemy szybko skierować treści do weryfikatorów posiadających odpowiednią wiedzę merytoryczną i językową.
Następnie wykorzystujemy technologię, aby uszeregować zawartość pod względem ważności, aby nasze zespoły weryfikacyjne mogły skoncentrować się w pierwszej kolejności na najważniejszych przypadkach. Zaliczają się do tego treści, które potencjalnie mogą spowodować szkodę offline, np. posty związane z terroryzmem i samobójstwem oraz treści wirusowe, które naruszają nasze zasady i mogą potencjalnie być skierowane do dużej grupy odbiorców.
Aby mieć pewność, że zespoły weryfikacyjne przeznaczają więcej czasu na podejmowanie właściwych decyzji, zawsze wprowadzamy usprawnienia do naszych procesów i technologii.
Jak Meta ustala kolejność treści do weryfikacji
Dlaczego zespoły weryfikacyjne są istotne w przypadku egzekwowania przestrzegania zasad
Technologia i zespoły weryfikacyjne zawsze współpracują, aby zmniejszyć szkodę w naszej społeczności. Oto kilka sposób, w jakie weryfikatorzy, przy udziale technologii, pomagają we wzmocnieniu całego naszego systemu egzekwowania przestrzegania zasad dotyczących treści.
Szkolenie technologii
Gdy weryfikatorzy podejmują decyzję dotyczącą fragmentu treści, jednocześnie szkolą i dopracowują naszą technologię, aby z czasem lepiej radziła sobie z identyfikacją pozostałych fragmentów podobnych treści. Ta pętla człowiek-technologia jest nieodzowna dla dbania o aktualność systemów.
Podczas weryfikacji treści naruszających zasady zespoły weryfikacyjne ręcznie etykietują zasady stojące u podstaw ich decyzji, co oznacza, że oznaczają zasady naruszane przez treści, konto lub zachowanie. Te ważne dane z etykiety ułatwiają nam ulepszenie jakości algorytmów naszej sztucznej inteligencji, które aktywnie wyszukują szkodliwe treści.
Nasza technologia dobrze sobie radzi w szczególności w 2 obszarach: wykrywania uporczywych naruszeń zasad oraz wskazywania treści wyraźnie skrajnych. Ale w przypadku wysokiego stopnia niejasności, złożoności lub niuansów dotyczących tego, czy nasze zasady mają zastosowanie do danego fragmentu treści, weryfikatorzy zwykle podejmują lepsze decyzje niż technologia.