Míra proaktivity
AKTUALIZOVÁNO 22. 2. 2023
Metrika uvádí procento veškerého problematického obsahu nebo účtů, u kterého jsme přikročili k opatřením, ještě než problém uživatelé nahlásili. Metriku používáme jako ukazatel toho, jak účinně detekujeme porušení zásad.
Naše investice do technologie strojového učení jsou zásadní. Díky nim dokážeme případné porušení zjistit rychleji.
Strojové učení doplňujeme vyškoleným týmem odborníků, kteří obsah kontrolují a v případě porušení podnikají patřičné kroky.
U některých typů porušení zásad se nám daří porušující obsah proaktivně odhalit ve vysokém procentu. To znamená, že většinu takového obsahu najdeme a podnikneme u něj potřebné kroky ještě dřív, než nám ho někdo nahlásí. To platí zejména v oblastech, kde jsme vyvinuli technologii strojového učení, která obsah potenciálně porušující zásady automaticky identifikuje.
Taková technologie je velmi slibná, ale potrvá roky, než bude účinně odhalovat všechny druhy porušení. Zatím má určitá omezení, třeba v oblasti porozumění kontextu a nuancím, zvlášť u textového obsahu. To představuje další překážky pro proaktivní detekci určitých porušení.
Metrika může kvůli vnějším faktorům kolísat nahoru a dolů. Příkladem může být kybernetický útok, kdy spammeři sdílejí 10 milionů příspěvků se stejnou škodlivou adresou URL. Pokud škodlivou adresu URL detekujeme dřív, než nám ji nějaký uživatel nahlásí, míra proaktivity během kyberútoku stoupne a po jeho skončení klesne. Naše technologie pro detekci se přitom během daného období nijak nezměnila. Metrika se může zvyšovat nebo snižovat i v závislosti na změnách našich procesů a nástrojů. Může se třeba zvýšit, když se zlepší naše technologie pro detekci, nebo se snížit, když se zlepší hlášení ze strany uživatelů a budeme se méně spoléhat na proaktivní detekci.
Vzhledem k tomu, že tato metrika je založena na množství obsahu, u kterého jsme podnikli nějaká opatření, má řadu dalších omezení. Míra proaktivity neodráží, jak dlouho nám trvá porušující obsah odhalit, ani kolikrát byl před odhlením zobrazen. Neodráží ani, kolik porušení jsme vůbec nezjistili nebo kolikrát byl takový problematický obsah zobrazen. Přestože procento obsahu, které proaktivně detekujeme, může být velmi vysoké (v některých kategoriích až 99 %), i zbývající malé procento může mít na lidi značný dopad.
Jak míru proaktivity počítáme
Procento počítáme jako podíl počtu položek obsahu, u kterých jsme zjistili porušení a zasáhli, ještě než je nahlásili uživatelé Facebooku nebo Instagramu, a celkového počtu položek obsahu, u kterých jsme zasáhli.
U falešných účtů na Facebooku počítáme metriku jako procento Facebook účtů zablokovaných, protože jsou falešné, které jsme našli a zablokovali, než nám je nahlásili uživatelé. Počítá se jako podíl počtu zablokovaných účtů, které jsme našli a zasáhli proti nim dřív, než je uživatelé nahlásili, a celkového počtu účtů zablokovaných kvůli tomu, že jsou falešné.
Upozornění
Míru proaktivity počítáme s použitím přesného přiřazení hlášení uživatelů k obsahu. Pokud třeba někdo nahlásí stránku a my při kontrole stránky odhalíme obsah porušující zásady a podnikneme proti němu patřičné kroky, vykážeme to jako proaktivní opatření (pokud konkrétní obsah nenahlásí další uživatelé).
Zobrazit nejnovější zprávy o vynucování zásad komunity