Jak technologie pomáhají stanovit prioritu pro kontrolu
AKTUALIZOVÁNO 19. 1. 2022
Ať už obsah, který potenciálně porušuje zásady, nahlásí uživatelé, nebo jej detekují technologie společnosti Meta, automatizace nám pomáhá rychle směrovat obsah ke kontrolorům, kteří mají potřebné odborné znalosti a jazykové dovednosti.
Pak obsah pomocí technologií seřadíme a určíme jeho prioritu, aby se naše kontrolní týmy mohly nejdřív zaměřit na ty nejdůležitější případy. Patří sem obsah, který může offline někomu ublížit (třeba příspěvky související s terorizmem nebo sebevraždou), a virální obsah, který porušuje naše zásady a může oslovit široký okruh uživatelů.
Aby mohly týmy pro kontrolu věnovat víc času rozhodnutím, která jsou opravdu důležitá, neustále vylepšujeme jak technologie, tak i procesy.
Proč jsou týmy pro kontrolu tak důležité pro prosazování předpisů z hlediska obsahu
Abychom snížili míru újmy, které se v naší komunitě děje, naše technologie a týmy pro kontrolu vždy spolupracují. Tady je pár příkladů, jak kontroloři ve spojení s technologiemi pomáhají posilovat celý náš systém prosazování předpisů v rámci obsahu.
Trénování naší technologie
Když kontroloři rozhodují o obsahu, současně tím učí a zdokonalují naši technologii a pomáhají jí postupně identifikovat další podobný obsah. Tato smyčka zpětné vazby mezi člověkem a technologií je zásadní, aby byly naše systémy pořád aktuální.
Vylepšování našich algoritmů umělé inteligence
Při kontrole obsahu, který porušuje zásady, tým pro kontrolu ručně označí zásady, podle kterých se rozhodl. To znamená, že označí zásady, které obsah, účet nebo chování porušuje. Tato důležitá data nám pomáhají zlepšovat kvalitu našich algoritmů umělé inteligence, které proaktivně vyhledávají škodlivý obsah.
Přijímání složitých rozhodnutí
Naše technologie si vede dobře hlavně ve 2 oblastech: detekci opakovaného porušování a identifikaci zjevně realistického nebo extrémního obsahu. Pokud ale existuje vysoká míra nejednoznačnosti, složitosti nebo nuance v tom, jestli se naše zásady na určitý obsah vztahují, kontroloři většinou rozhodují lépe než technologie.