Jak pracují naše týmy pro kontrolu
AKTUALIZOVÁNO 12. 11. 2024
Společnost Meta často dostává dotazy týkající se toho, jak funguje proces kontroly obsahu, jak vymáháme zásady a jestli naše kontrolní týmy uplatňují naše zásady globálně. Přečtěte si, co naše týmy pro kontrolu dělají a jak při práci využívají naše technologie.
Kontrola obsahu: Kdy využíváme technologie a kdy kontrolu prováděnou lidmi
Když něco porušuje zásady komunity, má Meta zavedené systémy prosazování předpisů, kterými může zareagovat. Používáme například umělou inteligenci a nástroje pro strojové učení, které nám pomáhají identifikovat a odebírat velké množství porušujícího obsahu – často ještě dřív, než ho někdo uvidí.
Když naše technologie něco přehlédnou nebo budou potřebovat další informace, spoléháme se na tisíce kontrolorů z celého světa, kteří se starají o prosazování zásad komunity.
Když se potenciální porušení týkající se obsahu předají kontrolním týmům, dostane každý kontrolor přiřazenou frontu příspěvků, které musí jednotlivě posoudit. Někdy stačí na příspěvek jen mrknout a dá se hned poznat, jestli neporušuje zásady. Třeba když obsahuje obrázek nahého těla, který ale naše technologie nezachytila.
V jiných případech je klíčový kontext. Naše technologie si například nemusí být jistá, jestli určitý příspěvek obsahuje šikanu. V takovém případě je třeba brát v úvahu další kontext a drobné rozdíly, protože šikana často odráží povahu osobních vztahů. V takovém případě pošleme příspěvek ke kontrole týmu, který má potřebné odborné znalosti v dané oblasti a jazykové dovednosti. V případě potřeby ho taky můžou předat odborníkům na konkrétní problematiku z týmu pro globální operace nebo z týmu pro obsahové zásady.
V případě potřeby taky kontrolorům poskytujeme další informace z nahlášeného obsahu. Některá slova se třeba v minulosti používala jako urážky na základě rasy. V některých případech můžou být součástí nenávistných projevů, ale v jiných kontextech, třeba když je používá člověk z uráženého etnika, můžou být formou sebevyjádření. V některých případech můžeme poskytnout kontext k takovým slovům, aby měli kontroloři další informace, které jim pomůžou uplatnit naše zásady a rozhodnout, jestli příspěvek nechat nebo ho odebrat.