Jak společnost Meta určuje prioritu obsahu ke kontrole

AKTUALIZOVÁNO 12. 11. 2024
Technologie společnosti Meta nachází a odebírají většinu obsahu porušujícího zásady ještě dříve, než ho vůbec někdo nahlásí. Když někdo zveřejní příspěvek na Facebooku, Instagramu, Messengeru nebo Threads, naše technologie zkontrolují, jestli obsah neporušuje zásady komunity. Ve většině případů je identifikace jednoduchá. Příspěvek buď naše zásady jasně porušuje, nebo ne.
Občas je ale identifikace obtížnější. Může být třeba nejasné, co příspěvek vlastně vyjadřuje, jeho jazyk nemusí být úplně srozumitelný, nebo obrázky v něm až příliš závisí na kontextu. V takových případech je nutné provést další kontrolu, do které se zapojují lidé.
Prioritní faktory při kontrole člověkem
Při určování obsahu, který by měly naše týmy pro kontrolu člověkem zkontrolovat nejdřív, bereme v úvahu 3 hlavní faktory:
ZÁVAŽNOST
Jak pravděpodobné je, že by obsah mohl vést ke vzniku škody v online nebo offline prostředí?
VIRALITA
Jak rychle se obsah šíří?
PRAVDĚPODOBNOST PORUŠENÍ
Jak pravděpodobné je, že příslušný obsah ve skutečnosti porušuje naše zásady?
Protože chceme co nejvíc zabránit škodám, naše kontrolní systémy používají technologii k prioritizaci vysoce závažného obsahu s potenciálem způsobit offline škodu a virálního obsahu, který se rychle šíří.
Týmy pro kontrolu člověkem pomáhají naši technologii vylepšovat
Naše týmy pro kontrolu člověkem využívají své odborné znalosti v určitých oblastech zásad a místního prostředí k často obtížným rozhodnutím. Pokaždé, když kontroloři dojdou k nějakému závěru, použijeme tyto informace ke zdokonalení naší technologie. V průběhu času se díky milionům rozhodnutí naše technologie zlepšuje, což nám umožňuje odebírat větší množství závadného obsahu.
Pomáháme kontrolorům činit správná rozhodnutí
Naše technologie pomáhají týmům pro kontrolu člověkem dělat to, co umí nejlíp
Stejně jako mnoho modelů strojového učení se i naše technologie v průběhu času vylepšují, protože mají k dispozici větší množství závadného obsahu. To znamená, že se týmy pro kontrolu člověkem můžou víc zaměřit na závažný, virální, nový a komplexní obsah, který vyžaduje specifický přístup. Člověk je v tomto případě lepší volbou než technologie.
Běžné otázky týkající se stanovení priorit u kontroly obsahu
Týmy pro kontrolu člověkem dřív trávily převážnou většinu svého času kontrolou obsahu nahlášeného lidmi. Ztrácely tak příliš mnoho času málo závažným nebo zjevně nezávadným obsahem a neměly dostatek času na nejzávažnější obsah s největším potenciálem vzniku škody. Mnoho lidských rozhodnutí proto nebylo tak užitečných pro zlepšení naší technologie prosazování předpisů.
Náš současný přístup k určování priorit řeší ale přesně tyto problémy, což nám umožňuje zkontrolovat potenciálně nejnebezpečnější obsah jako první, a rychleji tak vylepšovat naši technologii.
Ne vždycky. Při kontrole hlášení od uživatelů hrají roli jak týmy pro kontrolu člověkem, tak i technologie. Pokud naše technologie dokáže analyzovat danou část obsahu, automaticky provede (ale taky nemusí) s ohledem na dotyčný obsah příslušné opatření.
Otázky spravedlnosti a začlenění spojené s nasazením umělé inteligence (AI) v technologiích společnosti Meta jsme svěřili týmu odpovědnému za AI. Je to specializovaný multidisciplinární tým etiků, odborníků v oblasti politiky a sociálních věd, odborníků na zásady a výzkumníků i techniků v oblasti umělé inteligence. Úkolem týmu je vytvořit pravidla, nástroje a procesy pro řešení otázek odpovědnosti za umělou inteligenci a pomoci zajistit, aby tyto systémové zdroje byly na platformě společnosti Meta široce dostupné.