Transformace prosazování zásad ohledně obsahu pomocí AI

AKTUALIZOVÁNO 19. 3. 2026

Ke kontrole obsahu a prosazování zásad komunity jsme vždy využívali kombinaci technologie a lidského dohledu. Nedávno jsme oznámili, že probíhají experimenty, jak bychom do stávajících procesů prosazování zásad u obsahu mohli zapojit víc pokročilých AI systémů. Naším cílem je dál stavět na pozitivních výsledcích vyvolaných změnami z loňského roku, jejichž účelem bylo omezení počtu chyb. Aktualizované systémy by mohly zachytit závažnější porušení zásad týkajících se obsahu i nelegální obsah, zastavit větší počet podvodů a rychleji reagovat na události v reálném světě.

Ačkoliv budeme využívat víc nových technologií, abychom rozšířili hranice našich možností, v centru našeho přístupu zůstávají lidé. Naši odborníci mají i nadále na starosti vytváření zásad, navrhování, trénování a hodnocení našich systémů AI, měření efektivity a budou i nadále provádět nejkomplexnější rozhodnutí s velkým dopadem. Jedná se o evoluci způsobu, jakým kombinujeme rozsah a možnosti pokročilé AI s odbornými znalostmi a posudky lidí. Každá ze stran posiluje tu druhou, aby byli lidé na našich platformách v bezpečí.

Co se mění a co zůstává při starém

Postupné spouštění funkce

K tomuto přechodu přistupujeme obezřetně a provádíme ho postupně, abychom zajistili, že bude náš postup promyšlený a rozvážný. Každý AI model musí před nasazením projít důkladným testováním, které se skládá z několika fází. K prosazování zásad pomocí AI přejdeme, až když si bude technologie v našich testech vést konzistentně líp než stávající systémy.

Co je nového: víc podporovaných jazyků a lepší detekce

Tyto pokročilejší systémy AI pokrývají jazyky, kterými mluví 98 % lidí online. To je výrazně více než naše předchozí pokrytí, které činilo zhruba 80 jazyků. Nový přístup nám umožní uplatňovat zásady přesněji a konzistentněji napříč miliardami položek obsahu. Tyto systémy také lépe chápou kontext a kulturní nuance (včetně subkultur) rychle se měnících a regionálně specifických kódových slov, emoji a slangu.

Prvotní testy už přinesly slibné výsledky. Naše AI systémy dokázaly odhalit web, který se vydával za populární obchod se sportovním zbožím. Stačilo jim k tomu skutečné logo, nezvykle nízké ceny a podezřelá webová adresa.

Co zůstává stejné: základní principy prosazování zásad

Lidé jsou centrem pozornosti: I nadále hrají lidé v našem přístupu k prosazování zásad klíčovou roli. Architekty prosazování zásad v rámci AI ve společnosti Meta jsou naše odborné týmy. Formulují zásady, trénují modely, ověřují jejich výkon a vydávají zásadní rozhodnutí s velkým dopadem, jako je přijímání konečných rozhodnutí ohledně odvolání proti zablokování účtu a informování policie, když to vyžaduje zákon.
Zásady komunity: Zásady komunity se v rámci této změny nemění a budou dál definovat pravidla, která určují, co je a co není na našich platformách povolené. Mění se jedině způsob, jakým tyto zásady vymáháme.
Nahlašování a odvolání: Pořád můžete nahlásit obsah, o kterém si myslíte, že porušuje naše zásady. Pokud přijmeme určitá opatření ohledně vašeho obsahu nebo účtu, pořád máte možnost se proti rozhodnutí odvolat.

Jak to funguje

Náš přístup spojuje možnosti AI s lidskými znalostmi.

Důkladné testování před nasazením

Než jakýkoli systém AI vydá jakékoli rozhodnutí, důkladně ho otestujeme a zabudujeme do něj bezpečnostní prvky. Jeho rozhodnutí porovnáváme s rozhodnutími našich nejzkušenějších kontrolorů a implementujeme jej jen v případě, že se přesvědčíme, že si vede líp než naše stávající metody vymáhání zásad týkajících se obsahu.

Jasné standardy kvality

Každý model musí před nasazením splnit specifické požadavky na přesnost. Fungovaní modelů vyhodnocujeme, abychom zajistili konzistenci, efektivitu, spravedlnost a přesnost. Chceme se ujistit, že správně identifikujeme skutečná porušení a odlišujeme obsah porušující zásady od toho, který zásady neporušuje.

Nepřetržité monitorování

Po nasazení každého modelu probíhá jeho průběžné hodnocení. Sledujeme přesnost, monitorujeme neočekávané změny efektivity a v případě potíží můžeme modely rychle upravit nebo zpřesnit. Naše systémy jsou navržené tak, aby umožňovaly rychlé změny a opravy. Týmy a technologie kontrolují trendy, aby problémy zachytily včas.

Lidská odbornost ve všech fázích

Zásady navrhují lidé. AI učí lidé. Výsledky kontrolují lidé. A lidé mají na starost ty nejkomplikovanější úkoly a nejdůležitější rozhodnutí. Umělá inteligence umožňuje lepší vymáhání zásad ve větším měřítku a zlepšuje konzistentnost. Lidé rozhodují a dohlíží na systém.

Výkonnost napříč různými okruhy zásad

Naše AI modely se zlepšují i v rané fázi testování v několika oblastech zásad:

Podvody

Jedno AI řešení, jehož účelem bylo zabránit podvodníkům v tom, aby lidi přiměli lstí sdílet své přihlašovací údaje, úspěšně odhalilo a zastavilo za jeden den 5 000 pokusů o podvod, který žádný stávající kontrolní tým doposud nezachytil.

Obsah pro dospělé porušující zásady

Systémy AI vytvořené k detekci porušování zásad ohledně sexuálních návrhů mezi dospělými zachytily dvakrát víc porušujícího obsahu než lidé a zároveň snížily míru chyb o víc než 60 %. To znamená, že škodlivý obsah odhalujeme a odebíráme rychleji a zároveň chráníme víc lidí před neoprávněným prosazováním zásad.

Vydávání se za někoho jiného

AI omezila hlášení uživatelů ohledně vydávání se za někoho jiného o 80 %. AI dokáže rozpoznat, když se někdo vydává za veřejně známou osobnost. Nespokojuje se s porovnáváním jmen, ale analyzuje širší kontext – údaje na profilu, vzorce přidávání příspěvků a související charakteristiky, které naznačují, že jde o něco jiného, než je skutečný účet dané osobnosti.

Co dál

Přechod probíhá postupně a u každého kroku vše pečlivě testujeme. Data o prosazování zásad zveřejňujeme ve Zprávě o prosazování zásad komunity a budeme vás dál o všem informovat, ať už půjde o úspěchy nebo výzvy, jelikož prosazování zásad pomocí AI rozšiřujeme do dalších oblastí. Ve společnosti Meta také dál plánujeme posilovat náš specializovaný tým lidí z celého světa, kteří mají hlubokou odbornost v oblasti uplatňování našich zásad a pravidel.

Je pro nás důležité být v souvislosti s tímto přechodem a s procesy prosazování zásad co nejvíce transparentní. Víc o tom, jak v současnosti postupuje při porušení zásad, najdete v části Přijímání opatření. Podrobnosti o našich zásadách najdete v zásadách komunity. Při vyvíjení našich zásad pravidelně zapojujeme řadu zainteresovaných stran, a budeme v tom pokračovat i během tohoto přechodného období. Budeme spolupracovat s regulátory, externími odborníky a dozorčí radou, abychom získali zpětnou vazbu.

Náš přístup je nastavený tak, aby se mohl přizpůsobovat novým hrozbám, neustále se vyvíjejícímu žargonu i novým výzvám, jako je kódovaná komunikace související s prodejem drog. Vycházíme z principu, že nejlepší výsledky vzniknou, když se zkombinuje pokročilá technologie s lidským úsudkem.