A tartalmakra vonatkozó szabályok betartatásának átalakítása MI segítségével
FRISSÍTVE 2026. MáRC. 19.
Mindig is technológiai és emberi erőforrások kombinációjára támaszkodtunk a tartalmak ellenőrzéséhez és a közösségi alapelveink betartatásához. A közelmúltban tett bejelentésünknek megfelelően kísérletezünk azzal, hogy fejlettebb MI-rendszereket integráljunk a meglévő tartalom-ellenőrzési folyamatainkba. Célunk, hogy továbbra is építkezhessünk a tavalyi, a hibák visszaszorítására irányuló változtatásaink pozitív eredményeire, és továbbfejlesztett rendszereinkkel több súlyos tartalmi szabálysértést és illegális tartalmat tudjunk kiszűrni, több csalást tudjunk leállítani, és gyorsabban tudjunk reagálni a való világban bekövetkező eseményekre.
Ugyanakkor, még ha több új technológiát használunk is a lehetőségek körének kibővítéséhez, továbbra is az emberek állnak a megközelítésünk középpontjában. Továbbra is szakértőink feladata a szabályzataink kidolgozása és szövegezése; az MI-rendszereink megtervezése, betanítása és értékelése; a teljesítmény mérése; és továbbra is ők hozzák a legösszetettebb, legnagyobb hatású döntéseket. Ez egy olyan evolúciós folyamat, amely során ötvözzük a fejlett MI léptékét és képességeit az emberek szakértelmével és ítélőképességével – miközben ezek egymást is erősítik –, hogy megőrizzük az emberek biztonságát a platformjainkon.
Mi változik, és mi nem?
Fázisokra bontott, körültekintő bevezetés
Az átmenetet fokozatosan és körültekintően közelítjük meg, és kellő időt hagyunk annak biztosítására, hogy a bevezetés átgondoltan és előrelátóan történjen. Minden MI-modell szigorú, többszakaszos tesztelési folyamaton esik át az alkalmazása előtt. Csak azt követően térünk át az elsődlegesen MI-alapú szabálybetartatásra, ha a technológia minden tesztünkben következetesen jobban teljesít a meglévő rendszereinknél.
Újdonságok: Több használható nyelv és jobb észlelés
Ezek a fejlettebb MI-rendszerek az online felhasználók 98%-a által beszélt nyelveket fedik le, ami messze meghaladja a korábbi kb. 80 nyelvet felvonultató lefedettségünket, és segít nekünk pontosabban és következetesebben alkalmazni a szabályainkat több milliárd tartalomelemre vonatkozóan. Emellett ezek a rendszerek képesek jobban megérteni a kontextust és a kulturális árnyalatokat – beleértve a szűkebb körű szubkultúrákat is –, a gyorsan változó és helyi jellegű kódszavakat, a hangulatjelek jelentését és a szlenget.
A korai tesztek már most is ígéretes eredményeket mutatnak a szabálybetartatás szempontjából fontos árnyalatok megtalálásában Például MI-rendszereink észleltek egy hamis webhelyet, amely megtévesztő módon egy jogszerű webcímet használt, és egy népszerű sportfelszerelés-áruházat imitált – rendszereink azonban észlelték, hogy a valódi logót szokatlanul alacsony árakkal és gyanús webcímmel együtt használják.
Ami nem változott: A szabálybetartatás fő alapelvei
- Az emberek maradnak a középpontban: Az emberek továbbra is kulcsszerepet játszanak a tartalmi szabályok betartatására vonatkozó megközelítésünkben. Szakértői csapatok alakítják ki a Meta MI-alapú szabályalkalmazását: ők határozzák meg a szabályokat, tanítják be a modelleket, ellenőrzik a teljesítményt, továbbá kezelik a nagy kockázatú és nagy hatású döntéseket – például a fiók letiltására vonatkozó felülvizsgálati kérések végleges elbírálását, valamint a bűnüldöző szervek jogszabály által előírt tájékoztatását.
- Közösségi alapelvek: A közösségi alapelveink nem változnak ennek az átmenetnek a részeként, és továbbra is meghatározzák a platformjainkon engedélyezett és nem engedélyezett viselkedési formákat. Kizárólag a szabályok betartatásának módja változik.
- Bejelentések és ellenvetések: Továbbra is jelentheted azokat a tartalmakat, amelyek szerinted sértik a szabályainkat. Ha pedig intézkedünk a tartalmaddal vagy a fiókoddal kapcsolatban, továbbra is kérheted a döntés felülvizsgálatát.
Hogyan működik?
Megközelítésünk ötvözi az MI-funkciókat az emberi szakértelemmel a folyamat egésze során.
Alapos tesztelés a bevezetés előtt
Mielőtt bármely MI-rendszerünk valódi szabálybetartatási döntést hozna, alaposan teszteljük, és biztonsági mechanizmusokat építünk be. A döntéseit összevetjük az ellenőrzést végző legtapasztaltabb munkatársaink döntéseivel, és csak akkor vezetjük be, ha azt látjuk, hogy következetesen jobban teljesít a tartalmi szabályok betartatására szolgáló jelenlegi módszereinknél.
Egyértelmű minőségi alapelvek
Alkalmazása előtt minden modellnek meg kell felelnie bizonyos pontossági viszonyítási értékeknek. Értékeljük a teljesítményt a következetesség, az eredményesség, a méltányosság és a pontosság garantálása érdekében – megbizonyosodunk arról, hogy helyesen azonosítjuk a tényleges szabálysértéseket, és megkülönböztetjük a szabályokat sértő, illetve a szabályokat nem sértő tartalmakat.
Folyamatos nyomon követés
A bevezetést követően folyamatosan értékeljük minden modellünket. Nyomon követjük a pontosságot, figyeljük a teljesítményben bekövetkező váratlan változásokat, és probléma esetén gyorsan kiigazítjuk vagy finomítjuk a modelleket. Rendszereinket úgy alakítottuk ki, hogy gyorsan el lehet végezni az iterációs folyamatokat és a javítást – csapatok és technológiai megoldások ellenőrzik a trendeket a problémák mielőbbi kiszűrése érdekében.
Emberi szakértelem minden szakaszban
Emberek alakítják ki a szabályokat. Emberek tanítják be a mesterséges intelligenciát. Emberek felügyelik a teljesítményt. Továbbá emberek kezelik a leginkább kényes, leginkább összetett és legnagyobb horderejű döntéseket. Az MI a szabályok tömeges betartatásával foglalkozik, emellett javítja a következetességet, az emberek pedig ítélőképességet biztosítanak, és felügyelik a rendszert.
Teljesítmény a különféle szabályozási területeken
Az MI-modelljeink javulást mutatnak már a korai fázisban végzett teszteken is több szabályozási területen:
Csalások és átverések
Egy MI-megoldás, amelynek feladata, hogy megakadályozza a csalókat az emberek becsapásában, és bejelentkezési adatainak kiadásában, naponta 5000 olyan csalási kísérletet észlelt és állított meg, amelyet a meglévő ellenőrző csoportok korábban nem tudtak kiszűrni.
Szabályellenes, felnőtteknek szóló tartalom
A felnőttek szexuális tevékenységre való felajánlkozásával kapcsolatos szabálysértéseket észlelő MI-rendszerek több mint kétszer annyi szabálysértő tartalmat észleltek, mint az emberek, egyúttal a hibázás aránya is 60%-kal alacsonyabb volt. Ez azt jelenti, hogy gyorsabban találjuk meg és távolítjuk el a káros tartalmakat, egyúttal több embert kímélünk meg a téves intézkedésektől.
Személyazonossággal való visszaélés
Az MI 80%-kal csökkentette a felhasználói bejelentések számát, amelyek jól ismert személyek adataival való visszaélésre vonatkoztak. A névazonosság ellenőrzésén túl az MI további kontextus – például a profil adatai, a közzétételi mintázatok és a hiteltelenségre utaló egyéb jellemzők – elemzésével képes észlelni, ha valaki közszereplőnek adja ki magát.
Előretekintés
Ez az átmenet szakaszosan zajlik, és minden lépésnél alapos tesztelést végzünk. A szabálybetartatási adatokat a közösségi alapelvek betartatásával kapcsolatos jelentésünkben tesszük közzé, és továbbra is megosztjuk a tapasztalatainkat – a sikereket és a kihívásokat egyaránt –, miközben az MI-alapú szabálybetartatás további szabályterületeken kap teret. Emellett azt is tervezzük, hogy globálisan megerősítjük a Meta azon speciális csapatát, amelynek tagjai mélyreható szakértelemmel rendelkeznek az alapelveink és szabályzataink alkalmazása terén.
Fontos, hogy átláthatóvá tegyük az átállást és a szabálybetartatási folyamatainkat. Az „Intézkedés” szakaszban további részleteket olvashatsz arról, hogy jelenleg milyen intézkedéseket teszünk szabályszegések esetén. Szabályainkról a közösségi alapelveink szövegében tájékozódhatsz részletesebben. A szabályaink továbbfejlesztése során rendszeresen együttműködünk különféle érintettekkel, és a jövőben is így teszünk az átállás folyamán. Ennek részeként együttműködünk a szabályozóhatóságokkal, külső szakértőkkel és az Ellenőrző Bizottsággal, hogy visszajelzést tudjunk kérni a megközelítésünkre vonatkozóan.
A megközelítésünk kialakításakor szempont volt annak alakíthatósága – az új fenyegetésekhez, a változó szlenghez és a felmerülő kihívásokhoz, például a kábítószer-kereskedelemben használt kódszavakhoz. Rendszerünk arra az alapelvre épül, hogy a legjobb eredményt az adja, ha a fejlett technológiát ötvözzük az ember ítélőképességével.