Hogyan segít a technológia előbbre sorolni az ellenőrizendő tartalmakat?
FRISSÍTVE 2022. JAN. 19.
Akár az emberek jelentik a potenciálisan szabálysértő tartalmat, akár a Meta technológiája észleli, az automatizálás segít a tartalmat gyorsan azon ellenőreink elé tárni, akik rendelkeznek a szükséges szakterületi és nyelvi ismeretekkel.
A technológiát ezt követően bevetjük a tartalmak rangsorolására és priorizálására is, hogy ellenőrzést végző csoportjaink először a legfontosabb esetekkel foglalkozhassanak. Idetartoznak az offline károkozás lehetőségét hordozó, például a terrorizmushoz vagy az öngyilkossághoz kapcsolódó tartalmak, valamint a szabályainkat sértő, vírusszerűen terjedő tartalmak, amelyek potenciálisan nagy közönséghez juthatnak el.
Folyamatosan fejlesztjük technológiánkat és folyamatainkat, hogy ellenőrzést végző csoportjaink a megfelelő döntések meghozatalára tudják fordítani az idejüket.
Miért fontosak az ellenőrzést végző csoportjaink a tartalmi szabályaink betartatásához?
A közösségünkben előforduló károkozás mérséklése érdekében a technológiánk és az emberi ellenőrzést végző csoportjaink mindig közös erővel dolgoznak. Íme néhány példa arra, hogy ellenőreink a technológiával karöltve miként erősítik a tartalmi szabályaink kikényszerítésére szolgáló rendszereinket.
Technológiánk betanítása
Amikor ellenőrzést végző munkatársaink döntést hoznak egy tartalomelemről, egyidejűleg tanítják és finomítják is technológiánkat, hogy idővel azonosítani tudja a hasonló tartalomelemeket. Rendszereink naprakészen tartásához kulcsfontosságú ez a visszacsatolási hurok az emberi beavatkozás és a technológia között.
Mesterséges intelligencián alapuló algoritmusaink fejlesztése
Szabálysértő tartalom ellenőrzésekor az ellenőrzést végző csoportjaink manuálisan megjelölik a döntésüket alátámasztó szabályt, vagyis azt a szabályt, amelyet a tartalom, a fiók vagy a viselkedés sért. Ezek a megjelölési adatok fontosak a káros tartalmakat proaktívan kereső, mesterséges intelligencián alapuló algoritmusaink fejlesztéséhez is.
Nehéz döntések meghozatala
Technológiánk különösen 2 területen teljesít remekül: az ismétlődő szabálysértések észlelésében, valamint az egyértelműen erőszakos vagy szélsőséges tartalmak azonosításában. De amikor jelentős kétértelműség, komplexitás vagy árnyaltság áll fenn azzal kapcsolatban, hogy alkalmazandók-e a szabályaink egy adott tartalomelemre, ellenőrzést végző munkatársaink jellemzően jobb döntéseket hoznak a technológiánál.