Näin teknologia auttaa priorisoimaan tarkistuksia
PÄIVITETTY 19.1.2022
Automaatio auttaa meitä ohjaamaan mahdollisesti loukkaavan sisällön nopeasti tarkistajille, joilla on asianmukaiset tiedot aiheesta ja tarvittava kielitaito, olipa sitten kyse käyttäjien ilmiantamasta tai Metan teknologian havaitsemasta sisällöstä.
Luokittelemme ja priorisoimme sisällön sitten teknologian avulla, jotta tarkistustiimimme voivat keskittyä ensimmäiseksi tärkeimpiin tapauksiin. Tällaista on esimerkiksi sisältö, joka voi aiheuttaa verkon ulkopuolella tapahtuvaa vahinkoa, kuten terrorismiin ja itsemurhaan liittyvät julkaisut, sekä viraalinen sisältö, jossa rikotaan käytäntöjämme ja joka voi tavoittaa suuren yleisön.
Kehitämme jatkuvasti teknologiaamme ja prosessejamme, jotta tarkistustiimit voivat keskittyä tekemään oikeita päätöksiä.
Miksi tarkistustiimit ovat tärkeitä sisältöä koskevien sääntöjen toimeenpanossa?
Teknologiamme ja ihmisistä koostuvat tarkistustiimit tekevät aina yhteistyötä, jotta voimme pienentää yhteisöllemme aiheutuvia haittoja. Tässä on muutamia tapoja, joiden avulla tarkistajat auttavat yhdessä teknologian kanssa vahvistamaan koko järjestelmäämme, joka liittyy sisältösääntöjen toimeenpanoon.
Teknologiamme kouluttaminen
Kun tarkistajat tekevät päätöksen sisällöstä, he samalla kouluttavat ja hiovat teknologiaamme, jotta se voi tunnistaa muuta samankaltaista sisältöä ajan myötä. On erittäin tärkeää, että ihmiset opettavat jatkuvasti teknologiaamme, jotta järjestelmämme pysyvät ajan tasalla.
Tekoälyalgoritmien parantaminen
Kun tarkistustiimit tarkistavat sääntöjen vastaista sisältöä, ne merkitsevät manuaalisesti käytännön, johon päätös perustui. Ne siis merkitsevät käytännön, jota sisällöllä, tilillä tai käytöksellä rikottiin. Merkintöjen avulla saadut tiedot ovat tärkeitä, sillä niiden avulla voimme parantaa tekoälyalgoritmejamme, jotka etsivät oma-aloitteisesti haitallista sisältöä.
Vaikeiden päätösten tekeminen
Teknologiamme on erityisen tehokas kahdella alueella: toistuvien rikkomusten tunnistamisessa ja ilmiselvän raa’an tai äärimmäisen sisällön tunnistamisessa. Jos on kuitenkin erittäin monitulkintaista, koskevatko käytäntömme tiettyä sisältöä, tai jos asia on erittäin monimutkainen tai siihen liittyy paljon vivahteita, tarkistajat tekevät yleensä parempia ratkaisuja kuin teknologia.