Tarkistustiimien toimintaperiaate
PÄIVITETTY 12.11.2024
Metalta kysytään usein, miten sisällöntarkistusprosessimme toimii, miten toimeenpanemme käytäntöjämme ja miten tarkistustiimimme soveltavat käytäntöjämme maailmanlaajuisesti. Seuraavassa kerrotaan, mitä tarkistustiimimme tekevät ja miten he käyttävät teknologiaa työssään.
Sisällön tarkistus: milloin käytämme teknologiaa, ja milloin ihmiset tekevät tarkistukset?
Metalla on sisältöön liittyvien sääntöjen toimeenpanoon tarkoitettuja järjestelmiä, joita se käyttää, kun yhteisönormeja rikotaan. Pystymme esimerkiksi tunnistamaan ja poistamaan suuren määrän loukkaavaa sisältöä tekoälyn ja koneoppimistyökalujen avulla ja ehdimme usein poistaa sisällön, ennen kuin kukaan näkee sen.
Joissain tapauksissa teknologiamme ei havaitse jotain tai siihen on tarpeen syöttää enemmän tietoja. Tällaisia tapauksia varten meillä on tuhansia tarkistajia ympäri maailmaa, jotka toimeenpanevat yhteisönormejamme.
Mahdolliset rikkomukset ohjataan tarkistustiimeille, ja kukin tarkistaja tarkistaa erikseen julkaisut, jotka hänellä on jonossa. Joskus tarkistuksessa katsotaan ainoastaan julkaisua ja määritetään, onko se käytäntöjemme vastainen. Kyseessä voi olla esimerkiksi alastomia aikuisia sisältävä kuva, joita teknologiamme ei ole havainnut aluksi.
Muissa tapauskissa asiayhteys ratkaisee. Teknologiamme saattaa olla esimerkiksi epävarma siitä, sisältääkö julkaisu kiusaamista. Kyseessä on käytäntöjen osa-alue, jonka osalta tarvitaan lisätietoja asiayhteydestä ja tietoa nyansseista. Asiaan vaikuttavaa nimittäin usein henkilökohtaisten suhteiden luonne. Tällöin lähetämme julkaisun sellaisten tarkistustiimien tarkistettavaksi, joilla on asianmukainen tietämys aiheesta ja kielitaito. He voivat siirtää asian tarpeen vaatiessa myös maailmanlaajuisesta toiminnasta tai sisältökäytännöstä vastaavissa tiimeissä oleville asiantuntijoille.
Annamme tarkistajille tarvittaessa lisätietoja ilmiannetusta sisällöstä. Esimerkiksi joku voi käyttää vihapuheessa sanoja, joita on perinteisesti käytetty etniseen taustaan liittyvinä loukkauksina. Jollekin toisella sanan käyttö voi puolestaan olla tapa voimaannuttaa itseään, kun sitä jakaa toinen henkilö muussa asiayhteydessä. Joissain tapauksissa voimme antaa tarkistajille lisätietoja kyseisten sanojen asiayhteydestä. Näin autamme tarkistajia soveltamaan käytäntöjämme ja päättämään, onko sisältö säilytettävä tai poistettava.