Ennakoivien toimien osuus
PÄIVITETTY 22.2.2023
Tämä muuttuja osoittaa, kuinka monta prosenttia kaikista toimien kohteina olleista sisällöistä ja tileistä havaitsimme ja olivat jo toimiemme kohteena, ennen kuin käyttäjät ilmiantoivat ne meille. Arvioimme tämän muuttujan perusteella, kuinka tehokkaasti havaitsemme rikkomukset.
Koneoppimiseen tekemämme investoinnit ovat erittäin tärkeitä, sillä ne auttavat meitä havaitsemaan rikkomuksia nopeammin.
Koneoppimista tasapainottaa koulutettu asiantuntijatiimimme, joka tarkistaa normiemme ja sääntöjemme vastaisen sisällön ja ryhtyy toimiin.
Voimme tietyissä rikkomustapauksissa usein havaita ennakolta mahdollisesti sääntöjen vastaista sisältöä, eli löydämme suurimman osan sisällöstä ja ryhdymme toimiin ennen kuin käyttäjät ilmiantavat sisällön meille. Tämä pätee erityisesti tilanteisiin, joissa olemme pystyneet kehittämään koneoppimistekniikan, joka tunnistaa automaattisesti mahdollisesti normiemme vastaisen sisällön.
Tällainen teknologia on erittäin lupaavaa, mutta se edellyttää vielä vuosien kehitystyötä, jotta sillä havaittaisiin tehokkaasti kaikenlaiset rikkomukset. Esimerkiksi teknologia ymmärtää asiayhteyksiä ja nyansseja yhä rajallisesti, varsinkin jos sisältö on tekstipohjaista. Tämä aiheuttaa lisähaasteita tiettyjen rikkomusten ennakoivalle havaitsemiselle.
Muuttuja voi nousta tai laskea ulkoisista syistä. Tällainen syy voi olla esimerkiksi kyberhyökkäys, jonka aikana roskasisällön lähettäjät jakavat kymmenen miljoonaa julkaisua, joissa kaikissa on sama haitallinen URL-osoite. Jos havaitsemme haitallisen URL-osoitteen ennen kuin yksikään käyttäjä ilmiantaa sen meille, ennakoivien toimien osuus nousee kyberhyökkäyksen aikana ja laskee sen päätyttyä, vaikka havaitsemistekniikkamme ei ole muuttunut sen aikana. Tämä muuttuja voi myös olla suurempi tai pienempi sen mukaan, miten prosessimme ja työkalumme muuttuvat. Muuttuja voi esimerkiksi nousta, jos havaitsemistekniikkamme kehittyy paremmaksi, mutta se voi myös laskea, jos käyttäjien tekemät ilmiannot lisääntyvät ja havaitsemme vähemmän rikkomuksia ennakolta.
Koska tämä muuttuja perustuu toimien kohteena olleen sisällön määrään, sitä koskevat monet samat seikat. Ennakoivien toimien osuutemme ei kuvasta sitä, miten pitkään meiltä kesti havaita normiemme ja sääntöjemme vastainen sisältö tai miten monta kertaa tällaista sisältöä katsottiin ennen sen havaitsemista. Se ei myöskään kuvasta sitä, kuinka monta rikkomusta meiltä jäi kokonaan huomaamatta tai kuinka monta kertaa tällaista sisältöä katsottiin. Vaikka ennakoivasti havaitsemamme sisällön osuus voi olla hyvin suuri ja jossain luokissa jopa 99 prosenttia, pienikin havaitsematta jäävä osuus voi vaikuttaa merkittävällä tavalla käyttäjiin.
Miten laskemme ennakoivien toimien osuuden?
Laskemme prosenttiosuuden huomioimalla löytämiemme ja toimiemme kohteena olevien sisältöjen määrän ennen Facebook- tai Instagram-käyttäjien tekemää ilmiantoa ja jakamalla sen toimiemme kohteina olleiden sisältöjen kokonaismäärällä.
Laskemme osuuden Facebookissa oleville väärennetyille tileille niiden väärennettyjen Facebook-tilien prosenttiosuutena, jotka olemme löytäneet ja poistaneet käytöstä ennen kuin käyttäjät ovat ilmiantaneet ne meille. Tämä osuus lasketaan jakamalla ennen käyttäjien ilmiantoa havaitsemiemme ja käytöstä poistamiemme väärennettyjen tilien määrä käytöstä poistettujen väärennettyjen tilien kokonaismäärällä.
Huomautukset
Laskemme ennakoivien toimien osuuden soveltamalla sisältöön tiukkaa käyttäjien ilmiantojen attribuointia. Jos esimerkiksi joku ilmiantaa sivun ja havaitsemme kyseistä sivua tarkistaessamme jotakin normiemme tai sääntöjemme vastaista sisältöä ja ryhdymme toimiin, raportoimme, että olimme tehneet toimia kyseiselle sisällölle ennakoivasti, elleivät käyttäjät ole tehneet sisällöstä muita tarkempia ilmiantoja.
Lue viimeisin yhteisönormien soveltamista koskeva raportti