Näin sääntöjen toimeenpanoteknologia toimii
PÄIVITETTY 12.11.2024
Mallien rakentaminen ja ennusteiden tekeminen
Prosessi alkaa tekoälytiimeistämme. Ne rakentavat koneoppimismalleja, jotka voivat suorittaa tehtäviä, kuten tunnistaa kuvassa olevia asioita tai ymmärtää tekstiä. Sitten eheystiimimme rakentavat kyseisten mallien pohjalta tarkempia malleja, jotka tekevät ennusteita käyttäjistä ja sisällöstä. Kyseinen tiimi vastaa skaalaamisesta, joka koskee käytäntöjemme havaitsemista ja toimeenpanoa. Ennusteet auttavat meitä panemaan täytäntöön käytäntöjämme.
Esimerkiksi tekoälymalli ennustaa, onko tietty sisältö vihapuhetta tai väkivaltaista tai raakaa sisältöä. Erillinen järjestelmä – täytäntöönpanoteknologiamme – ratkaisee, onko tarpeen ryhtyä toimiin, kuten poistaa sisältö tai heikentää sen näkyvyyttä tai lähettää se ihmisistä koostuvalle tarkistustiimille tarkempaa arviointia varten.
Toiston kautta oppiminen ihmisten tekemien varmistusten avulla
Kun alamme luoda uutta teknologiaa sisältösääntöjen toimeenpanemiseksi, koulutamme sitä tarkkailemaan tiettyjä signaaleja. Esimerkiksi toinen teknologia pyrkii havaitsemaan kuvissa esiintyvää alastomuutta, kun taas toinen teknologia opettelee ymmärtämään tekstiä. Aluksi uudella teknologiatyypillä voi olla vähäinen varmuus siitä, onko jokin sisältö käytäntöjemme vastaista.
Tarkistustiimit voivat tehdä asiasta lopullisen päätöksen, ja teknologiamme pääsee oppimaan ihmisten tekemistä ratkaisuista. Ajan myötä teknologiasta tulee tarkempaa, kun se on oppinut tuhansista ihmisten tekemistä ratkaisuista.
Käytäntömme muutetaan myös ajan myötä, jotta ne pysyvät ajanmukaisina myös silloin, kun tuotteemme, yhteiskunnalliset normit ja kieli muuttuvat. Niinpä teknologiamme ja koulutustiimiemme kouluttaminen on vaiheittainen ja toistoa sisältävä prosessi.
Toistuvien rikkomusten havaitseminenTeknologiamme havaitsee saman sisällön yhä uudestaan ja uudestaan, tarvittaessa jopa miljoona kertaa. Teknologiamme puuttuu uuteen sisältöön, jos se vastaa loukkaavaa sisältöä tai on hyvin samankaltainen kuin tämä. Tästä on erityisen paljon hyötyä, kun kyseessä on viraalinen misinformaatiokampanja, meemit ja muu sisältö, joka voi levitä erittäin nopeasti.
Hienovaraisten erojen havaitseminen
Teknologia voi löytää ja poistaa saman sisällön kerta toisensa jälkeen. On kuitenkin iso haaste opettaa konetta ymmärtämään sanavalintoihin liittyviä nyansseja tai sitä, miten pienet eroavaisuudet voivat muuttaa asiayhteyttä.
Ensimmäinen kuva on alkuperäinen harhaanjohtava sisältö, joka sisältää misinformaatiota yleiseen terveyteen liittyvästä turvallisuudesta.
Toinen kuva on ruutukaappaus ensimmäisestä kuvasta. Tällä kertaa tietokoneen valikkopalkki on kuvan yläpuolella.
Kolmas kuva näyttää puolestaan erittäin samankaltaiselta kuin ensimmäinen ja toinen kuva. Siinä on kuitenkin tehty sanoihin kaksi pientä muutosta, joiden myötä otsikko on paikkaansa pitävä eikä enää totuudenvastainen.
Ihmisten on helppo ymmärtää se, kun taas teknologian on vaikea tehdä siitä oikeellisia ratkaisuja. Riskinä on, että toimitaan virheellisesti jommassakummassa ääripäässä. Jos teknologia on liian aggressiivista, se poistaa miljoonia julkaisuja, jotka eivät ole loukkaavia. Jos se ei ole tarpeeksi aggressiivista, se luulee, että valikkopalkin sisältävä ruutukaappaus eroaa alkuperäisestä kuvasta, eikä se puutu sisältöön.
Käytämme paljon aikaa siihen, että koitamme löytää asiaan ratkaisuja. Olemme tehneet muutaman viime vuoden aikana useita investointeja, jotta teknologiamme havaitsisi paremmin sisällön hienoiset muutokset. Oppiessaan yhä lisää siitä tulee päivä päivältä tarkempaa.
