Näin tarkistamme vaikutukseltaan merkittävää sisältöä täsmällisesti ristiintarkistusjärjestelmämme avulla
PÄIVITETTY 12.11.2024
Valvontalautakunta julkaisi 6. joulukuuta 2022 käytännön neuvoa-antavan lausuntonsa Metan ristiintarkistuskäytännöistä. Jotta voimme käsitellä suositukset kokonaisuudessaan, olemme sopineet lautakunnan kanssa, että tarkistamme ne ja vastaamme niihin 90 päivän kuluessa. Jos haluat lisätietoja ristiintarkistusjärjestelmästämme, lue läpinäkyvyyssivustoa käsittelevä julkaisumme.
Ristiintarkistuksen yleiskatsaus
Facebookin ja Instagramin käyttäjät luovat joka päivä miljardeittain sisältökohteita. Tässä mittakaavassa tehtävään sisällön valvomiseen liittyy haasteita. Joudumme esimerkiksi tekemään kompromisseja tärkeiden arvojen ja tavoitteiden välillä. Pyrimme tarkistamaan nopeasti mahdollisesti loukkaavan sisällön ja poistamaan sen, jos siinä rikotaan käytäntöjämme. Kun pyrimme saavuttamaan tämän tavoitteen ja suojaamaan käyttäjiemme ääntä, meidän on kuitenkin huomioitava virheellisten tulosten riski eli se, että sisältöä poistettaisiin, vaikka se ei olisi loukkaavaa. Tässä käytetään ilmaisua sisällön poistaminen. Se on yleisnimitys, jota käytämme eheyttä edistävistä toiminnoista. Niitä voivat olla esimerkiksi varoitusnäyttöjen käyttö tai sivujen poistaminen.
Meta pyrkii ottamaan kummatkin näkökohdat yhtä lailla huomioon. Siksi se on ottanut käyttöön ristiintarkistusjärjestelmän, jonka avulla pyritään tunnistamaan sisältö, joka aiheuttaa erityisen todennäköisesti vääriä tuloksia. Lisäksi kyseistä riskiä pienennetään suorittamalla tarkistukset usealla tasolla. Ristiintarkistuksen myötä tietty sisältö, jonka järjestelmämme merkitsee loukkaavaksi automaattisesti tai ihmisen tekemän tarkistuksen myötä, voidaan tarkistaa entistä useammalla tasolla. Näin pyrimme estämään tai minimoimaan todennäköisimmät vääriä tuloksia aiheuttavat moderointivirheet, joita saatettaisiin tehdä muussa tapauksessa erilaisten tekijöiden vuoksi, esimerkiksi siksi, että on tarpeen ymmärtää nyansseja tai konteksti. Tässä viittaamme sisältöön, jota tarkistetaan ristiintarkistusjärjestelmämme avulla. Käytämme ristiintarkistusta myös muiden toimintojen tarkistamiseen, kuten sivujen tai profiilien poistamiseen. Vaikka ristiintarkistuksen myötä tarkistukset tehdään usealla tasolla, tarkistajat soveltavat samoja yhteisönormeja, jotka koskevat kaikkea muuta Facebook- tai Instagram-sisältöä.
Ristiintarkistusjärjestelmällä on keskeinen rooli ihmisoikeuksien suojelemisessa. Ristiintarkistusjärjestelmän piiriin kuuluvat esimerkiksi konfliktialueilta raportoivien toimittajien tahot ja julkaisut sekä yhteisöjen johtajat, jotka lisäävät tietoisuutta ilmenneestä vihasta tai väkivallasta. Ristiintarkistuksessa otetaan huomioon asiayhteys, joka auttaa ryhtymään oikeanlaisiin toimiin sisältöä kohtaan. Ristiintarkistuksia voidaan soveltaa myös yhteiskunnallisiin tahoihin, joiden osalta käyttäjät ovat erittäin kiinnostuneita näkemään, mitä heidän johtajansa sanovat.
Lisäksi ristiintarkistuksella on tärkeä rooli Metan ja monien yrityskumppaniemme välisten suhteiden hallinnassa. Jos esimerkiksi laajalti seuratun sivun tai profiilin sisältö poistetaan virheellisesti, seurauksena voi olla kielteisiä kokemuksia sekä Metan yrityskumppaneille että niitä seuraavalle suurelle määrälle käyttäjiä. Käytämme ristiintarkistusta myös joihinkin erittäin suuriin ryhmiin, joiden osalta virhe voi vaikuttaa satoihin tuhansiin tai miljooniin käyttäjiin. Ristiintarkistus ei tarkoita, että Metan yrityskumppanit tai ryhmät olisi vapautettu sisältökäytäntöjemme noudattamisesta. Ristiintarkistuksen myötä tarkistus voidaan tehdä kuitenkin joskus useammalla tasolla. Näin pyritään varmistamaan, että näitä käytäntöjä sovelletaan oikein.
Facebookin ja Instagramin käyttäjät julkaisevat joka päivä miljardeittain sisältöä. Vaikka maailmassa on tuhansia omistautuneita tarkistajia, ei ole mahdollista tarkistaa manuaalisesti kaikkea sisältöä, jossa mahdollisesti rikotaan yhteisönormejamme. Teknologiamme havaitsee ja poistaa oma-aloitteisesti suurimman osan loukkaavasta sisällöstä, ennen kuin kukaan ilmiantaa sen. Kun joku julkaisee sisältöä Facebookissa tai Instagramissa, teknologiamme tarkistaa, saatetaanko sisällössä rikkoa yhteisönormeja. Tunnistaminen on useassa tapauksessa yksinkertaista. Julkaisu joko on selkeästi käytäntöjemme vastainen tai ei. Muissa tapauksissa sisältö siirretään kuitenkin ihmisen tarkistettavaksi, jotta hän voi arvioida sitä tarkemmin.
Ensisijaiset tarkistusjärjestelmämme käyttävät teknologiaa, jonka avulla voidaan priorisoida vakavuudeltaan merkittävää sisältöä, joihin kuuluu nopeasti leviävä viraalinen sisältö. Silloin kun järjestelmät merkitsevät, että sisältö on tarkistettava korkeammalla tasolla, arvioijat joutuvat tekemään vaikeita ja usein eri nyansseja sisältäviä arvioita siitä, pitäisikö sisällön pysyä alustalla. Vaikka pyrimme aina tekemään oikeita päätöksiä, tunnustamme, että virheellisiä tuloksia esiintyy ja osa sisällöstä päätetään poistaa Metan käytäntöjen rikkomisen takia, vaikkei sisältö olisi rikkonut niitä oikeasti. Meta on sen vuoksi panostanut virheiden ehkäisyyn, jotta virheellisiä tuloksia voidaan tarkistaa edelleen ja niiden riskiä vähentää. Ristiintarkistus on yksi näistä virheenehkäisystrategioista.
Ristiintarkistus on järjestelmä, jonka avulla voidaan varmistaa, että sääntöjen täytäntöönpanopäätökset tehdään tarkasti ja että niitä varten on suoritettu ihmisen tekemä tarkistus usealla tasolla. Jos tarkistaja vahvistaa ristiintarkistuksen aikana, että sisältö on yhteisönormien vastaista, panemme niihin liittyviä sääntöjä täytäntöön ja puutumme loukkaavaan sisältöön asiaankuuluvasti. Sisällön monimutkaisuudesta riippuen saatamme suorittaa tarkistuksen usealla tasolla. Joissain harvoissa tapauksissa tarkistuksen tekevät myös johtajat. Jos lopullisen tarkistuksen suorittanut tarkistaja toteaa, että kyseessä oleva sisältö ei ole yhteisönormiemme vastainen, tarkistaja voi kumota alkuperäisen toimen ja jättää sisällön alustalle.
Aiemmat ristiintarkistuskäytännöt
Otimme ensimmäisen kerran käyttöön nykyisin ristiintarkistuksena tunnetun järjestelmän vuonna 2013. Järjestelmän yksityiskohdat ovat kehittyneet vuosien mittaan, ja olemme mahdollisuuksien mukaan ilmoittaneet päivämäärät ja ajanjaksot voidaksemme selittää, milloin muutokset on tehty.
Tiimimme määritti ristiintarkistuksen piiriin kuuluvat sisällöt ja tahot kokoamalla listan tunnistamistaan käyttäjistä ja tahoista, joiden katsotaan joutuvan erittäin todennäköisesti virheellisestä tuloksesta seuraavien toimien kohteeksi. Virheellisen tuloksen todennäköisyydellä tarkoitetaan riskiä, että sääntöjä pannaan toimeen virheellisesti sellaisten sisältöjen tai tahojen osalta, jotka eivät itse asiassa ole yhteisönormiemme vastaisia. Tiimimme määritti käyttäjät ja tahot, joiden osalta virheellinen tulos on erityisen todennäköinen, käyttämällä erilaisia kriteereitä. Tällaisia kriteereitä olivat esimerkiksi käyttäjän ja tahon tyyppi, seuraajien määrä ja tahon aihe. Tyyppejä ovat esimerkiksi valittu virkamies, toimittaja, merkittävä yrityskumppani ja ihmisoikeusjärjestö. Taho on yleiskäsite, jolla tarkoitetaan paikkaa, josta sisältö voi olla peräisin tai jossa se voi näkyä, kuten käyttäjätiliä, sivua tai ryhmää.
Kun tällaisissa listoissa olevat käyttäjät tai tahot julkaisivat sisältöä tai tekivät toimia, jotka järjestelmämme merkitsivät mahdollisesti käytäntöjemme vastaisiksi, lisäämme kyseisen sisällön tai tahon jonoon ristiintarkistusta varten.
Teimme vuoden 2020 alussa muutoksia, joiden myötä suurin osa jonon sisällöstä asetettiin tärkeysjärjestykseen riskikehyksen avulla. Riskikehys määritti, kuinka todennäköisesti sisältöä koskeva tulos on virheellinen, ja Meta poistaa kyseisen sisällön virheellisesti sen myötä. Riskikehyksessä otetaan huomioon yleisesti kolme tekijää: (1) tahon herkkyys, (2) väitetyn rikkomuksen vakavuus ja (3) mahdollisen sääntöjen toimeenpanon vakavuus.
Nykyiset ristiintarkistuskäytännöt
Pyrimme koko ajan löytämään uusia asioita, joita voisimme parantaa, ja teemme jatkuvasti muutoksia, kuten kaikkien käytäntöjemme ja prosessiemme kohdalla. Aiemmin tänä vuonna löysimme uusia mahdollisuuksia parantaa ristiintarkistusjärjestelmää. Teimme esimerkiksi rakenteellisen muutoksen, jonka myötä ristiintarkistusjärjestelmä koostuu nyt kahdesta osasta: yleinen toinen tarkistus ja arkaluontoisen tahon toinen tarkistus. Käytämme edelleenkin edellä kuvattuun listaan perustuvaa lähestymistapaa arkaluontoisen tahon toisessa tarkistuksessa. Se koskee vähäistä osuutta tietyistä käyttäjistä ja tahoista. Mitä tulee yleiseen toiseen tarkistukseen, pyrimme parhaillaan varmistamaan, että kaikkien Facebookissa ja Instagramissa olevien käyttäjien ja tahojen on mahdollista saada ristiintarkistus, joka perustuu dynaamiseen priorisointijärjestelmään nimeltä ristiintarkistusluokittelija.
Yleinen toinen tarkistus tarkoittaa, että ennen kuin ryhdytään sääntöjen toimeenpanoon liittyviin toimiin, sopimustarkistajat ja aluetiimimme jäsenet suorittavat toisen tarkistuksen sisällölle ja tahoille, jotka saattavat rikkoa käytäntöjämme. Tässä tarkistuksessa ei määritetä pelkästään käyttäjän tai tahon henkilöllisyyden perusteella sisältöä, jolle suoritetaan ristiintarkistus. Ristiintarkistusluokittelija luokittelee sisältöä virheellisen tuloksen todennäköisyyden perusteella. Luokitteluun vaikuttavat esimerkiksi aiheen herkkyys eli aiheen trendaavuus tai arkaluonteisuus, sääntöjen toimeenpanon vakavuus eli mahdollisen sääntöjen toimeenpanoon liittyvän toimenpiteen vakavuus, virheellisen tuloksen todennäköisyys, vaikutusten ennustettu laajuus ja tahon herkkyys, joka perustuu pitkälti edellä kuvattuihin koottuihin listoihin. Ristiintarkistusluokittelijaa käytetään jo nyt useimmissa ristiintarkistuksissa.
Arkaluontoisen tahon toinen tarkistus on samanlainen kuin vanha ristiintarkistusjärjestelmä. Jotta voimme määrittää arkaluontoisen tahon toisen tarkistuksen kohteena olevat sisällöt ja tahot, pidämme edelleen yllä listaa käyttäjistä ja tahoista, joiden osalta sääntöjen toimeenpanon yhteydessä suoritetaan ylimääräinen ristiintarkistus, jos sisältö on merkitty mahdollisesti yhteisönormien vastaiseksi. Olemme kuitenkin alkaneet valvoa enemmän näiden listojen laadintaa ja tarkistamista. Ennen vuoden 2020 syyskuuta useimmilla työntekijöillä oli mahdollisuus lisätä käyttäjä tai taho ristiintarkistuslistaan. Vuoden 2020 syyskuusta lähtien jokainen työntekijä voi pyytää käyttäjän tai tahon lisäämistä ristiintarkistuslistoihin, mutta vain määrätyllä työntekijäryhmällä on valtuudet tehdä lisäyksiä listaan.
Arkaluontoisen tahon toisen tarkistuksen listan hallinnointivastuu on tällä hetkellä kansainvälisten toimintojen organisaatiollamme, ja sitä tukevat juridinen ja kumppanuuksien tiimimme erityisosaamisellaan ja -kokemuksellaan. Vaikka kansainvälisten toimintojen tiimimme raportointirakenne on erillinen Metan julkisen käytännön tiimistä, julkisen käytännön tiimiä konsultoidaan antamaan palautetta ristiintarkistuksen päätöksistä – sillä se sijaitsee sisällön moderoinnin useilla alueilla koko yhtiössä. Näissä tapauksissa toimintojen tiimimme voi hyödyntää asiantuntemusta Metan julkisen käytännön tiimiltä yhdessä alueellisten asiantuntijoidemme ja kieliriippumattomien erikoistuneiden tarkistajien kanssa paikallisten ja kulttuurillisten näkökulmien vahvistamiseksi. Erilliset raportointirakenteet auttavat varmistamaan, että tarkistus on riippumaton poliittisesta tai taloudellisesta vaikutuksesta. Jotta listat pysyisivät asianmukaisina ja tarkoituksenmukaisina, olemme myös kehittäneet huolellisen vuosittaisen tarkistusprosessin, jonka avulla tarkastamme arkaluontoisen tahon toisen tarkistuksen listoissa olevien tahojen jatkuvan kelpoisuuden, ja kehitämme tätä prosessia edelleen ajan mittaan.
Meta on suorittanut viime kuukausina päivittäin keskimäärin useita tuhansia ristiintarkistustöitä. Niistä suurin saatettiin loppuun yleisen toisen tarkistuksen yhteydessä. Sen on vain pieni osuus kaikesta yhteisönormiemme vastaisesta sisällöstä, joka merkitään ja jota kohtaan ryhdytään toimiin. Sellaista sisältöä on miljoonittain joka päivä. Arkaluontoisen tahon toinen tarkistus on tällä hetkellä vain pieni osa näistä päivittäisistä tarkistuksista. Arvioimme, että ristiintarkistukseen liittyvien töiden määrä on jatkuvasti kasvanut sen myötä, että yleistä toista tarkistusta on priorisoitu vuoden 2021 lopussa ja sen priorisoimista on jatkettu vuonna 2022.
Jos sisältö on peräisin henkilöltä tai taholta, joka on arkaluontoisen tahon toisen tarkistuksen piirissä, aluetiimi tarkistaa sen yleensä ensin. Eskalointitiimi tarkistaa sen sitten, jotta se voi vahvistaa, onko sisältö loukkaavaa. Jos aluetiimi toteaa, että sisältö ei ole käytäntöjemme vastaista, eskalointitiimi ei tarkista sitä. Jos sisältö on peräisin henkilöltä tai taholta, jonka ristiintarkistusluokittelija on priorisoinut, yleensä alihankkijat tai aluetiimi tarkistaa sen paitsi silloin, jos eskalointitiimillä on ylimääräistä kapasiteettia sen tarkistamiseen. Samoin kuin vanhassa ristiintarkistuksessa, erittäin monimutkaisia asioita voidaan tarkistaa useammin, ja joissain harvinaisissa tapauksissa tarkistuksen tekevät myös johtajat. Jos lopullisessa tarkistuksessa todetaan, että sisältö on yhteisönormien vastainen, poistamme sen. Jos tarkistaja taas katsoo, että se ei ole, emme poista sitä.
Noin 660 000 käyttäjän tai tahon toimet vaativat 16. lokakuuta 2021 alkaen jonkinlaista arkaluontoisen tahon toista tarkistusta, joka perustuu siihen, että he ovat edellä kuvatuissa listoissa. Tämä lukumäärä muuttuu säännöllisesti sen mukaan, kun lisäämme käyttäjiä ja tahoja edellä kuvattuihin listoihin ja poistamme niitä kyseisistä listoista muuttuvien lisäämiskriteerien perusteella. Tässä on esimerkkejä käyttäjistä ja tahoista, joille voidaan suorittaa arkaluontoisen tahon toinen tarkistus:
- Tahot, jotka liittyvät eskalaatioiden yhteydessä suoritettuihin toimiin tai korkean riskin tapahtumiin Tällä hetkellä on käytössä epämuodollinen prosessi, jossa korkean riskin tapahtumaan valmistautuvat tiimit tunnistavat tahot, joiden osalta sääntöjen liiallisen toimeenpanon riski on suuri. Jos esimerkiksi käyttäjän kiistanalaisesta sisällöstä on tulossa viraalinen, esimerkiksi livevideo poliisiväkivallasta, saatamme tunnistaa, että käyttäjälle on suoritettava arkaluontoisen tahon toinen tarkistus virheellisen poistamisen estämiseksi.
- Tahot, jotka on lisätty lainsäädännön noudattamiseksi Käytämme arkaluontoisen tahon toista tarkistusta tietyissä tapauksissa laissa tai asetuksissa olevien vaatimusten täyttämiseksi.
- Erittäin näkyvät julkisuuden henkilöt ja julkaisijat Tunnistamme tahot, joille on suoritettava arkaluontoisen tahon toinen tarkistus, koska sääntöjen ylimitoitettu toimeenpano voi aiheuttaa kielteisen käyttäjäkokemuksen suurelle käyttäjäjoukolle.
- Marginalisoidut väestöryhmät Tunnistamme ihmisoikeuksien puolustajat, poliittiset toisinajattelijat ja muut, joiden katsomme olevan valtion tukeman tai vastustajien suorittaman muunlaisen häiriköinnin, järjestetyn joukkokommentoinnin tai -ilmiantamisen kohteena, jotta voisimme suojata heitä kyseisiltä hyökkäyksiltä.
- Yhteiskunnalliset tahot Noudatamme puolueettomia kriteerejä ja hyödynnämme alueellisten käytäntötiimiemme asiantuntemusta, jotta voimme tunnistaa poliitikkoja, viranomaisia, toimielimiä, organisaatioita, etujärjestöjä ja yhteiskunnallisia vaikuttajia. Suoritamme kyseisille tahoille arkaluontoisen tahon toisen tarkistuksen. Näin pyrimme estämään virheet, jotka saattavat rajoittaa loukkaamatonta poliittista puhetta ja vaikuttaa tahattomasti yhteiskunnalliseen keskusteluun esimerkiksi vaaleista, julkisesta politiikasta ja yhteiskunnallisista asiakysymyksistä. Pyrimme varmistamaan, että kohtelemme maan yhteiskunnallisia tahoja yhdenvertaisesti. Esimerkiksi jos lisäämme jonkin maan hallituksen ministeriön arkaluontoisen tahon toisen tarkistuksen piiriin, lisäämme kaikki kyseisen maan hallituksen ministeriöt kyseisen tarkistuksen piiriin.
- Yritykset Tunnistamme arvokkaat ja sellaiset mainostajat, jotka ovat kokeneet liiallista sääntöjen toimeenpanoa, jotta voimme suojata tuloja ja rakentaa pitkäaikaista luottamusta alustaamme.
Tarkastelemme parhaillaan, miten voimme parantaa kriteereitä, joiden perusteella tunnistamme tahot, jotka lisäämme arkaluontoisen tahon toisen tarkistuksen piiriin. Tarkastelemme esimerkiksi, voimmeko kehittää kriteereitä esimerkiksi seuraavien asioiden osalta: seuraajien määrä, se, kuinka monta kertaa aiemmin sääntöjä on pantu toimeen virheellisen tuloksen perusteella, lakien ja asetusten vaatimukset sekä tärkeät poliittiset ja yhteiskunnalliset asiakysymykset. Käyttäjät voivat pyytää tämän lomakkeen avulla, että heitä ei sisällytetä arkaluontoisen tahon toisen tarkastuksen listalle. Meta ei vahvista, ovatko käyttäjät näillä listoilla vai onko heidät poistettu niiltä. Uskomme kuitenkin vahvasti käyttäjien itsemääräämisoikeuteen ja tarkistamme jokaisen pyynnön mahdollisimman pian.
Ristiintarkistusjärjestelmän kahden osan lisäksi meillä on myös sisäinen virheitä ehkäisevä järjestelmä nimeltä dynaaminen monitarkistus. Tämä on järjestelmä, jonka avulla voimme lähettää tarkistetut tapaukset takaisin uudelleentarkistettavaksi, jotta saamme enemmistöäänestyksen tuloksen päätöksestä. Esimerkiksi jos enemmistö tarkistajista on samaa mieltä päätöksestä, tapaus suljetaan. Näin voimme luottaa oikeellisuuteen entistä paremmin. Käyttämällä tätä järjestelmää voimme parantaa ihmisen tekemän tarkistuksen laatua ja tarkkuutta ja pienentää virheellisten päätösten riskiä säätämällä lopulliseen päätökseen vaadittavien tarkistusten määrää useiden eri tekijöiden perusteella. Tällaisia ovat esimerkiksi viraalisuus, katselukertojen määrä ja haitan aiheuttamisen mahdollisuus, esimerkiksi seksuaalista hyväksikäyttöä tai vaarallisia henkilöitä ja organisaatioita koskevien käytäntöjemme mahdollinen rikkominen.
Tulevat ristiintarkistuksen läpinäkyvyyteen liittyvät toimet
Vastauksena valvontalautakunnan vuoden 2022 joulukuussa tekemään päätökseen ristiintarkistuksen käytännön neuvoa-antava lausunnon suosituksesta olemme myös sitoutuneet sarjaan virheiden ehkäisemisen läpinäkyvyyteen liittyviä toimia. Niitä ovat seuraavat:
- sisäisten ihmisoikeus- ja kansalaisoikeustiimiemme, luotettavien kumppaneidemme ja muiden ulkoisten kansalaisyhteiskunnan organisaatioiden kanssa käytävä jäsennelty ja tehokas yhteydenpito, jonka tarkoituksena on tutkia tapoja, joiden avulla voidaan kehittää perusteita, joita käytämme yleisen edun kannalta merkittävien tahojen tunnistamiseksi ristiintarkistuksen listoja varten
- tutustuminen entistä muodollisempaan ristiintarkistuksen listan nimeämisprosessiin maailmanlaajuisilta, alueellisilta ja paikallisilta kansalaisyhteiskunnan ryhmiltä
- panostaminen laadukkaisiin tarkistus- ja koulutusresursseihin siirtyessämme siihen, että kaikki ristiintarkistuksen päätökset tekevät tarkistajat, jotka puhuvat asianmukaista kieltä ja joilla on alueellista asiantuntemusta, kun se on mahdollista
- vahvojen palvelutasosopimusten käyttöönotto virheitä ehkäisevien järjestelmiemme tarkistuspäätöksiä varten, jotta voimme optimoida nykyisen tarkistushenkilöstömallimme mahdollisimman nopeaa asianmukaisella kielellä tehtävää tarkistusta varten.
Vaikka olemmekin parantaneet merkittävästi ristiintarkistusjärjestelmää, tutkimme edelleen keinoja, joilla pyrimme varmistamaan, että järjestelmässä otetaan asianmukaisessa suhteessa huomioon sekä tavoitteemme poistaa yhteisönormejamme rikkovaa sisältöä että pyrkimyksemme varmistaa, että minimoimme sääntöjen toimeenpanoon liittyvät virheemme, joilla on merkittävin vaikutus.