Vaarallisiin organisaatioihin ja henkilöihin liittyvä lähestymistapamme
PÄIVITETTY 11.11.2024
Alustallamme ei ole tilaa ryhmille tai henkilöille, jotka edistävät väkivaltaa, järjestäytynyttä rikollisuutta, vihaa tai terrorismia. Vuosikausien työn avulla olemme kehittäneet ja kehitämme edelleen vaarallisten henkilöiden ja organisaatioiden käytäntöjä ja prosesseja tämän tyyppisen sisällön käsittelemistä varten. Vaikka olemme sitoutuneet tarjoamaan käyttäjille tilan, jossa he pystyvät puhumaan eri puolilla maailmaa tapahtuvista tapahtumista, jotka vaikuttavat heidän elämäänsä, perheisiinsä ja yhteisöihinsä, käytäntömme tarkoituksena on määrittää, mikä ei ole sallittua alustoillamme.
Käytäntömme on suunniteltu pitämään alustamme turvallisina
Metalla on yksi alan kattavimmista käytännöistä, jonka kohteena ovat terroristijärjestöt, viharyhmät, järjestäytyneen rikollisuuden järjestöt, kuten kartellit, väkivaltaan yllyttävät tahot ja nimettyjen väkivaltaisten tapahtumien, kuten joukkoampumisten tai terroristihyökkäysten, tekijät.
Tämän vaarallisten henkilöiden ja organisaatioiden käytännön mukaisesti nimeämme ja estämme toimintaan osallistuvat henkilöt ja organisaatiot ja poistamme niiden ylistämisen ja tukemisen, kun saamme sen tietoomme. Lisäksi nimeämme ja estämme väkivaltaan kannustavat tahot – tahot, jotka osallistuvat tulevaisuudessa tapahtuvien väkivaltaisuuksien valmisteluun tai kannustavat niihin mutta jotka eivät välttämättä ole vielä osallistuneet väkivaltaisuuksiin – ja poistamme myös niiden ylistämisen ja tukemisen.
Käytäntömme ovat julkisia, ja voit lukea lisätietoja niistä yhteisönormien sivultamme. Lisäksi julkaisemme neljännesvuosittaisessa yhteisönormien raportissamme säännöllisesti tietoja siitä, miten paljon tätä sisältöä poistamme.
Miten ja miksi teemme nimeämisiä?
Emme salli Metan alustoilla organisaatioita tai henkilöitä, jotka ovat ilmaisseet väkivaltaisen tai vihamielisen päämäärän tai osallistuvat väkivaltaan. Arvioimme näitä tahoja sen perusteella, miten ne käyttäytyvät sekä verkossa että sen ulkopuolella, ja etenkin sen perusteella, mikä on niiden yhteys väkivaltaan. Tässä käytännössä määritämme yksityishenkilöitä, organisaatioita ja verkostoja. Olemme jakaneet nimeämiset kahteen tasoon, jotta voimme varmistaa tehokkaamman, paremmin oikeassa suhteessa olevan ja johdonmukaisemman sääntöjen toimeenpanon. Voit lukea yhteisönormeistamme lisää näistä tasoista ja kummankin tason käsittämistä organisaatioista.
Meillä on oma vankka sisäinen prosessimme, jossa otetaan huomioon useita tietolähteitä ja jota käytämme organisaatioiden ja henkilöiden arvioimiseen mahdollista nimeämistä varten. Kun kehitämme omat määritelmämme ja nimeämisprosessimme, jotka eivät ole alueesta tai ideologiasta riippuvaisia, voimme olla tehokkaita, reiluja ja ennakoivia suojellessamme alustojamme.
Tämä työ ei ole staattista. Arvioimme jatkuvasti riskejä ja arvioimme ryhmiä sekä henkilöitä nimeämistä varten käyttäytymisen, muuttuvien olosuhteiden, uusien tietojen, sisäisten asiantuntija-analyysien ja ulkopuolisten toimijoiden antamien tietojen perusteella. Esimerkiksi kuten ilmoitimme vuoden 2024 tammikuussa, kun nimetty organisaatio tai henkilö muuttaa käyttäytymistään, hän on myös oikeutettu poistamiseen listaltamme – erityisesti, jos organisaatio tai henkilö (1) ei ole Yhdysvaltain viranomaisten nimeämä Specially Designated Narcotics Trafficking Kingpin eli SDNTK, Foreign Terrorist Organization eli FTO tai Specially Designated Global Terrorist eli SDGT, (2) ei enää osallistu väkivaltaan tai vihaan ja (3) ei ole väkivallan tai vihan symboli, tai organisaatiota tai henkilöä ei käytetä lisäväkivallan lietsomiseen tai väkivaltaisen tai vihamielisen propagandan levittämiseen.
Vaikka arvostamme läpinäkyvyyttä suuresti ja arvioimme jatkuvasti sen hyviä ja huonoja puolia, emme tällä hetkellä jaa yksityiskohtia nimeämislistastamme, jotta voimme vähentää tietoturvaan liittyviä ja oikeudellisia riskejä ja estää näitä vaarallisia toimijoita kiertämästä sääntöjen toimeenpanon mekanismejamme.
Näin panemme toimeen sääntöjä vaarallisia organisaatioita ja henkilöitä vastaan
Panostamme voimakkaasti käyttäjiin, tekniikkaan, kumppanuuksiin ja tutkimuksiin vaarallisten henkilöiden ja organisaatioiden toiminnan torjumiseksi.
- Teknologia: Lähestymme tätä aluetta tekoälyn ja ihmisälyn yhdistelmällä – ja myös panostamme tutkimukseen ja työskentelemme ulkopuolisten asiantuntijoiden ja organisaatioiden kanssa, jotta pysymme ajan tasalla tämän muuttuvan ympäristön suhteen. Käytämme tekoälyä videoiden, kuvien, äänen, tekstin ja jopa grafiikan, kuten logojen, ja väkivallan kuvausten tunnistamiseen. Tarjoamme myös avoimen lähdekoodin työkaluja koko toimialan käyttöön, jotta kumppanit voivat käyttää teknologiaa vaarallisia organisaatioita ja henkilöitä vastaan taistelemiseen omilla alustoillaan. Tarjosimme esimerkiksi vuoden 2022 joulukuussa saataville avoimen lähteen Hasher Matcher Actioner- eli HMA-ohjelmistotyökalun, joka auttaa alustoja tunnistamaan kuvien ja videoiden kopiot sekä tekemään joukkotoimintoja niitä vastaan, jotta jokaisen yrityksen koko toimialalla olisi entistä helpompi pitää terroristisisältö poissa alustaltaan.
- Työntekijät: Asiayhteys ja kieli ovat usein monimutkaisia, eikä teknologia pysty aina tekemään eroa vaarallisten organisaatioiden ja henkilöiden ihannoinnin ja kulttuurikohtaisen kritiikin välillä. Tämän vuoksi Meta on panostanut miljardeja dollareita ja sillä on lähes 40 000 työntekijää, jotka työskentelevät turvallisuuden ja tietoturvan parissa. Meillä on tähän työhön omistautunut monitoimintoinen tiimi, johon kuuluu satoja työntekijöitä, joilla on asiantuntemusta aina lainvalvonnasta ja kansallisesta turvallisuudesta terrorismin vastaiseen tiedusteluun ja akateemiseen tutkimukseen radikalisoitumisesta.
- Kumppanuudet: Niin kauan kuin maailmassa on haitallista toimintaa, sitä on internetissä, eikä mikään yksittäinen yritys pysty ratkaisemaan näitä ongelmia yksin. Tämän vuoksi kumppanuudet muiden – yritysten, kansalaisyhteiskunnan, tutkijoiden ja hallitusten – kanssa ovat todella tärkeitä. Työskentelemme yhdessä hallitusten ja hallitustenvälisten virastojen kanssa ympäri maailmaa, ja kumppaneinamme on organisaatioita, joilla on asiantuntemusta terrorismista, väkivaltaisista ääriliikkeistä, kybertiedustelusta ja vihamielisestä käyttäytymisestä verkossa.
- GIFCT: Yhdistimme voimamme YouTuben, Microsoftin ja Twitterin kanssa vuonna 2017 ja loimme Global Internet Forum to Counter Terrorism- eli GIFCT-organisaation, joka rakennettiin tarkoituksena estää terroristeja ja väkivaltaisia ääriliikkeitä hyödyntämästä digitaalisia alustoja. GIFCT:stä tuli riippumaton kansalaisjärjestö vuonna 2019, ja se koordinoi vastauksina hyökkäyksiin tehtyjä kriisitoimia koko toimialalla.
- Viranomaiset: Kun saamme tietää erityisestä, välittömästä ja uskottavasta uhasta ihmishenkeä kohtaan, emme epäröi ilmoittaa asiasta viranomaisille. Lisäksi Meta työskentelee viranomaisten kanssa väkivaltaisten hyökkäysten yhteydessä, mutta tarkistamme aina kaikki saamamme hallitusten pyynnöt sen varmistamiseksi, että ne ovat oikeudellisesti päteviä ja kansainvälisesti tunnistettujen ihmisoikeusnormien mukaisia, mukaan lukien asianmukaisen käsittelyn, yksityisyyden, ilmaisunvapauden ja laillisuusperiaatteen suhteen. Jos toteamme pyynnön puutteelliseksi tai tarpeettoman laajaksi, vastustamme sitä. Voit lukea lisää työstämme viranomaisten kanssa täältä.
- Riippumaton tutkimus: Tilaamme riippumattomia tutkimuksia ajatushautomoilta, tutkijoilta ja kansalaisjärjestöiltä eri aiheista, jotka liittyvät väkivaltaisten ääriliikkeiden ja terroristien internetin käyttöön, jotta voimme auttaa toimialaamme ymmärtämään näitä tärkeitä asioita ja saavuttamaan edistystä niissä. Vuonna 2022 Meta julkisti tutkimuskumppanuuden Middlebury Institute of International Studiesin Center on Terrorism, Extremism, and Counterterrorismin kanssa voidakseen analysoida kehittyviä trendejä väkivaltaisissa ääriliikkeissä ja tehokkaita työkaluja, jotka auttavat yhteisöjä taistelemaan niitä vastaan.
- Strategiset verkostojen toiminnan häiritsemiset: Vaikka suurin osa sääntöjen toimeenpanostamme terrorismia ja järjestäytynyttä vihamielisyyttä vastaan muodostuu rutiininomaisesta sisällön poistamisesta, se ei aina riitä. Tämä on vihamielinen tila, ja nimetyt vaaralliset tahot yrittävät joskus kiertää sääntöjen toimeenpanomme ja muodostaa uudelleen verkostoja alustallamme. Taistelemme näitä verkostoja vastaan käyttämällä tärkeää lähestymistapaa, jota kutsutaan strategiseksi verkostojen toiminnan häiritsemiseksi. Strategisen verkostojen toiminnan häiritsemisen avulla voimme poistaa jo estettyjen vaarallisten organisaatioiden ja henkilöiden toimijoiden verkoston yhdellä kertaa joko silloin, kun nimeäminen tapahtuu ensimmäisen kerran, tai osana jatkuvaa työtämme pitää nämä nimetyt ryhmät poissa alustaltamme. Tällaisten ryhmien lamauttaminen kokonaisuudessaan vaikeuttaa niiden palaamista alustalle. Lisäksi se lähettää selkeän viestin siitä, että olemme tietoisia niiden läsnäolosta ja että tällaiset ryhmät eivät ole tervetulleita alustoillemme. Lopuksi tämän tekniikan avulla voimme tutkia sitä, miten vaaralliset organisaatiot ja henkilöt saattavat yrittää ohittaa havaitsemisemme ja ne saattavat yrittää palata sovelluksiimme sen jälkeen, kun olemme poistaneet niiden tilit.
- Vuoden 2023 kesäkuussa riippumaton akateeminen lehti Proceedings of the National Academy of Sciences (PNAS) julkaisi Metan tutkijoiden Daniel Robert Thomasin ja Laila A. Wahedin kirjoittaman tieteellisen julkaisun, jossa käsiteltiin strategisen verkostojen toiminnan häiritsemisen strategiamme tehokkuutta viharyhmien häiritsemisessä. Saimme selville, että taktiikka toimii – ja auttaa luomaan entistä terveellisemmän ja turvallisemman käyttäjäkokemuksen alustoillamme.
Ennaltaehkäisevä työ
Me Metalla olemme sitoutuneet varmistamaan alustojemme turvallisuuden ja eheyden. Yksi tapa, jolla saamme tämän aikaan, on alkuvaiheessa tehtävä ehkäiseminen, joka sisältää ennakoivien toimenpiteiden tekemisen. Näin voimme estää vaarallisten organisaatioiden ja henkilöiden leviämisen, ennen kuin juurtuminen henkilöihin tai yhteisöihin voi tapahtua. Tämä sisältää kohdennettujen väliintulojen käyttämisen ja positiiviseen puheeseen kannustamisen. Uskomme, että rakentava vuoropuhelu on olennaisen tärkeää, ja pyrimme luomaan ympäristön, joka kannustaa kyseiseen vuorovaikutukseen.
Jotta voimme vahvistaa ponnistelujamme entisestäänkin, teemme aktiivisesti yhteistyötä sellaisten kansalaisyhteiskunnan järjestöjen kanssa, jotka ovat omistautuneet toimimaan ääriaatteita, järjestäytynyttä vihamielisyyttä ja rikollista toimintaa vastaan. Tuemme näitä järjestöjä rakentamalla niiden kapasiteettia ja tarjoamalle niille tarvittavat resurssit vastapuhesisällön luomista varten. Tämä sisältö haastaa ääriaatenarratiivit ja tarjoaa vaihtoehtoisia näkökulmia auttaen edistämään myönteisempää ja osallistavampaa verkkoympäristöä.
Lähestymistapamme ääriaatteiden torjuntaan on monitahoinen ja ennakoiva, ja siihen kuuluu ehkäisemisen, yhteistyön ja positiiviseen puheeseen kannustamisen yhdistelmä.
- The Resiliency Initiative on ohjelma, joka kouluttaa kansalaisyhteiskunnan järjestöjä Aasiassa, Afrikassa ja Yhdysvalloissa väkivaltaisten ääriaatteiden ehkäisemisen ja torjunnan kampanjastrategioissa ja rakentaa niiden kapasiteettia tehokkaita vastapuhekampanjoita varten. Osana The Resiliency Initiative -ohjelmaa Meta aloitti Yhdysvalloissa kumppanuuden Search for Common Ground- eli SFCG-organisaation kanssa tukeakseen yhteisöpohjaisia kumppaneita, jotka toimivat paikallisesti vihan lietsomaa väkivaltaa vastaan ja rakentavat sosiaalista ja yhteisöllistä selviytymiskykyä.
- Entistä turvallisemmat haut: Lisäksi ohjaamme tarvittaessa käyttäjiä resursseihin, kun he etsivät vaarallisiin organisaatioihin ja henkilöihin liittyviä termejä. Kun käyttäjät hakevat vaarallisiin organisaatioihin ja henkilöihin liittyviä termejä Facebookissa, Instagramissa ja Threadsissä, heille annetaan tavallisten tulosten sijaan resursseja, jotka auttavat estämään vaarallisiin organisaatioihin ja henkilöihin liittyvän sisällön hakuja ja tarjoavat käyttäjille koulutusresursseja.Meillä on myös hakuohjelma useissa maissa, joita ovat esimerkiksi Australia, Yhdysvallat, Yhdistynyt kuningaskunta, Saksa, Intia, Indonesia ja Pakistan. Jos joku hakee termejä, jotka ovat markkina-aluekohtaisia ja tavallisesti keskittyvät tiettyihin vaarallisten organisaatioiden ja henkilöiden tekemiin vahinkoihin, tarjoamme heille lisää tietoja ja resursseja yhteistyössä sellaisen paikallisen kansalaisyhteiskunnan järjestön kanssa, joka tarjoaa tukipalveluita käyttäjille, joille ääriaatteet voivat aiheuttaa vaaraa.
- Resurssien tarjoaminen yhteisön organisaatioille: Meillä on myös Safety Ads Program, joka tukee kansalaisyhteiskunnan järjestöjen kumppaneiden ennakoivaa vahingonteon estämistä tarjoamalla heille mainoskrediittejä ja strategista tukea, kun he toteuttavat vastapuheohjelmia. Työskentelemällä yhdessä näiden organisaatioiden kanssa pyrimme kasvattamaan kumppanuuksiamme vaarallisia organisaatioita ja henkilöitä vastaan taistelemisessa.
Tämä työ on jatkuvaa, ja tiedämme, että niin kauan kuin maailmassa on vaarallisia organisaatioita ja henkilöitä, ne ovat internetissä, minkä vuoksi pysymme valppaina. Nämä ryhmät käyttävät uusia taktiikoita pyrkiessään välttämään havaitsemisen sekä käytäntöjemme ja sääntöjen toimeenpanomme. Tämän haitallisen käytöksen vuoksi teemme jatkuvasti töitä, jotta voimme pysyä yhden askeleen edellä arvioiden ja päivittäen lähestymistapaamme.