Proaktiv andel
OPPDATERT 22. FEB. 2023
Dette måletallet viser prosentandelen av alt innhold og alle kontoer vi har funnet og sanksjonert mot før de ble rapportert til oss av brukere. Vi bruker denne beregningen som en indikator på hvor effektivt vi oppdager regelbrudd.
Våre investeringer i maskinlæringsteknologi er avgjørende for at vi raskere kan avdekke regelbrudd.
Vi balanserer maskinlæring med et grundig opplært ekspertteam som vurderer innhold og eventuelt iverksetter tiltak.
For mange typer regelbrudd kan vi proaktivt oppdage potensielt uakseptabelt innhold raskt, noe som betyr at vi finner og sanksjonerer mot det meste av slikt innhold før brukerne gjør oss oppmerksomme på det. Dette gjelder spesielt der vi har kunnet lage maskinlæringsteknologi som automatisk identifiserer innhold som kan bryte med standardene våre.
Slik teknologi er veldig lovende, men er fortsatt mange år unna å være effektiv for alle slags brudd. For eksempel er det fortsatt begrensede muligheter til å forstå kontekst og nyanser, spesielt for tekstbasert innhold. Dette skaper flere utfordringer for proaktivt å oppdage visse typer brudd.
Beregningene kan gå opp eller ned på grunn av eksterne faktorer. For eksempel et nettangrep der spammere deler 10 millioner innlegg med samme ondsinnede URL-adresse. Hvis vi oppdaget den ondsinnede URL-adressen før brukere rapporterte den til oss, ville den proaktive andelen gått opp under nettangrepet og gå ned etterpå, selv om deteksjonsteknologien vår ikke har endret seg i mellomtiden. Andelene kan også øke eller minke basert på hvordan prosessene og verktøyene våre endres. For eksempel kan de gå opp hvis deteksjonsteknologien vår blir bedre, men kan gå ned hvis brukerrapporteringen vår forbedres og vi legger mindre vekt på proaktiv deteksjon.
Siden denne beregningen er basert på mengden innhold som det handles ut fra, gjelder mange av de samme hensynene. Den proaktive andelen gjenspeiler ikke hvor lang tid det tar oss å oppdage uakseptabelt innhold eller hvor mange ganger det har blitt sett før det ble oppdaget. Det gjenspeiler heller ikke hvor mange brudd vi ikke har oppdaget eller hvor mange ganger innholdet har blitt vist. Og selv om andelen innhold vi avdekker proaktivt kan være veldig høy – så høy som 99 % i noen kategorier – kan selv den lille gjenværende prosentandelen ha betydelig negativ innvirkning på mennesker.
Hvordan vi regner ut proaktiv andel
Vi regner ut denne prosentandelen slik: antall innholdsenheter vi har funnet og sanksjonert mot før brukere av Facebook eller Instagram har rapportert dem dividert med det totale antallet innholdsenheter der vi tok affære.
For falske kontoer på Facebook kalkulerer vi ved å bruke prosentandelen av falske Facebook-kontoer vi deaktiverte etter å ha funnet og sanksjonert mot dem før brukere rapporterte dem til oss. I utregningen tar vi antall deaktiverte kontoer som vi fant og sanksjonerte mot før brukere rapporterte dem og dividerer dem på det totale antallet falske kontoer som ble deaktivert.
Forbehold
Vi regner ut proaktiv andel via en streng vurdering av brukerrapporter opp mot innhold. Hvis noen for eksempel rapporterer en side og vi, idet vi gjennomgår siden, identifiserer og tar affære vedrørende uakseptabelt innhold på siden, vil vi rapportere at vi har sanksjonert mot innholdet proaktivt (med mindre det kommer spesifikke tilleggsrapporter fra brukere).
Les den nyeste rapporten om håndhevelse av standarder