Percentage proactief
BIJGEWERKT 22 FEB. 2023
Deze statistiek toont het percentage van alle content of accounts waarop actie is ondernomen die we hebben gevonden en waarop actie is ondernomen voordat mensen ze aan ons hebben gerapporteerd. We gebruiken deze statistiek als indicator voor hoe effectief we schendingen detecteren.
Onze investeringen in de technologie van machinelearning zijn van cruciaal belang om ons te helpen sneller te detecteren.
We brengen machinelearning in balans met een getraind team van experts die inbreukmakende content beoordelen en op basis hiervan actie ondernemen.
De snelheid waarmee we proactief potentieel inbreukmakende content kunnen detecteren, is hoog voor sommige schendingen. Dat betekent dat we de meeste content vinden en hierop actie ondernemen voordat gebruikers deze content aan ons rapporteren. Dit geldt vooral wanneer we technologie voor machinelearning hebben kunnen ontwikkelen die automatisch content identificeert die mogelijk in strijd is met onze normen.
Dergelijke technologie is veelbelovend, maar is nog lang niet effectief voor alle typen schendingen. Er zijn bijvoorbeeld nog steeds beperkingen voor het vermogen om context en nuance te begrijpen, vooral voor op tekst gebaseerde content. Dit creëert extra uitdagingen voor het proactief detecteren van bepaalde schendingen.
De statistiek kan stijgen of dalen als gevolg van externe factoren. Bijvoorbeeld een cyberaanval waarbij spammers 10 miljoen berichten delen met dezelfde schadelijke URL. Als we de schadelijke URL ontdekten voordat een gebruiker deze aan ons rapporteerde, zou de proactieve snelheid stijgen tijdens de cyberaanval en daarna dalen, zelfs als onze detectietechnologie tijdens de periode niet veranderde. Deze statistiek kan ook stijgen of dalen op basis van hoe onze processen en tools veranderen. De statistiek kan bijvoorbeeld omhooggaan als onze detectietechnologie beter wordt, maar kan omlaaggaan als onze gebruikersrapportage verbetert en we minder vertrouwen op proactieve detectie.
Aangezien deze statistiek is gebaseerd op de hoeveelheid content waarop actie wordt ondernomen, zijn veel van dezelfde overwegingen van toepassing. Ons percentage proactief geeft niet aan hoelang het duurt om inbreukmakende content te detecteren of hoe vaak deze is bekeken vóór detectie. Het geeft ook niet aan hoeveel schendingen we helemaal niet hebben gedetecteerd of hoe vaak die content is bekeken. En hoewel het percentage content dat we proactief detecteren erg hoog kan zijn, in sommige categorieën zelfs 99%, kan zelfs het resterende kleine percentage aanzienlijke gevolgen hebben voor mensen.
Hoe we ons percentage proactief berekenen
We berekenen dit percentage als: het aantal contentitems waarop we actie hebben ondernomen die we hebben gevonden en waarop we actie hebben ondernomen voordat mensen die Facebook of Instagram gebruiken ze rapporteerden, gedeeld door het totale aantal contentitems waarop we actie ondernamen.
Voor nepaccounts op Facebook berekenen we deze statistiek als het percentage Facebook-accounts dat is uitgeschakeld omdat ze nep zijn dat we hebben gevonden en waarop we actie hebben ondernomen voordat gebruikers ze aan ons rapporteerden. De statistiek wordt berekend als het aantal uitgeschakelde accounts dat we hebben gevonden en waarop we actie hebben ondernomen voordat gebruikers ze rapporteerden, gedeeld door het totale aantal accounts dat is uitgeschakeld omdat ze nep zijn.
Voorwaarden
We berekenen ons percentage proactief met behulp van een strikte toeschrijving van gebruikersrapporten aan content. Als iemand bijvoorbeeld een pagina rapporteert en we tijdens het bekijken van de pagina bepaalde inbreukmakende content op die pagina identificeren en op basis daarvan actie ondernemen, rapporteren we dat we proactief actie hebben ondernomen op die content (tenzij er specifieke aanvullende gebruikersrapporten van waren).
Lees het nieuwste handhavingsrapport voor de richtlijnen voor de community