Proaktiv andel

UPPDATERAD 22 FEB 2023

Det här måttet visar procentandelen av allt innehåll eller alla konton vi vidtagit åtgärder mot innan användare anmält dem till oss. Vi använder måttet som en indikator på hur effektivt vi upptäcker överträdelser.

Våra investeringar i teknik för maskininlärning är avgörande för att hjälpa oss att upptäcka överträdelser snabbare.

Vi balanserar upp maskininlärningen med ett utbildat team med experter som granskar och vidtar åtgärder mot innehåll som bryter mot reglerna.

För vissa typer av överträdelser upptäcker vi proaktivt en hög andel av innehåll som skulle kunna bryta mot reglerna. Det innebär att vi upptäcker och åtgärdar det mesta innehållet innan användarna anmäler det till oss. Det gäller särskilt när vi har kunnat skapa teknik för maskininlärning som automatiskt identifierar innehåll som skulle kunna bryta mot våra regler.

Sådan teknik är mycket lovande, men det kommer att dröja flera år innan den är effektiv för alla typer av överträdelser. Det finns till exempel fortfarande begränsningar i förmågan att förstå sammanhang och nyanser, i synnerhet för textbaserat innehåll. Det skapar ytterligare utmaningar för proaktiv upptäckt av vissa typer av överträdelser.

Andelen kan stiga och sjunka beroende på externa faktorer. Vi tar till exempel en cyberattack under vilken spammare delar tio miljoner inlägg med samma skadliga webbadresser. Om vi upptäcker den skadliga webbadressen innan någon användare anmäler den till oss skulle den proaktiva andelen stiga under cyberattacken och sjunka efter den, även om vår detekteringsteknik inte förändrats under perioden. Andelen kan också stiga eller sjunka beroende på hur våra processer och verktyg förändras. Den kan till exempel stiga om detekteringstekniken förbättras, men sjunka om användarrapporteringen förbättras och vi förlitar oss mindre på proaktiv upptäckt.

Eftersom måttet baseras på mängden åtgärdat innehåll gäller även många av dessa överväganden. Vår proaktiva andel speglar inte hur lång tid det tar oss att upptäcka innehåll som bryter mot reglerna eller hur många gånger innehållet visats innan det upptäcks. Den speglar heller inte hur många överträdelser vi inte upptäckt eller hur många gånger det innehållet visats. Även om procentandelen innehåll vi upptäcker proaktivt kan vara mycket hög — hela 99 % i vissa kategorier – kan den lilla procentandel som återstår dessutom ha stor inverkan på människor.

Hur vi beräknar vår proaktiva andel

Vi beräknar procentandelen så här: antalet olika innehållsobjekt vi vidtagit åtgärder mot som vi hittat och åtgärdat innan personer som använder Facebook eller Instagram anmält dem, delat med det totala antalet innehållsobjekt vi vidtagit åtgärder mot.

När det gäller falska konton på Facebook beräknar vi måttet som procentandelen Facebook-konton som inaktiverats på grund av att de är falska som vi hittat och åtgärdat innan användare anmält dem till oss. Det beräknas som antalet inaktiverade konton vi hittat och åtgärdat innan användare anmält dessa till oss, delat med det totala antalet konton som inaktiverats på grund av att de är falska.

Problemområden

När vi beräknar vår proaktiva andel använder vi oss av strikt attribution av användaranmälningar av innehåll. Om någon till exempel anmäler en sida och vi när vi granskar sidan identifierar och vidtar åtgärder mot något innehåll som bryter mot reglerna på den skulle vi ange att vi har åtgärdat innehållet proaktivt (såvida innehållet inte specifikt anmälts av andra användare).

Visa den senaste verkställighetsrapporten för communityregler