Percentuale di contenuti individuati in modo proattivo
AGGIORNATO 22 FEB 2023
Questa metrica mostra la percentuale di tutti i contenuti o account su cui abbiamo preso provvedimenti dopo averli individuati e prima che gli utenti ce li segnalassero. Usiamo questa metrica come un indicatore dell'efficacia con cui rileviamo le violazioni.
I nostri investimenti nelle tecnologie di apprendimento automatico sono fondamentali per un'individuazione più veloce delle violazioni.
Manteniamo un equilibrio tra apprendimento automatico e team di esperti qualificati che controllano e prendono provvedimenti sui contenuti in violazione.
La percentuale con cui riusciamo a individuare in modo proattivo i contenuti potenzialmente in violazione è alta per alcune violazioni, pertanto individuiamo e prendiamo provvedimenti sulla maggior parte dei contenuti prima che gli utenti ce li segnalino. Ciò è particolarmente vero nei casi in cui siamo riusciti a creare tecnologie di apprendimento automatico che identificano automaticamente i contenuti che potrebbero violare i nostri standard.
Tali tecnologie sono molto promettenti, ma è necessario ancora qualche anno per renderle efficaci per tutti i tipi di violazioni. Ad esempio, presentano ancora limiti nella capacità di capire il contesto e le sfumature, soprattutto nei contenuti testuali. Questo crea ulteriori sfide per l'individuazione proattiva di determinate violazioni.
La metrica può aumentare o diminuire per via di fattori esterni. Ad esempio, consideriamo un attacco informatico durante il quale degli spammer condividono 10 milioni di post che mostrano lo stesso URL malevolo. Se rilevassimo l'URL malevolo prima che un utente lo segnalasse, la percentuale di contenuti individuati in modo proattivo aumenterebbe durante l'attacco informatico e diminuirebbe dopo, anche se le nostre tecnologie di individuazione non sono cambiate in quell'intervallo di tempo. Questa metrica può aumentare o diminuire anche in base a come i nostri processi e strumenti cambiano; ad esempio, potrebbe aumentare se le nostre tecnologie di individuazione migliorano, ma potrebbe diminuire se le segnalazioni degli utenti migliorano e facciamo meno affidamento sull'individuazione proattiva.
Dato che la metrica si basa sul numero di contenuti su cui abbiamo preso provvedimenti, si applicano molte delle stesse considerazioni. La percentuale di contenuti individuati in modo proattivo non indica il tempo che impieghiamo per rilevare i contenuti in violazione o il relativo numero di visualizzazioni prima dell'individuazione. Non riflette neanche il numero di violazioni che non siamo riusciti a individuare o il numero di volte in cui i contenuti sono stati visualizzati. Sebbene la percentuale di contenuti individuata in modo proattivo possa essere molto alta (fino al 99% in alcune categorie), anche la piccola percentuale rimanente potrebbe avere un impatto significativo sulle persone.
Come calcoliamo la percentuale di contenuti individuati in modo proattivo
Calcoliamo questa percentuale nel modo seguente: il numero di contenuti su cui abbiamo preso provvedimenti dopo averli individuati e prima che gli utenti di Facebook o Instagram li segnalassero, diviso per il numero totale dei contenuti su cui abbiamo preso provvedimenti.
Per quanto riguarda gli account falsi su Facebook, calcoliamo questa metrica come la percentuale di account Facebook disabilitati in quanto falsi dopo averli individuati e su cui abbiamo preso provvedimenti prima che gli utenti ce li segnalassero. Viene calcolata come il numero di account disabilitati che abbiamo individuato e su cui abbiamo preso provvedimenti prima che gli utenti li segnalassero diviso per il numero totale degli account disabilitati in quanto falsi.
Precisazioni
Calcoliamo la percentuale di contenuti individuati in modo proattivo usando una rigida attribuzione delle segnalazioni degli utenti per i contenuti. Ad esempio, se qualcuno segnala una Pagina e, mentre controlliamo la Pagina, individuiamo e prendiamo provvedimenti su contenuti in violazione all'interno della Pagina in questione, segnaleremo di aver preso provvedimenti su quei contenuti in modo proattivo (a meno che non ci siano ulteriori segnalazioni specifiche degli utenti su di essi).
Visualizza l'ultimo Report sull'applicazione degli Standard della community