Come valutiamo e ci prepariamo ai rischi globali
AGGIORNATO 29 APR 2024
Meta valuta costantemente i rischi di pericolo imminente durante gli eventi critici per poter rispondere con azioni mirate e a tempo limitato relative a normative e prodotti che aiutino a proteggere le persone. Questo approccio include l'esame dei rischi potenziali prima e durante eventi locali, regionali e nazionali, incluse le elezioni.
In risposta a eventi ad alto rischio, Meta può adottare diversi approcci per affrontare una serie di scenari, ad esempio modificando o limitando le funzioni dei prodotti, introducendo limiti di frequenza dei messaggi e riducendo la distribuzione dei contenuti, tra le altre cose.
Identifichiamo le tendenze potenzialmente pericolose raccogliendo informazioni da report pubblici, controllando i consigli dei nostri partner di fiducia, osservando in modo continuo le tendenze dei contenuti, effettuando verifiche in materia di diritti umani e analizzando le valutazioni dei nostri team di intelligence. Queste informazioni, insieme agli Standard della community e ai sistemi di applicazione delle normative esistenti, ci aiutano a stabilire il tipo di prodotto e le attenuanti normative da utilizzare per prevenire usi impropri durante le emergenze, come ad esempio le elezioni ad alto rischio. Il nostro Protocollo normativo per le situazioni di emergenza (CPP) rientra in questo ambito e ci aiuta a valutare i modi per affrontare i rischi legati ai contenuti e le azioni che potremmo intraprendere per adattare i nostri sistemi alle situazioni ad alto rischio.
Una delle misure che utilizziamo prevede la designazione di località come Luoghi temporaneamente ad alto rischio (THRL), uno strumento normativo che consente di gestire tipi specifici di contenuti potenzialmente violenti in luoghi identificati come ad alto rischio a causa di eventi nel mondo reale. Oltre agli strumenti e ai framework normativi per la mitigazione delle crisi, Meta ricorre anche ai centri IPOC, una misura che riunisce diversi team, esperti e funzionalità dell'azienda, a seconda dei casi e a volte prima di una determinata situazione, per agire in tempo reale in risposta a tendenze o problemi potenziali.
Durante una data elezione, un IPOC monitorerà più fonti, tra cui strumenti di analisi dei dati, input di partner di fiducia e media tradizionali. Monitoriamo anche le tendenze presenti nelle segnalazioni degli utenti e nei contenuti contrassegnati dai nostri classificatori.
Anche se si tratta di due procedure distinte, il THRL e il CPP si basano su alcuni segnali condivisi di rischio elevato di violenza o pericolo offline. La designazione di un THRL durante una crisi non è necessariamente subordinata o conseguente alla designazione di un CPP.
I nostri team monitorano costantemente le nostre piattaforme per valutare l'evoluzione del rischio e stabilire eventuali modifiche in risposta a picchi o cambiamenti nei segnali che monitoriamo. Maggiori informazioni sui modi in cui adattiamo i nostri sistemi in risposta a un rischio più elevato sono disponibili qui.