Hoe we wereldwijde risico's beoordelen en ons erop voorbereiden
BIJGEWERKT 29 APR. 2024
Meta beoordeelt voortdurend de risico's van directe schade tijdens kritieke gebeurtenissen, zodat we kunnen reageren met gerichte, tijdelijke beleids- en productacties die mensen veilig houden. Deze aanpak omvat het onderzoeken van potentiële risico's voor en tijdens lokale, regionale en nationale gebeurtenissen, waaronder verkiezingen.
Als reactie op gebeurtenissen met een hoog risico heeft Meta meerdere manieren om verschillende scenario's aan te pakken, zoals het wijzigen of beperken van productfuncties, het introduceren van snelheidsbegrenzingen voor chatberichten en het beperken van de verspreiding van content.
We identificeren potentieel schadelijke trends door informatie te verzamelen uit openbare rapporten, aanbevelingen van onze vertrouwde partners te beoordelen, doorlopende observaties van contenttrends en due diligence met betrekking tot mensenrechten uit te voeren en beoordelingen van onze intelligence-teams te bestuderen. Deze informatie, samen met de bestaande richtlijnen voor de community en handhavingssystemen, helpt ons te bepalen welke product- en beleidsmaatregelen we kunnen gebruiken om misbruik tijdens crises te voorkomen, waaronder verkiezingen met een hoog risico. Dit omvat ons Crisisbeleidsprotocol (CPP), dat ons helpt manieren te beoordelen om contentrisico's aan te pakken en afzonderlijke maatregelen te nemen om onze systemen aan te passen als reactie op verhoogd risico.
Een belangrijke en potentiële beperking kan het aanwijzen van plaatsen als omvattenTijdelijke locaties met hoog risico (THRL), een beleidstool die wordt gebruikt om specifieke typen potentieel gewelddadige content aan te pakken op locaties die zijn geïdentificeerd als hoog risico vanwege gebeurtenissen in de echte wereld. Naast onze beleidstools en -kaders voor het beperken van crises, vertrouwt Meta ook op de Integrity Product Operations Centers (IPOC's). Dit is een maatregel die verschillende teams, experts op het gebied en mogelijkheden vanuit het hele bedrijf samenbrengt, indien nodig en soms voorafgaand aan een bepaalde situatie, om in realtime te reageren op potentiële problemen of trends.
Tijdens een bepaalde verkiezing monitort een IPOC meerdere bronnen, waaronder tools voor gegevensanalyse, input van vertrouwde partners en traditionele media. We monitoren ook trends in gebruikersrapporten en content die door onze classifiers is gemarkeerd.
Hoewel het gaat om afzonderlijke ondernomen, maken het aanwijzingsproces voor THRL en het beoordelingsproces voor CPP gebruik van een aantal van dezelfde signalen voor een verhoogd risico op geweld of offline schade. Hoewel we in een crisis mogelijk een THRL zouden kunnen aanwijzen, is dit niet afhankelijk van of gebaseerd op een aanwijzing van een CPP.
Onze teams monitoren onze platformen doorlopend om de veranderende risico's te beoordelen en te bepalen welke aanpassingen nodig zijn als reactie op piekperioden of wijzigingen in de signalen die we volgen. Bekijk hier voor aanvullende informatie over de manieren waarop we onze systemen aanpassen als reactie op verhoogd risico.