글로벌 위험을 평가하고 대비하는 방법
업데이트됨 2024. 4. 29.
Meta는 중요한 이벤트 발생 시 즉각적인 위험을 지속적으로 평가하여 사람들의 안전을 지키는 데 도움이 되는 한시적인 정책과 제품 조치로 대응합니다. 이러한 접근 방식에는 선거를 포함한 지역 및 국가 이벤트를 앞둔 시점 또는 이벤트 도중 잠재적인 위험을 검토하는 것이 포함됩니다.
위험도가 높은 이벤트에 대응하기 위해 Meta는 제품 기능 변경 또는 제한, 메시지 전송 속도 제한 도입, 콘텐츠 배포 제한 등 다양한 시나리오에 대응할 수 있는 여러 가지 접근 방식을 마련했습니다.
저희는 공공 보고서에서 정보를 수집하고, 신뢰할 수 있는 파트너의 권장 사항을 검토하고, 콘텐츠 트렌드에 대한 지속적인 관찰, 인권 실사, 정보 팀의 평가 검토를 통해 잠재적으로 유해한 트렌드를 파악합니다. 이러한 정보는 기존의 커뮤니티 규정 및 집행 시스템과 함께 위기 상황(위험도가 높은 선거 포함)에서의 남용을 방지하기 위해 사용할 수 있는 제품 유형과 정책 완화 조치를 정하는 데 도움이 됩니다. 여기에는 콘텐츠 위험에 대처하는 방법을 평가하는 데 도움이 되는 위기 정책 프로토콜(CPP)과 높아진 위험에 대응하여 시스템을 조정하기 위해 취할 수 있는 별도의 조치가 포함되어 있습니다.
중요한 잠재적 완화 조치로는 장소를 임시 고위험 위치(THRL)로 지정하는 것이 포함될 수 있습니다. 이는 실제 이벤트로 인해 위험성이 높은 것으로 확인된 위치에서 특정 유형의 잠재적인 폭력 콘텐츠를 다루는 데 사용되는 정책 도구입니다. Meta는 위기 완화를 위한 정책 도구와 프레임워크 외에도 필요하거나 특정 상황이 발생하기 전에 회사 전체의 다양한 팀, 주제별 전문가 및 역량을 한데 모아 잠재적인 문제나 트렌드에 실시간으로 대응하기 위한 조치인 무결성 제품 운영 센터(IPOC)를 활용하고 있습니다.
선거 기간 동안 IPOC는 데이터 분석 도구, 신뢰할 수 있는 파트너가 제공하는 정보, 전통적인 미디어 등 다양한 출처를 모니터링합니다. 저희는 또한 사용자 보고서를 모니터링하고 분류 기술에서 플래그한 콘텐츠의 트렌드도 추적합니다.
THRL 지정 절차와 CPP 지정 검토 절차는 별개의 절차이지만, 폭력이나 오프라인 피해의 위험성이 높아졌다는 일부 동일한 신호를 기반으로 합니다. 위기 상황에서 THRL 지정을 고려할 수 있지만, CPP 지정에 따라 달라지거나 이에 의존하는 것은 아닙니다.
저희 팀은 지속적으로 플랫폼을 모니터링하여 진화하는 위험 환경을 평가하고, 추적 중인 신호의 급증 또는 변화에 대응하여 조정할 사항을 파악합니다. 높아진 위험에 대응하여 시스템을 조정하는 방법에 대한 자세한 내용은 여기를 참조하세요.