사전 대응률
업데이트됨 2023. 2. 22.
이 지표는 사용자가 저희에게 신고하기 전에 저희가 발견하여 조처한 모든 조치가 취해진 콘텐츠 또는 계정의 비율을 보여줍니다. 저희는 해당 지표를 저희가 위반을 얼마나 효과적으로 감지하는지를 나타내는 측정 지표로 사용합니다.
저희가 투자하는 머신 러닝 기술은 더욱 빠른 위반 감지에 매우 중요합니다.
저희는 위반 콘텐츠를 검토하고 조치를 취하는 전문가 팀과 머신 러닝을 적절하게 활용합니다.
일부 위반 유형의 경우 잠재적인 위반 콘텐츠의 사전 감지율이 높은데, 이는 저희가 대부분의 위반 콘텐츠를 사용자가 신고하기 전에 빠르게 발견하여 조치를 취할 수 있다는 뜻입니다. 특히 저희가 규정을 위반할 수 있는 콘텐츠를 자동으로 식별하는 머신 러닝 기술을 개발한 영역의 경우 조치 속도가 빠릅니다.
이러한 기술은 매우 장래가 촉망되지만 해당 기술을 모든 위반 유형에 효과적으로 적용하기까지는 여전히 오랜 시간이 필요할 것으로 예상됩니다. 예를 들어, 특히 텍스트 기반 콘텐츠의 경우 아직은 문맥과 미묘한 차이를 이해하는 데 한계가 있습니다. 따라서 특정 위반의 경우 미리 감지하기가 더 어렵습니다.
이 지표는 외부 요인으로 인해 증가하거나 감소할 수 있습니다. 예를 들어, 스팸 발송자가 동일한 악성 URL이 포함된 게시물 1,000만 개를 공유하는 사이버 공격이 발생한 상황을 가정해보겠습니다. 사용자가 신고하기 전에 저희가 악성 URL을 감지한다면 감지 기술에 변화가 없더라도 사이버 공격이 진행되는 동안에는 사전 대응률이 올랐다가 이후에는 내려갈 것입니다. 또한 위반 처리 프로세스와 도구의 변화에 따라 이 지표가 증가하거나 감소할 수도 있습니다. 예를 들어 감지 기술이 개선됨에 따라 지표가 증가할 것이고, 사용자 신고 기능이 개선되면서 사전 감지에 대한 의존도가 낮아지면 해당 지표는 감소할 것입니다.
이 지표는 조치를 취한 콘텐츠의 양을 기준으로 산출되므로 다수의 고려 사항이 동일하게 적용됩니다. 위반 콘텐츠를 감지하는 데 걸리는 시간이나 감지되기 이전의 조회 수는 사전 대응률에 반영되지 않습니다. 또한 감지하지 못한 위반 건수나 위반 콘텐츠의 조회수 역시 반영되지 않습니다. 위반 콘텐츠의 사전 감지율이 높기는 하지만(일부 카테고리의 경우 최고 99%), 감지되지 않은 소수의 콘텐츠는 사람들에게 심각한 영향을 미칠 수 있습니다.
사전 대응률 계산 방식
이 비율은 Facebook 또는 Instagram 사용자가 신고하기 전에 저희가 발견하여 조치를 취한 콘텐츠의 수를 저희가 조치를 취한 전체 콘텐츠 수로 나누어 계산합니다.
Facebook 가짜 계정의 경우에는 사용자가 신고하기 전에 저희가 발견하여 조치를 취한 후 가짜로 확인되어 비활성화한 Facebook 계정의 비율로 이 지표를 계산합니다. 즉, 계산된 사전 대응률은 사용자가 신고하기 전에 저희가 발견하여 조치를 취한 후 비활성화한 계정 수를 가짜로 확인되어 비활성화한 총 계정 수로 나눈 값입니다.
주의 사항
저희는 사전 대응률을 계산할 때 콘텐츠에 대한 사용자 신고의 기여도를 엄격하게 고려합니다. 예를 들어, 페이지를 보던 사용자가 그 페이지를 신고했으며 저희가 해당 페이지를 검토하는 동안 페이지에 있는 위반 콘텐츠를 확인하여 조치를 취한 경우, 해당 위반 콘텐츠에 대한 구체적인 별도의 사용자 신고가 없었다면 해당 건은 저희가 사전에 조치를 취한 것으로 보고하게 됩니다.
최신 커뮤니티 규정 시행 보고서 보기