기술로 검토 우선순위를 지정하는 방식
업데이트됨 2022. 1. 19.
위반 가능성이 있는 콘텐츠를 사람들이 신고하든 Meta 기술에서 감지하든 상관없이, 자동화를 사용하면 해당 분야와 언어에 대한 전문성을 가진 검토 담당자에게 콘텐츠를 빠르게 전달할 수 있습니다.
콘텐츠 검토 팀이 처음부터 가장 중요한 사례에 집중할 수 있도록 기술을 활용하여 콘텐츠의 순위를 매기고 우선순위를 지정합니다. 여기에는 오프라인 상해 가능성이 있는 콘텐츠(예: 테러리즘 및 자살 관련 게시물)와 정책을 위반하고 입소문을 타고 대규모 공개 대상에게 도달할 가능성이 있는 콘텐츠가 포함됩니다.
콘텐츠 검토 팀이 올바른 의사 결정을 내리는 데 주력할 수 있도록 Meta는 기술 및 프로세스를 지속적으로 개선하고 있습니다.
콘텐츠 검토 팀이 콘텐츠 관련 정책 시행에 중요한 이유
커뮤니티의 피해를 줄이기 위해 Meta의 기술 및 인적 검토 팀은 항상 협력합니다. 다음은 기술과 함께 검토 담당자가 전체 콘텐츠 관련 정책 시행 시스템을 강화하기 위해 지원하는 몇 가지 방식입니다.
기술 학습
검토 담당자는 콘텐츠에 대한 의사 결정을 내리는 동시에 시간이 지남에 따라 다른 유사한 콘텐츠를 식별하는 데 도움이 되는 기술을 학습시키고 정교화합니다. 이 인간-기술 피드백 루프는 시스템을 최신 상태로 유지하는 데 중요한 역할을 합니다.
인공 지능 알고리즘 개선
위반 콘텐츠를 검토할 때 콘텐츠 검토 팀은 의사 결정을 안내하는 정책에 수동으로 레이블을 지정합니다. 즉, 콘텐츠, 계정 또는 행동이 위반한 정책을 표시합니다. 이 중요한 레이블 데이터를 활용하면 유해한 콘텐츠를 사전에 검색하도록 인공 지능 알고리즘의 품질을 개선할 수 있습니다.
어려운 의사 결정 내리기
Meta 기술은 반복적인 위반 감지, 선정적이거나 극단적인 콘텐츠 식별이라는 두 가지 영역에 특히 적합합니다. 하지만 콘텐츠에 정책을 적용할지 여부에 대한 모호성, 복잡성 또는 미묘한 차이의 정도가 높은 경우 검토 담당자가 기술보다 더 정확한 결정을 내리는 경향이 있습니다.