위험한 단체 및 개인에 대한 Meta의 접근 방식
업데이트됨 2024. 11. 11.
폭력, 조직적인 범죄, 혐오 또는 테러리즘을 조장하는 단체나 개인은 Meta 플랫폼에서 허용되지 않습니다. 저희는 수년 동안의 작업을 통해 이러한 유형의 콘텐츠를 처리하기 위해 위험한 개인 및 단체(DOI) 정책 및 프로세스를 개발했으며, 앞으로도 계속 개발해나갈 것입니다. 저희는 사람들이 자신의 삶과 가족, 커뮤니티에 영향을 미치는 세상의 여러 이벤트에 대해 이야기할 수 있는 공간을 제공하기 위해 노력하고 있지만, 저희 플랫폼에서 허용되지 않는 콘텐츠를 제한하는 정책이 있습니다.
플랫폼을 안전하게 보호하기 위해 고안된 Meta의 정책
Meta는 카르텔, 폭력을 유도하는 주체, 지정된 위반 이벤트(예: 총기 난사 또는 테러리스트 공격)의 가해자 등 테러 조직, 혐오 단체, 조직적인 범죄 단체를 대상으로 업계에서 가장 포괄적인 정책 중 하나를 적용하고 있습니다.
본 DOI 정책에 따라 저희는 활동에 관여하는 개인과 단체를 지정 및 금지하고, 이들을 미화하고 지지하는 표현을 인지하는 경우 해당 표현을 삭제합니다. 저희는 폭력을 유도하는 주체(미래의 폭력을 준비하고 옹호하는 데 가담하지만 현재까지 폭력에 가담하지는 않은 주체)도 지정 및 금지하며, 이들을 미화하고 지지하는 표현도 삭제합니다.
Meta 정책은 모두에게 공개됩니다. Meta 정책에 대한 자세한 내용은 커뮤니티 규정 페이지를 참조하세요. 또한 저희는 분기별 커뮤니티 규정 보고서에서 이러한 콘텐츠가 얼마나 삭제되었는지에 관한 상세 정보를 주기적으로 게시합니다.
지정 방법 및 이유
폭력적이거나 악의적인 목표를 주창하거나 폭력에 가담하는 단체와 개인은 Meta 플랫폼에 발을 들일 수 없습니다. 저희는 온라인과 오프라인 모두에서의 행동을 기반으로 이들 주체를 평가하며, 특히 폭력과의 연관성을 평가합니다. 이 정책에 따라 저희는 개인, 단체, 인적 네트워크를 지정합니다. 더 효과적이고 균형적이고 일관된 시행을 보장하기 위해 지정 등급을 두 가지로 나누었습니다. 이러한 등급과 각 등급에 포함되는 단체의 유형은 커뮤니티 규정에서 자세히 확인할 수 있습니다.
저희는 정보의 다양한 출처를 고려하는 강력한 내부 프로세스를 갖추고 있으며, 이에 따라 단체와 개인의 지정 가능성을 평가합니다. 지역이나 이념에 구애되지 않고 지정에 대한 정의 및 프로세스를 개발함으로써 Meta 플랫폼을 사전에 견고하고 공정하게 보호할 수 있습니다.
이 작업은 고정된 것이 아닙니다. 저희는 그들의 행동, 변화하는 환경, 새로운 정보, 내부 전문가 분석, 외부 관계자의 의견을 기반으로 지속적으로 위험을 평가하고 지정할 단체 및 개인을 평가합니다. 예를 들어 2024년 1월에 발표한 바와 같이 지정된 단체나 개인이 행동을 변경하는 경우, 특히 (1) 미국 정부에 의해 특별 지정 마약밀매상(Specially Designated Narcotics Trafficking Kingpin, SDNTK), 해외 테러리스트 조직(FTO) 또는 특별 지정 국제 테러리스트(SDGT)로 지정되지 않고, (2) 폭력 또는 혐오 활동에 더 이상 참여하지 않고, (3) 폭력 및 혐오 활동을 상징하거나 폭력을 선동하거나 폭력 또는 혐오 선전을 전파하지 않는 경우 목록에서 삭제될 수도 있습니다.
저희는 투명성을 매우 소중하게 여기고 장단점을 지속적으로 평가하고 있지만, 보안 및 법적 위험을 완화하고 위험한 행위 주체가 저희 시행 메커니즘을 우회하는 것을 방지하기 위해 현재 세부적인 지정 목록을 공유하고 있지 않습니다.
위험한 단체 및 개인에 대한 규정 시행 방법
저희는 DOI 활동을 방지하기 위해 인력, 기술, 파트너십 및 연구에 상당한 투자를 하고 있습니다.
- 테크놀로지: 저희는 AI와 인간 지능을 결합하여 이 분야에 접근하고 있으며 이러한 변화하는 환경을 잘 이해하기 위해 연구에 투자하고 외부 전문가 및 단체와 협력하고 있습니다. 저희는 AI를 이용하여 동영상, 이미지, 오디오, 텍스트 및 그래픽(예: 로고, 폭력 묘사)을 감지합니다. 또한 파트너가 자체 플랫폼에서 위험한 단체 및 개인에 대응하는 기술에 접근할 수 있도록 업계 전반에 걸쳐 오픈 소스 도구를 제공합니다. 예를 들어 2022년 12월에 업계의 모든 기업이 자사 플랫폼에서 테러리스트 콘텐츠를 쉽게 제거할 수 있도록 돕기 위해, 플랫폼에서 이미지나 동영상을 식별하고 일괄적으로 조치를 취할 수 있는 무료 오픈 소스 소프트웨어 도구인 'Hasher Matcher Actioner'(HMA)를 제공했습니다.
- 인력: 맥락과 언어는 복잡하므로 기술만으로 DOI에 대한 미화와 문화적 비판을 구분하는 것이 어려울 수도 있습니다. 따라서 저희는 안전 및 보안 관련 부문에 수십억 달러를 투자하고 약 4만 명의 직원을 배치하고 있습니다. 그 안에는 법률 집행, 국가 안보, 대테러 정보, 급진화 관련 학술 연구 등 다양한 전문 분야에서 이 작업을 전담하는 수백 명의 부서 간 협업 팀이 있습니다.
- 파트너십: 유해한 활동이 세상에 존재하는 한 인터넷에도 존재할 것이며 어떠한 기업도 이러한 문제를 단독으로 해결할 수 없습니다. 그래서 기업, 시민 사회, 연구자, 정부 등과의 파트너십이 매우 중요합니다. Meta는 전 세계 정부 및 정부 간 기관과 협력하며, 테러, 폭력적 극단주의, 사이버 정보, 온라인 적대 행위에 대한 전문 지식을 갖춘 단체와 제휴하고 있습니다.
- GIFCT: Meta는 2017년에 YouTube, Microsoft 및 Twitter와 협력하여 테러리스트와 폭력적 극단주의자들이 디지털 플랫폼을 악용하는 것을 방지하기 위해 테러리즘 대응을 위한 국제 인터넷 포럼(GIFCT)을 조직했습니다. GIFCT는 2019년에 독립 NGO가 되었으며, 공격에 대응하여 업계 전반의 위기 대응을 조정합니다.
- 사법당국: 인명에 대한 구체적이고 긴박하며 신빙성이 있다고 판단되는 위협을 인지한 경우 저희는 이를 사법당국에 즉시 알립니다. Meta는 또한 폭력적인 공격과 관련하여 사법당국과 협력하지만, 정당한 법적 절차, 개인정보 보호, 표현의 자유, 법 규정 등 인권에 관한 국제적으로 인정된 규정에 부합하고 법적으로 유효한지 확인하기 위해 항상 모든 정부 요청을 면밀히 검토합니다. 요청이 정당하지 않거나 범위가 과도한 것으로 밝혀지면 해당 요청을 거부합니다. Meta가 사법당국에 협조하는 방식에 대한 자세한 내용은 여기를 참조하세요.
- 독립 연구: 저희는 업계에서 이러한 중요한 문제에 관해 이해하고 진전을 이룰 수 있도록 싱크 탱크, 학술 기관 및 NGO에 폭력적 극단주의자와 테러리스트의 인터넷 사용과 관련한 다양한 주제에 대한 독립적인 연구를 의뢰합니다. 2022년에 Meta는 미들베리 국제연구소의 테러, 극단주의 및 대테러 센터와 파트너십을 맺고 폭력적 극단주의의 진화 추세와 커뮤니티가 이를 근절하는 데 도움이 되는 효과적인 도구를 분석한다고 발표했습니다.
- 전략적 네트워크 중단: 테러리즘과 조직적인 혐오에 대한 대부분의 규정 시행은 일상적인 콘텐츠 삭제이지만 그것만으로는 충분하지 않은 경우도 있습니다. 이는 적대적인 공간이며, 때때로 지정된 위험한 주체가 규정 시행을 우회하여 저희 플랫폼에서 네트워크를 재구성하려고 시도합니다. 이러한 네트워크를 근절하기 위해 저희는 전략적 네트워크 중단(SND)이라는 주요 접근 방식을 사용합니다. SND를 사용하면 이미 금지된 DOI 행위 주체의 네트워크를 처음 지정할 때 또는 지정된 그룹을 저희 플랫폼에서 차단하기 위한 지속적인 노력의 일환으로 한 번에 모두 삭제할 수 있습니다. 이러한 클러스터를 전체적으로 비활성화하면 이들이 플랫폼으로 돌아가기가 더욱 어려워집니다. 또한 저희가 이들의 존재를 인지하고 있으며 이들 그룹이 저희 플랫폼에서 환영받지 못한다는 분명한 메시지를 전달합니다. 마지막으로 이 기술을 활용하면 이러한 DOI가 탐지를 우회하려고 시도하는 방법과 계정이 삭제된 이후에 저희 앱으로 복귀하려고 시도하는 방법을 연구할 수 있습니다.
- 2023년 6월에, 독립 학술지인 미국국립과학원회보(Proceedings of the National Academy of Sciences, PNAS)에 혐오 그룹 근절에 관한 SND 전략의 효과를 연구하는 Meta 연구자 Daniel Robert Thomas 및 Laila A. Wahedi의 논문이 발표되었습니다. 이 연구에서 저희는 이 전략이 효과가 있으며 저희 플랫폼에서 더 건강하고 안전한 사용자 경험을 구축하는 데 도움이 된다는 사실을 확인했습니다.
예방 작업
Meta는 플랫폼의 안전과 무결성을 유지하기 위해 최선을 다하고 있습니다. 이를 실현하는 방법 중 하나는 업스트림 예방을 통해 DOI가 개인 또는 커뮤니티에 뿌리를 내리기 전에 예방 조치를 취하여 DOI 확산을 방지하는 것입니다. 여기에는 타게팅된 개입 사용과 긍정적인 발언 촉진이 포함됩니다. 저희는 건설적인 대화가 필수적이라고 생각하며, 이러한 교류를 장려하는 환경을 조성하기 위해 노력하고 있습니다.
이러한 노력을 더욱 강화하기 위해 극단주의, 조직적인 혐오, 범죄 활동에 맞서 싸우는 데 전념하는 시민 사회 단체(CSO)에 적극적으로 협력합니다. Meta는 이러한 단체의 역량을 강화하고 카운터 스피치 콘텐츠를 만드는 데 필요한 리소스를 제공하여 이들 단체를 지원합니다. 이 콘텐츠는 극단주의자 내러티브에 도전하고 대안적 관점을 제시하여 더욱 긍정적이고 포용적인 온라인 환경을 조성하는 데 도움이 됩니다.
극단주의에 대응하기 위한 저희의 접근 방식은 예방, 협업, 긍정적 발언 촉진을 결합하는 다각적이고 선제적인 방식입니다.
- 회복성 이니셔티브는 아시아, 아프리카, 미국의 폭력적 극단주의 예방/대응(P/CVE) 캠페인 전략 전반에 걸쳐 CSO를 교육하고 효과적인 카운터 스피치 캠페인 역량을 구축하는 프로그램입니다. 회복성 이니셔티브의 일환으로 Meta는 혐오로 인한 폭력에 대응하고 사회 및 커뮤니티의 회복력을 구축하기 위해 현지에서 활동하는 커뮤니티 기반 파트너를 지원하기 위해 Search for Common Ground(SFCG)와 미국 기반 파트너십을 시작했습니다.
- 안전한 검색: 또한 저희는 사람들이 위험한 단체 및 개인과 관련된 용어를 검색할 때 리소스를 안내합니다(적절한 경우). 사용자가 Facebook, Instagram, Threads에서 DOI 용어를 검색하면 대신 리소스를 제공하여, DOI 콘텐츠에 대한 검색을 억제하고 사용자에게 교육 리소스를 제공하는 데 도움이 됩니다.또한 저희는 호주, 미국, 영국, 독일, 인도, 인도네시아, 파키스탄 등 여러 국가에서 검색 프로그램을 실행합니다. 사용자가 각 시장에 고유하고 일반적으로 특정 DOI 피해에 초점을 맞춘 용어를 검색하는 경우, 저희는 극단주의 위험에 처한 사용자에게 전문적인 지원 서비스를 제공하는 현지 CSO와 협력하여 추가 정보 및 리소스를 제공합니다.
- 커뮤니티 단체에 리소스 제공: 또한 저희는 CSO 파트너가 카운터 스피치 프로그램을 운영할 때 광고 크레딧과 전략적 지원을 제공하여 피해를 사전에 예방할 수 있도록 지원하는 안전 광고 프로그램을 운영합니다. 저희는 이러한 단체와 협력하여 DOI 근절을 위한 파트너십을 확대하려고 합니다.
이러한 노력은 현재 진행 중이며, 저희는 위험한 단체 및 개인이 세상에 존재하는 한 인터넷에도 존재한다는 사실을 알고 있으므로 항상 경계를 늦추지 않고 있습니다. 이러한 그룹은 탐지를 피하거나 정책 및 규정 시행을 회피하기 위해 새로운 전술을 취합니다. 이러한 적대적인 행동 때문에 저희는 한발 앞서 나아가기 위해 부단히 노력하며, 저희의 접근 방식을 평가 및 업데이트하고 있습니다.