AI를 활용한 콘텐츠 규정 시행 방식 전환

업데이트됨 2026. 3. 19.

Meta는 항상 기술과 인력을 함께 활용하여 콘텐츠를 검토하고 커뮤니티 규정을 시행해왔습니다. 최근 발표한 바와 같이 기존의 콘텐츠 규정 시행 프로세스에 더욱 발전된 AI 시스템을 통합하는 실험을 진행하고 있습니다. 저희의 목표는 심각한 콘텐츠 위반 및 불법 콘텐츠를 더 많이 발견하고, 더 많은 사기를 방지하고, 실제 이벤트에 더 빠르게 대응할 수 있는 업데이트된 시스템을 활용하여 작년에 실수를 줄이기 위해 취한 조치의 긍정적인 결과를 계속 이어나가는 것입니다.

새로운 기술을 더 많이 활용하여 가능성을 확장하고 있지만, '사람'은 여전히 Meta의 접근 방식에서 중심입니다 Meta의 전문가는 정책을 작성 및 마련하고, AI 시스템을 설계, 교육, 평가하고, 성능을 측정하며, 가장 복잡하고 영향력이 큰 결정을 내리는 등 계속해서 주도적인 역할을 담당하고 있습니다. 고급 AI의 규모 및 기능이 사람의 전문 지식 및 판단 능력과 결합되어 서로를 강화하면서 Meta 플랫폼에서 사람들을 안전하게 보호하는 방식이 발전하고 있습니다.

변경되는 부분과 그대로 유지되는 부분

단계별 세심한 출시

Meta는 이번 전환을 시간을 들여 꼼꼼하게 진행하고 있으며, 세심하고 계획적인 출시를 위해 최선을 다하고 있습니다. 모든 AI 모델은 배포 전에 여러 단계의 엄격한 테스트를 거칩니다. 모든 테스트에서 대상 기술이 기존 시스템보다 더 우수한 성능을 일관되게 보이는 경우에만 AI 중심 규정 시행으로 전환합니다.

새로운 소식: 지원 언어 확대 및 감지 기능 개선

이러한 고급 AI 시스템은 기존의 약 80개 언어 지원 범위를 크게 뛰어넘어 온라인 사용자의 98%가 사용하는 언어를 지원합니다. 이는 수십억 개에 달하는 콘텐츠 전반에 걸쳐 정책을 보다 정확하고 일관되게 적용하는 데 도움이 됩니다. 이러한 시스템은 틈새 하위문화를 포함해 빠르게 변화하고 지역마다 다르게 쓰이는 암호화된 표현, 이모티콘의 의미, 그리고 속어 등 더 폭넓은 맥락과 문화적 뉘앙스를 이해할 수 있습니다.

Meta의 AI 시스템은 이미 초기 테스트에서 규정을 시행할 때 미묘한 차이를 찾는 데 유망한 성과를 거두었습니다. 예를 들면 실제 로고가 사용되었음에도 불구하고 비정상적으로 낮은 가격과 의심스러운 웹 주소가 함께 사용되는 것을 포착하고 합법적인 웹 주소를 스푸핑하여 인기 스포츠 용품 매장인 것처럼 가장한 가짜 사이트를 감지했습니다.

규정 시행의 핵심 원칙은 그대로 유지

사람 중심: 콘텐츠 규정을 시행하는 데 있어 사람들은 여전히 핵심적인 역할을 합니다. 전문가 팀은 Meta의 AI 규정 시행을 설계합니다. 이들은 정책을 설정하고, 모델을 훈련시키고, 성과를 검증하며, 계정 비활성화 재고 요청에 대한 최종 결정을 내리고, 법에 따라 필요한 경우 법 집행 기관에 알리는 등 위험도가 높고 영향력이 큰 결정을 내립니다.
커뮤니티 규정: 이번 전환의 일환으로 커뮤니티 규정은 변경되지 않으며, 계속해서 플랫폼 전반에서 허용되는 사항과 허용되지 않는 사항에 대한 규정을 정의할 것입니다. 변경되는 것은 이러한 정책을 시행하는 방식뿐입니다.
신고 및 재고 요청: 계속해서 저희 정책을 위반한다고 생각하는 콘텐츠를 신고할 수 있습니다. 또한 회원님의 콘텐츠나 계정에 조치가 취해진 경우에도 해당 결정에 대한 재고를 요청할 수 있습니다.

운영 방식

Meta는 AI의 기능과 인간의 전문성을 결합하여 프로세스 전반에 걸쳐 통합합니다.

배포 전 철저한 테스트 시행

AI 시스템이 실제로 규정 시행 결정을 내리기 전에 철저한 테스트를 거치고, 안전 장치를 설계에 반영합니다. AI 시스템의 결정을 가장 숙련된 검토 담당자의 결정과 비교하여 현재 콘텐츠 시행 방식보다 일관되게 더 나은 성과를 거둘 수 있다고 판단되는 경우에만 해당 시스템을 배포합니다.

명확한 품질 기준

모든 모델은 배포 전에 특정 정확도 벤치마크를 충족해야 합니다. 일관성, 효과, 공정성, 정확성을 보장하기 위해 성능을 평가하여 실제 위반 사항을 올바르게 식별하고 규정을 위반하는 콘텐츠와 위반하지 않는 콘텐츠를 구별합니다.

지속적인 모니터링

배포 이후에도 모든 모델을 지속적으로 평가합니다. 저희는 정확도를 추적하고, 예기치 않은 성능 변화를 모니터링하며, 문제가 발생할 경우 모델을 신속하게 조정하거나 개선할 수 있습니다. Meta 시스템은 빠른 반복과 수정이 가능하도록 설계되었으며, 팀과 기술을 통해 트렌드를 검토하여 조기에 문제를 잡아냅니다.

모든 단계에서 활용되는 사람의 전문성

사람들이 정책을 만들고, 사람들이 AI를 훈련시키고, 사람들이 성능을 모니터링합니다. 그리고 사람들이 가장 미묘하고 복잡하며 큰 영향을 미치는 결정을 내립니다. AI는 대규모로 규정을 더 잘 시행하고 일관성을 개선합니다. 사람들은 시스템을 판단하고 감독합니다.

정책 영역 전반의 성능

Meta AI 모델은 여러 정책 영역에 걸친 초기 단계의 테스트에서도 개선된 모습을 보이고 있습니다.

사기 또는 거짓

사기꾼이 사람들을 속여 로그인 상세 정보를 주도록 하는 것을 방지하기 위해 설계된 AI 솔루션은 기존 검토 팀에서 포착하지 못했던 사기 시도를 하루에 5,000건이나 성공적으로 찾아내고 차단했습니다.

성인용 콘텐츠 위반

성인 성매매 알선 위반을 감지하기 위해 빌드된 AI 시스템은 사람보다 2배 이상 많은 위반 콘텐츠를 적발했으며, 실수하는 비율도 60% 이상 줄였습니다. 즉, 유해한 콘텐츠를 더 빠르게 찾아서 삭제하는 동시에 부당한 규정 시행으로부터 더 많은 사람을 보호할 수 있게 되었습니다.

사칭

AI는 유명인 사칭에 대한 사용자 신고를 80% 줄였습니다. AI는 단순히 이름을 매칭하는 대신 더 많은 맥락(프로필 상세 정보, 게시 패턴, 진위 여부를 알 수 있는 관련 특성)을 분석하여 누군가가 유명인을 사칭하고 있는 경우를 인식할 수 있습니다.

앞으로의 계획

이러한 전환은 단계별로 진행되며 각 단계마다 신중한 테스트를 거칩니다. Meta는 커뮤니티 규정 시행 보고서에 규정 시행 데이터를 공개하며, AI 규정 시행이 더 많은 정책 영역으로 확대됨에 따라 성과와 과제를 모두 포함하여 알게 된 내용을 계속 공유할 예정입니다. 또한 규정과 정책의 적용에 대한 깊이 있는 전문 지식을 갖춘 전 세계의 전문 인력으로 구성된 팀을 강화할 계획입니다.

이 전환 및 규정 시행 프로세스가 투명하게 공개되는 것이 중요합니다. 현재 위반 사항에 대한 조치 방식에 대한 자세한 내용은 적절한 조치를 참조하세요. Meta 정책에 대한 자세한 내용은 커뮤니티 규정을 참조하세요. 정책을 개선하는 과정에서 다양한 관계자와 정기적으로 소통하고 있으며, 전환이 진행되는 동안 계속해서 규제 당국, 외부 전문가, 감독위원회와 협업하여 Meta의 접근 방식에 대한 의견을 구할 것입니다.

저희의 접근 방식은 새로운 위협, 변화하는 속어, 그리고 마약 판매에 사용되는 암호화된 표현과 같은 새로운 도전 과제에 적응할 수 있도록 설계되었습니다. 또한 고급 기술과 인간의 판단을 결합하면 최상의 결과를 얻을 수 있다는 원칙을 바탕으로 마련되었습니다.