Meta의 기술 투자 방식
업데이트됨 2022. 1. 19.
다음은 Meta 도구에서 콘텐츠를 이해하는 방식을 개선하기 위해 Meta가 AI 기술에 투자한 몇 가지 사례입니다.
- 전 세계 다양한 지역에서 Facebook과 Instagram의 콘텐츠를 분석하는 Linformer라는 새로운 아키텍처를 개발했습니다.
- 온라인 신호로부터 학습하여 혐오 발언을 감지하는 역량을 개선하는 강화된 무결성 최적화(Reinforced Integrity Optimizer)라는 새로운 시스템을 구축했습니다.
- Meta 기술이 콘텐츠의 미세한 차이를 감지하여 잘못된 정보에 적절히 조치할 수 있도록 도와주는 SimSearchNet이라는 이미지 매칭 도구를 개선했습니다.
- 동일한 개념을 여러 언어로 이해하는 분류 기술을 구축할 수 있는 XLM 및 XLM-R이라는 언어 도구를 통합했습니다. 즉, Meta 기술이 한 가지 언어를 학습한 후 다른 언어로 성능을 개선할 수 있습니다. 이 기능은 인터넷에서 일반적으로 제공되지 않는 언어에 특히 유용합니다.
- 콘텐츠를 분석하여 혐오 발언이 포함되어 있는지 여부를 파악할 수 있는 총체적 이해 시스템을 구축했습니다.
개방적인 협력을 통해 AI 산업 선도
유해한 콘텐츠에 따른 문제는 전체 기술 산업과 사회 전반에 영향을 미칩니다. 이것이 바로 Meta가 저희 기술을 다른 사람이 사용할 수 있도록 오픈 소스로 제공하는 이유입니다. AI 커뮤니티에 개방적으로 협력하면 연구 및 개발을 더욱 활성화하여 유해한 콘텐츠를 감지하고 차단하는 새로운 방식을 개발하고, 사람들을 안전하게 보호할 수 있다고 생각합니다.
다음은 Meta가 주도한 두 가지 산업 경쟁을 비롯하여 Meta가 최근 몇 년 동안 오픈 소스로 제공한 기술 중 일부입니다.
XLM-R
XLM-R은 한 가지 언어로 학습한 후 추가적인 교육 데이터 없이 다른 언어로 사용되는 머신 러닝 모델입니다. 사람들이 Meta 기술에서 160개 이상의 언어로 콘텐츠를 게시하므로 XLM-R을 활용하면 언어별로 하나의 모델을 사용하는 대신 한 가지 모델을 다양한 언어에 사용할 수 있습니다. 따라서 다양한 언어로 작성된 혐오 발언과 기타 위반 콘텐츠를 손쉽게 식별하고 제품을 한 번에 여러 언어로 출시할 수 있습니다. 연구 커뮤니티에서 다국어 모델의 성능을 개선할 수 있도록 Meta는 모델 및 코드를 오픈 소스로 제공했습니다.
목표: 사용하는 언어에 상관없이 Facebook 플랫폼에서 최상의 사용자 경험을 제공합니다.Linformer
Linformer는 전 세계 다양한 지역의 Facebook과 Instagram에서 수십억 개의 콘텐츠를 분석하는 변환기 아키텍처입니다. Linformer를 사용하면 폭력을 조장하는 혐오 발언 및 콘텐츠를 감지할 수 있습니다. 다른 연구원과 엔지니어가 모델을 개선할 수 있도록 Meta는 연구 결과를 공개하고 Linformer 코드를 오픈 소스로 제공했습니다.
목표: 텍스트, 이미지 및 발언으로부터 학습하고 혐오 발언, 인신매매, 괴롭힘 및 기타 유해한 콘텐츠를 효과적으로 감지하는 새로운 AI 모델을 구축합니다.딥페이크 감지 챌린지
Microsoft와의 기술 경쟁, AI 기반 파트너십, 여러 대학 학술 기관과의 협력을 통해 시청자의 오해를 불러일으키려는 목적으로 AI를 사용하여 동영상을 변경하는 경우를 효과적으로 감지하는 기술을 구축했습니다. Meta는 업계에 부족한 실제 데이터 세트를 의뢰하는 딥페이크 감지 챌린지에 기여하여 딥페이크를 감지할 수 있도록 하고 있습니다.
목표: 사람들의 오해를 불러일으키기 위해 AI를 통해 조작된 미디어를 감지하여 차단하는 새로운 방식을 구축하도록 업계를 유도합니다.악의적인 밈 챌린지
Getty Images 및 DrivenData와의 기술 경쟁을 통해 이미지와 텍스트가 결합된 혐오 발언을 감지하는 문제에 관한 연구를 가속화했습니다. 연구원들이 업무에서 손쉽게 활용할 수 있도록 Meta는 10,000개 이상의 사례로 구성된 고유한 데이터 세트를 구축하는 악의적인 밈 챌린지에 기여했습니다.
목표: 업계에서 멀티 모달 혐오 발언을 감지하는 새로운 접근 방식과 방법을 구축하도록 유도합니다.