Avançar no setor de IA com esforços abertos e colaborativos
Os desafios do conteúdo prejudicial afetam todo o setor de tecnologia e a sociedade como um todo. É por esse motivo que utilizamos código aberto na nossa tecnologia a fim de disponibilizá-la para outras pessoas. Acreditamos que a colaboração com a comunidade de IA incentivará a pesquisa e o desenvolvimento, criará novas maneiras de detectar e prevenir conteúdo prejudicial e ajudará a manter as pessoas seguras.
Veja aqui algumas tecnologias cujo código abrimos nos últimos anos, incluindo duas concorrências que lideramos no setor:
O XLM-R é um modelo de machine learning que primeiro é treinado em um idioma e depois é usado com outros sem dados adicionais de treinamento. Com as pessoas postando conteúdo em mais de 160 idiomas nas tecnologias da Meta, o XLM-R possibilita que usemos um modelo para vários idiomas em vez de um por idioma. Dessa maneira, identificamos com mais facilidade discursos de ódio e outros conteúdos violadores em uma grande variedade de idiomas, além de lançar produtos em várias línguas de uma vez só. Abrimos o código dos nossos modelos para que a comunidade de pesquisa possa melhorar o desempenho dos próprios modelos multilíngues. Meta: oferecer às pessoas a melhor experiência nas nossas plataformas, independentemente do idioma que falam.
O Linformer é uma arquitetura transformadora que analisa bilhões de conteúdos no Facebook e no Instagram em diversas regiões do mundo. Ele facilita a detecção de discursos de ódio e de conteúdo que incite a violência. Publicamos nossas pesquisas e abrimos o código do Linformer para que outros pesquisadores e engenheiros pudessem aprimorar seus modelos. Meta: criar um novo modelo de IA que aprenda com texto, imagens e diálogo e detecte de maneira eficiente discurso de ódio, tráfico de pessoas, bullying e outras formas de conteúdo prejudicial.
Desafio de detecção de deepfakes
Criamos um concurso com a Microsoft, a Partnership on AI (Parceria em IA), e acadêmicos de várias universidades para encontrar a tecnologia que melhor detecte quando a IA foi usada com o objetivo de alterar um vídeo e enganar os visualizadores. Nossa contribuição para o Desafio de detecção de deepfakes foi encomendar um conjunto de dados realista, de que o setor precisava, para ajudar a detectar deepfakes. Meta: incentivar o setor a criar novas maneiras de detectar e prevenir o uso de mídia manipulada por IA para enganar as pessoas.
Desafio dos memes de ódio
Criamos um concurso com o Getty Images e o DrivenData para acelerar a pesquisa sobre o problema de detecção do discurso de ódio combinando imagens e texto. Nossa contribuição para o Desafio dos memes de ódio foi criar um conjunto de dados único com mais de dez mil exemplos para que os pesquisadores pudessem usá-los no trabalho com facilidade. Meta: incentivar o setor a criar novas abordagens e métodos de detecção do discurso de ódio multimodal.