Liderar o setor de IA com esforços de colaboração
Os prejuízos causados pelos conteúdos prejudiciais afetam todo o setor da tecnologia e toda a sociedade em grande escala. Por esse motivo, criamos a nossa tecnologia em código aberto para disponibilizá-la a outras pessoas. Acreditamos que a disponibilização da tecnologia e a colaboração com a comunidade de IA vai fomentar a investigação e o desenvolvimento, criar novas formas de detetar e impedir a existência de conteúdos prejudiciais e ajudar a manter as pessoas em segurança.
Eis algumas tecnologias que disponibilizámos em código aberto nos últimos anos, incluindo duas que venceram a concorrência:
O XLM-R é um modelo de aprendizagem automática preparado num idioma e utilizado com outros idiomas sem dados de preparação adicionais. Com pessoas que publicam conteúdos em mais de 160 idiomas nas tecnologias da Meta, o XLM-R permite-nos utilizar um modelo para muitos idiomas, em vez de um modelo por idioma. Isto ajuda-nos a identificar mais facilmente o discurso de incentivo ao ódio e outros conteúdos em infração num grande leque de idiomas e a lançar produtos em vários idiomas de uma só vez. Criámos os nossos modelos e código em código aberto para que a comunidade de investigação possa melhorar o desempenho dos seus modelos multilingues. Objetivo: dar às pessoas a melhor experiência nas nossas plataformas, independentemente do idioma que falam.
O Linformer é uma arquitetura transformadora que analisa milhares de milhões de conteúdos no Facebook e no Instagram em diferentes regiões de todo o mundo. O Linformer ajuda a detetar discurso de incentivo ao ódio e conteúdos que incitam à violência. Publicámos a nossa investigação e tornámos o código do Linformer aberto, para que outros investigadores e engenheiros possam melhorar os seus modelos. Objetivo: criar um novo modelo de IA que aprende a partir de texto, imagens e discurso e deteta eficazmente discurso de incentivo ao ódio, tráfico de pessoas, bullying e outras formas de conteúdos prejudiciais.
Desafio de Deteção de Falsificações
Criámos uma competição com a Microsoft, o nosso Parceiro de IA, e professores de várias universidades para desenvolver tecnologias que detetem melhor quando a IA foi utilizada para modificar um vídeo de modo a enganar os visualizadores. O nosso contributo para o Desafio de Deteção de Falsificações foi encomendar um conjunto de dados realista, de que o setor precisava, para ajudar a detetar falsificações. Objetivo: incentivar o setor a criar novas formas de detetar e impedir a utilização de conteúdos multimédia manipulados com IA para enganar as pessoas.
Desafio dos Memes de Discurso de Incentivo ao Ódio
Criámos uma competição com a Getty Images e a DrivenData para acelerar a investigação sobre o problema da deteção de discurso de incentivo ao ódio presente na combinação de imagens e textos. O nosso contributo para o Desafio dos Memes de Discurso de Incentivo ao Ódio foi criar um conjunto de dados único de mais de 10 000 exemplos, para que os investigadores pudessem utilizá-los no seu trabalho. Objetivo: incentivar o setor a criar novos métodos e abordagens para detetar discurso multimodal de incentivo ao ódio.