Como a Meta investe na tecnologia

ÚLTIMA ATUALIZAÇÃO 19 DE JAN DE 2022
Investimos na inteligência artificial para melhorar nossa capacidade de detectar conteúdo violador e de proteger as pessoas. Seja para melhorar um sistema já existente ou introduzir um novo, esses investimentos nos ajudam a automatizar decisões relacionadas a conteúdos para podermos responder de forma mais rápida e reduzir erros.
Veja aqui alguns dos investimentos que fizemos na tecnologia de IA para aprimorar a compreensão de conteúdo das nossas ferramentas:
  • Desenvolvemos uma nova arquitetura chamada Linformer, que analisa conteúdo no Facebook e no Instagram em diversas regiões do mundo.
  • Criamos um sistema chamado Reinforced Integrity Optimizer (Otimizador de Integridade Reforçada), que aprende com os sinais online para melhorar nossa capacidade de detectar discurso de ódio.
  • Aprimoramos uma ferramenta de correspondência de imagens chamada SimSearchNet, que ajuda nossa tecnologia a detectar diferenças sutis no conteúdo para a tomada de medidas contra a desinformação.
  • Incorporamos ferramentas de idioma chamadas XLM e XLM-R, que nos ajudam a criar classificadores que compreendem o mesmo conceito em vários idiomas. Ou seja, quando nossa tecnologia aprende em um idioma, ela aprimora seu desempenho em outros, o que é especialmente útil para idiomas menos comuns na internet.
  • Criamos um sistema de compreensão da entidade como um todo, que analisa o conteúdo para ajudar a determinar se ele contém discurso de ódio.
Avançar no setor de IA com esforços abertos e colaborativos
Os desafios do conteúdo prejudicial afetam todo o setor de tecnologia e a sociedade como um todo. É por esse motivo que utilizamos código aberto na nossa tecnologia a fim de disponibilizá-la para outras pessoas. Acreditamos que a colaboração com a comunidade de IA incentivará a pesquisa e o desenvolvimento, criará novas maneiras de detectar e prevenir conteúdo prejudicial e ajudará a manter as pessoas seguras.
Veja aqui algumas tecnologias cujo código abrimos nos últimos anos, incluindo duas concorrências que lideramos no setor:
O XLM-R é um modelo de machine learning que primeiro é treinado em um idioma e depois é usado com outros sem dados adicionais de treinamento. Com as pessoas postando conteúdo em mais de 160 idiomas nas tecnologias da Meta, o XLM-R possibilita que usemos um modelo para vários idiomas em vez de um por idioma. Dessa maneira, identificamos com mais facilidade discursos de ódio e outros conteúdos violadores em uma grande variedade de idiomas, além de lançar produtos em várias línguas de uma vez só. Abrimos o código dos nossos modelos para que a comunidade de pesquisa possa melhorar o desempenho dos próprios modelos multilíngues.
Meta: oferecer às pessoas a melhor experiência nas nossas plataformas, independentemente do idioma que falam.
O Linformer é uma arquitetura transformadora que analisa bilhões de conteúdos no Facebook e no Instagram em diversas regiões do mundo. Ele facilita a detecção de discursos de ódio e de conteúdo que incite a violência. Publicamos nossas pesquisas e abrimos o código do Linformer para que outros pesquisadores e engenheiros pudessem aprimorar seus modelos.
Meta: criar um novo modelo de IA que aprenda com texto, imagens e diálogo e detecte de maneira eficiente discurso de ódio, tráfico de pessoas, bullying e outras formas de conteúdo prejudicial.
Criamos um concurso com a Microsoft, a Partnership on AI (Parceria em IA), e acadêmicos de várias universidades para encontrar a tecnologia que melhor detecte quando a IA foi usada com o objetivo de alterar um vídeo e enganar os visualizadores. Nossa contribuição para o Desafio de detecção de deepfakes foi encomendar um conjunto de dados realista, de que o setor precisava, para ajudar a detectar deepfakes.
Meta: incentivar o setor a criar novas maneiras de detectar e prevenir o uso de mídia manipulada por IA para enganar as pessoas.
Criamos um concurso com o Getty Images e o DrivenData para acelerar a pesquisa sobre o problema de detecção do discurso de ódio combinando imagens e texto. Nossa contribuição para o Desafio dos memes de ódio foi criar um conjunto de dados único com mais de dez mil exemplos para que os pesquisadores pudessem usá-los no trabalho com facilidade.
Meta: incentivar o setor a criar novas abordagens e métodos de detecção do discurso de ódio multimodal.