Em parceria com a Universidade Estadual de Michigan (MSU), nos Estados Unidos, pesquisadores do Facebook estão desenvolvendo uma nova ferramenta capaz de identificar deepfakes e até determinar a sua origem, facilitando a remoção destes conteúdos. A novidade foi apresentada pela rede social nesta quarta-feira (16).
Cada vez mais evoluída, a tecnologia de criação de deepfakes usa inteligência artificial (IA) para fazer montagens bastante realistas. Elas podem ser usadas para enganar uma grande quantidade de pessoas, espalhando fake news em diferentes plataformas e atacando a reputação de figuras conhecidas.
Utilizando engenharia reversa, o software criado pelos cientistas da MSU e do Facebook analisa os padrões da IA que gerou a montagem. “Podemos estimar propriedades dos modelos generativos usados para criar cada deepfake e até mesmo associar vários deepfakes ao modelo que possivelmente os produziu”, explicou o coautor da pesquisa Tal Hassner.
A ferramenta para identificar deepfakes ainda está em desenvolvimento.Fonte: Facebook/Reprodução
Dessa forma, o sistema pode identificar algumas imperfeições surgidas durante a edição do conteúdo, modificando a “impressão digital” da imagem. A partir desta alteração, o algoritmo consegue diferenciar fotos e vídeos falsos dos verdadeiros e sugerir qual rede neural foi usada na criação da deepfake.
99% de precisão
Quando testado em dois conjuntos de dados acadêmicos, o novo software detectou deepfakes com mais de 99% de precisão. A informação foi dada pelo professor de ciência da computação da MSU Xioming Liu, coautor do estudo, ao The Register.
De acordo com Liu, a equipe está trabalhando em melhorias na ferramenta, para torná-la ainda mais precisa. Ele também revelou que pretende aprimorar as habilidades do modelo, para que ele agrupe de forma confiável as imagens falsas, ao identificar o método de criação delas.
Futuramente, o sistema pode auxiliar no rastreamento dos responsáveis por criar deepfakes compartilhadas em várias plataformas. Além disso, ele facilitaria a identificação e a exclusão de contas falsas no Facebook, criadas automaticamente com fotos manipuladas, que são utilizadas para diferentes finalidades.
Source link
