Neste domingo (8/6), o Recod.ai foi destaque em reportagem do Fantástico (TV Globo) sobre a Veo 3, nova ferramenta de inteligência artificial (IA) da Google que permite criar vídeos hiper-realistas com personagens, trilhas sonoras e efeitos visuais a partir de comandos de texto (prompts). Embora as imagens geradas pela tecnologia impressionem, ao mesmo tempo preocupam especialistas sobre questões de segurança e autenticidade de informações.
Gabriel Bertooco, pós-doutorando em Grandes Modelos de Linguagem (LLMs) do laboratório, apresentou a tecnologia DeepFake Face Detection System, projetada pelo Recod.ai em parceria com a City University of Hong Kong. Ela consiste em detectar vídeos ou imagens falsas geradas por algoritmos de aprendizagem de máquina que manipulam ou substituem partes de um vídeo ou imagem original, como o rosto de uma pessoa.
“Uma vez que o rosto é detectado, [a tecnologia] faz a análise. Os outros quadros são processos de análise do modelo”, explicou o pesquisador na reportagem. A tecnologia realiza três etapas de análise utilizando diferentes modelos de IA, que, ao final, geram uma porcentagem indicando a probabilidade da imagem ser falsa. Quanto mais escura a imagem no terceiro quadro, maior a chance de ser autêntica.
A ferramenta, por enquanto disponível apenas para investigações do Ministério Público, grupos de pesquisa e autoridades, está em desenvolvimento e precisa ser atualizada para reconhecer vídeos gerados pela Veo 3.
Anderson Rocha, coordenador do Recod.ai, também contribuiu para a reportagem com orientações sobre como as pessoas podem se proteger ao se depararem com esses vídeos. “Seja crítico. Pergunte-se: será que isso é verdadeiro mesmo? Antes de propagar um vídeo desse dizendo que aconteceu algo extraordinário, o quão provável é aquilo de acontecer?”, aconselha o professor.
Para saber mais sobre a pesquisa do Recod.ai na detecção de imagens fraudulentas e realidades sintéticas, conheça o trabalho de nosso pós-doutorando João Phillipe Cardenuto e seus artigos publicados na APSIPA Transactions on Signal and Information Processing e Scientific Reports, da Nature. Além disso, nosso projeto Horus explora ética e segurança da IA e a confiança na mídia digital, e o Aletheia, que investiga técnicas de IA, linguística computacional e ciências sociais para a gestão de infodemias.
Confira a seguir a reportagem completa.