Por Juliana Vicentini
Ferramentas identificam sinais de manipulação em imagens usadas em golpes digitais.
Pesquisadores da Unicamp participaram do Domingo Espetacular para explicar como a IA pode ser utilizada para detectar conteúdos manipulados digitalmente. A reportagem mostrou como criminosos usam a imagem de influenciadores para enganar milhares de seguidores para aplicar golpes em diversas plataformas.
Pesquisadores do Recod.ai gravam reportagem para o Domingo Espetacular da Record.
Com o avanço das tecnologias generativas é possível reproduzir características de uma pessoa, como rosto, voz, corpo e até ambientes, com alto grau de realismo. Em alguns casos, a detecção desses conteúdos pode ser feita por observadores atentos.
“Algumas pessoas têm uma percepção visual muito boa, elas podem olhar, por exemplo, inconsistências de iluminação, ou inconsistência na transição entre a pessoa e o fundo”, explicou Anderson Rocha, coordenador do Recod.ai, laboratório de Inteligência Artificial da Unicamp.
Como as ferramentas de IA estão sofisticadas, as manipulações se tornam mais difíceis de serem identificadas. Por isso, o próprio modelo generativo é usado na detecção dos conteúdos. “É como se nós tivéssemos uma IA gato e uma IA rato, e uma estivesse correndo atrás da outra”, disse Rocha.
Na reportagem, Mateus Vicente, doutorando na Unicamp e membro do Recod.ai demonstrou como o sistema analisa padrões de deepfake invisíveis ao olhar humano. Ele utilizou o caso do influenciador que foi clonado e explicou que a IA “consegue pegar a manipulação ou os ruídos que a alteração deixa na imagem”.
A expectativa da equipe é disponibilizar ao público uma ferramenta que auxilie a verificação da autenticidade das imagens. “A gente identifica pela conversa, com a autorização da pessoa, ela pergunta se aquela imagem é duvidosa ou não, e a nossa IA responde”, adiantou Anderson Rocha.
Assista a reportagem completa do Domingo Espetacular.
Conheça o Projeto Horus, financiado pela Fapesp, que desenvolve soluções confiáveis por meio de IA, incluindo a detecção de deepfake.
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).