Por Juliana Vicentini
Modelos detectam pistas diversificadas que são validadas por especialistas
A Inteligência Artificial tem sido utilizada durante a campanha dos candidatos para criar ou manipular imagens e vídeos de maneira realista, dificultando a distinção entre o que é real e o que é falso.
Os rastros deixados podem ser imperceptíveis a olho nu, por isso, o Recod.ai, laboratório do Instituto de Computação, desenvolveu três metodologias que utilizam a própria IA para detectar materiais com indícios de geração sintética.
Mateus Vicente mostra como a análise acontece a partir do Pixel-Inconsistency que busca inconsistências no nível do pixel, Detect and Locate que indica se há manipulação e sua localização, e FakeScope que avalia as anomalias e explica os sinais encontrados.
O doutorando explica que um classificador não é suficiente para embasar uma verificação, por conta disso, as três ferramentas são utilizadas para promover a avaliação consistente que, posteriormente, passa por uma validação humana.
Esses modelos estão em operação no VigIA, programa que monitora o uso da IA durante o período eleitoral, resultado da parceria entre Agência Lupa, Recod.ai da Unicamp, FAAP e Meedan.
Clique aqui e assista ao vídeo para conhecer as ferramentas na prática!
Roteiro e apresentação: Juliana Vicentini
Imagens e edição: Rogério Bordini
Realização: Recod.ai
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).