Por Juliana Vicentini
Tecnologia, explicabilidade e análise humana se unem para analisar conteúdos que podem comprometer a democracia
Imagens sintéticas cada vez mais realistas são um desafio, pois podem gerar desinformação e mudar o resultado das eleições. Por isso, a reportagem publicada pela Superinteressante explica estratégias que contribuem para a detecção desses conteúdos modificados ou gerados por IA.
Pesquisadores do Recod.ai, laboratório de Inteligência Artificial do Instituto de Computação da Unicamp, em parceria com universidades no exterior, desenvolveram o FakeScope. O modelo une indicadores quantitativos para identificar se a imagem passou por algum processo de IA e dados qualitativos para explicar as evidências que levaram à essa conclusão.
O FakeScope está operacional e integra o VigIA, programa que monitora imagens e vídeos suspeitos que circulam durante o pleito. Ele foi criado para acompanhar como a IA é utilizada, verificar se há violações às regras impostas pela justiça e combater a desinformação. A iniciativa envolve Agência Lupa, Recod.ai, FAAP e Meedan.
No VigIA, o FakeScope atua em conjunto com outros modelos de detecção de imagem desenvolvidos pelo Recod.ai que contribuem para a análise técnica, mas a validação depende de especialistas. “Em Forense Digital, não provemos uma resposta final. O humano precisa analisar as pistas que elencamos com nossas ferramentas e decidir por si”, explica Anderson Rocha, coordenador do Recod.ai e professor da Unicamp.
Leia a reportagem completa no site da Superinteressante.
Conheça o funcionamento do FakeScope.
Fique por dentro do programa VigIA.
_______
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).