Por Juliana Vicentini
Pesquisadores explicam a importância dessa tecnologia e como ela funciona na prática
Em um cenário de golpes, fraudes e desinformação, a IA é uma aliada para verificar a autenticidade de conteúdos. Para saber mais sobre isso, a equipe da TV Câmara Campinas veio ao Recod.ai, laboratório de Inteligência Artificial do Instituto de Computação da Unicamp para gravar uma reportagem veiculada no Genius 3.0. O programa mostra o modelo de IA que detecta e analisa deepfakes, inclusive, aqueles que ainda não foram vistos pelo modelo.
Anderson Rocha, coordenador do laboratório e docente da universidade, explicou que os pesquisadores trabalham com identificação de falsificações há mais de 10 anos. “A gente faz uma técnica, alguém vai lá e cria uma falsificação que dá o drible nessa nossa técnica e fica melhor para falsificar. A gente tem que melhorar essas técnicas para identificar essas novas falsificações”, comenta.
Anderson Rocha com a repórter Camila Borges. Crédito: Reprodução TV Câmara Campinas.
A IA identifica vários sinais de manipulação e funciona independentemente do gerador. “A gente desenvolve uma maneira de identificar múltiplas pistas, iluminação, textura, pixels, tudo isso em conjunto […]. A gente treina de maneira que o que nós estamos desenvolvendo seja capaz de identificar pistas sem saber quem gerou. Isso é muito importante, porque senão, eu vou ter que conhecer todos os geradores de falsificações do mundo e isso não é prático, disse Rocha.
Mateus Vicente, doutorando do laboratório, mostra como o detector de deepfake funciona, a partir de casos que circularam nas redes sociais e que foram enviados para o Recod.ai para verificação. “A gente analisa a imagem, os pixels, cada detalhe dela, porque toda foto, todo vídeo gravado real, ele gera um padrão. Se eu altero esse padrão, ele quebra esse padrão e a nossa ferramenta detecta justamente isso”.
Mateus Vicente com a repórter Camila Borges. Crédito: Reprodução TV Câmara Campinas.
Além de detectar as anomalias nas imagens e vídeos, o modelo consegue explicar as pistas de manipulação que foram identificadas. “A gente tem treinado uma IA para se especializar no forense, ou seja, em vez de eu conversar coisas do dia a dia, eu posso conversar de coisas específicas de análise e detecção de vídeos ou imagens falsas, detalhou o doutorando.
Clique aqui e saiba mais sobre essa pesquisa que faz parte do Horus, projeto dedicado a fortalecer a confiança digital, financiado pela FAPESP.
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).