Por Juliana Vicentini
O primeiro levantamento revela formatos, táticas e personalidades que apareceram em imagens e vídeos gerados ou manipulados por ferramentas generativas
Agência Lupa, Recod.ai, FAAP e Meedan organizaram o evento “Deepfakes eleitorais” para divulgar o relatório parcial do VigIA. O programa monitora o uso de IA, detecta possíveis violações das regras impostas pela justiça, contribui para combater a desinformação e debate recomendações para fortalecer a fiscalização do ambiente digital na campanha política.
A iniciativa reúne coleta de dados em redes sociais e aplicativos de mensagem, além de contar com o envio de materiais pelo público via WhatsApp. No período de 16 a 26 de agosto, a equipe identificou 314 conteúdos suspeitos de terem passado por algum processo generativo. Após a análise, 282 vídeos ou imagens tiveram o uso de IA confirmado, o que equivale a mais de 25 casos diários.
Crédito: Juliana Vicentini a partir do relatório do VigIA.
Os formatos de conteúdos identificados foram vídeos (152) e imagens (130). A IA gerou 199 casos de deepfake, materiais editados ou produzidos totalmente por ela para reproduzir alguma característica de uma pessoa real. A IA também foi empregada na criação ou manipulação de 83 conteúdos sintéticos, que são aqueles que não substituíram ou imitaram a identidade de alguém.
A autoria das postagens analisadas foi de usuários, candidatos, conta anônima ou avatar. A apuração revelou que 64% das peças omitiram o uso de IA. No caso de contas de políticos, 37 casos não sinalizaram a utilização dessa tecnologia nos conteúdos. Isso indica que algumas delas têm infringido a legislação que determinada que publicações que passaram por IA sejam identificadas.
Os conteúdos apurados circularam majoritariamente no Facebook e Instagram, cujas temáticas envolviam predominantemente assuntos, personalidades ou cargos no âmbito nacional. As pessoas públicas que mais apareceram foram os presidenciáveis Lula (115) e Flavio Bolsonaro (56). Em 52% dos casos o principal objetivo do uso da IA foi para promover candidaturas e 20% para prejudicá-las.
Após o monitoramento e triagem, os materiais suspeitos passaram por uma análise técnica feita por tecnologias desenvolvidas pelo Recod.ai. O Pixel-Inconsistency busca inconsistências no nível do pixel, apontando regiões para verificação. O Detect and Locate indica se há manipulação e onde está localizada. O FakeScope avalia as anomalias e explica os indícios encontrados.
Um classificador de conteúdos manipulados ou produzidos por IA não é suficiente para embasar uma verificação. É preciso reunir várias ferramentas para uma análise consistente que posteriormente, passa por uma validação humana. “Nós fazemos uma investigação ampla e variada para prover um parecer técnico e jornalístico, não é uma perícia jurídica”, esclareceu Mateus Vicente, o doutorando do Recod.ai da Unicamp.
O programa gera evidências científicas que contribuem para um debate mais transparente sobre o período eleitoral no Brasil, fortalecendo a democracia. O VigIA segue monitorando a circulação de materiais durante toda a campanha política e você pode fazer parte disso: caso suspeite que vídeos ou imagens passaram por IA, envie anonimamente pelo WhatsApp (21-99193-3751).
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).