Por Juliana Vicentini
O levantamento revela uma média de 20 conteúdos por dia, quase um por hora
Agência Lupa, Recod.ai, FAAP e Meedan organizaram o evento online “VigIA – segunda parcial” para divulgar o relatório mais recente do projeto. O programa monitora o uso de IA, detecta possíveis violações das regras impostas pela justiça, contribui para combater a desinformação e debate recomendações para fortalecer a fiscalização do ambiente digital na campanha política.
A iniciativa reúne coleta de dados em redes sociais e aplicativos de mensagem, além de contar com o envio de materiais pelo público via WhatsApp. No período de 16 de agosto a 28 de setembro, a equipe identificou 1.941 conteúdos suspeitos de terem passado por algum processo generativo. Até o momento, 920 vídeos ou imagens tiveram o uso de IA confirmado.
Os formatos de conteúdos identificados foram vídeos (521) e imagens (398). A IA gerou 554 casos de deepfake, materiais editados ou produzidos totalmente por ela para reproduzir alguma característica de uma pessoa real. A IA também foi empregada na criação ou manipulação de 366 conteúdos sintéticos, que são aqueles que não substituíram ou imitaram a identidade de alguém.
Em relação aos deepfakes, 30 deles foram criados a partir de imagens de jornalistas e celebridades. Nesses casos, a finalidade era divulgar pesquisas ou resultados falsos, além de utilizar as personalidades como apoio à determinados candidatos. Os conteúdos sintéticos foram produzidos como estratégia de marketing político, principalmente para retratar o legado dos candidatos.
A autoria das postagens analisadas foi de eleitores (47%), contas anônimas ou avatares (27%) e candidatos (24%). A apuração revelou que 60% das peças omitiram o uso de IA, o que indica que algumas delas têm infringido a legislação que determinada que publicações que passaram por IA sejam identificadas por meio de rótulos.
Os conteúdos apurados circularam majoritariamente no Facebook (559 casos) e Instagram (365 casos). A temática predominantemente com 67,5% foi no âmbito da disputa presidencial, envolvendo assuntos, personalidades ou cargos. As pessoas que mais apareceram foram Lula (379) e Flavio Bolsonaro (190).
A intenção do uso de IA mostrou que 414 casos (45%) foram para promover candidaturas. Em seguida, 254 (27,5%) peças foram utilizadas em contextos humorísticos ou de sátira. No contexto de ataque a alguém, há 226 (24,6%) casos. O uso neutro, relacionado a circulação de informações sobre eleições ou a legislação eleitoral apareceu em 26 (2,8%) casos.
Resultados parciais do VigIA – Crédito: Juliana Vicentini, a partir do relatório.
Após o monitoramento e triagem, os materiais suspeitos passaram por uma análise técnica feita por tecnologias desenvolvidas pelo Recod.ai. O Pixel-Inconsistency busca inconsistências no nível do pixel, apontando regiões para verificação. Já o Detect and Locate indica se há manipulação e onde está localizada. O FakeScope avalia as anomalias e explica os indícios encontrados.
Um classificador de conteúdos manipulados ou produzidos por IA não é suficiente para embasar uma verificação. É preciso reunir várias ferramentas para uma análise consistente que posteriormente, passa por uma validação humana. “Nós fazemos uma investigação ampla e variada para chegar ao resultado mais preciso e prover um parecer técnico e jornalístico, mas não é uma perícia jurídica”, disse Mateus Vicente, o doutorando do Recod.ai da Unicamp.
O programa gera evidências científicas que contribuem para um debate mais transparente sobre o período eleitoral no Brasil, fortalecendo a democracia. O VigIA segue monitorando a circulação de materiais durante toda a campanha política e você pode fazer parte disso: caso suspeite que vídeos ou imagens passaram por IA, envie anonimamente pelo WhatsApp (21-99193-3751).
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).