Por Juliana Vicentini
Pesquisador abordou a circulação de imagens e vídeos produzidos ou editados por ferramentas generativas, e apontou a predominância de materiais produzidos para favorecer candidatos
Mateus Vicente, doutorando do Recod.ai no Instituto de Computação da Unicamp, participou do podcast Es La Hora De Ablar do canal Píldoras Digitales, em parceria com o Coalición Digital. Em entrevista ao Victor Rodríguez, ele explicou como a IA tem transformado as campanhas eleitorais e os desafios para identificar conteúdos manipulados ou criados por ela.
Vicente afirmou que “as eleições de 2026 estão sendo um grande experimento a céu aberto, com precedentes que nunca tínhamos visto devido ao amplo uso da IA”. Ele explicou que, embora o Tribunal Superior Eleitoral exija rótulos que indiquem que um conteúdo passou por IA, há muitas imagens e vídeos circulando nas redes sociais e plataformas de mensagens sem a identificação.
Os resultados parciais do monitoramento do uso de IA durante a campanha eleitoral no Brasil indicam que a maior parte dos conteúdos analisados tem como objetivo favorecer candidatos, não necessariamente tem a intenção de prejudicar. “Isso representa quase uma mudança de paradigma em relação ao que pensávamos anteriormente: que a IA seria amplamente utilizada para fins maliciosos”, destacou Mateus.
Segundo ele, a circulação desses conteúdos não está restrita aos candidatos. Parte dos materiais analisados foi publicada por usuários comuns, enquanto outra parcela está associada a contas anônimas ou avatares. Esse cenário dificulta a atribuição de responsabilidade e amplia o desafio de monitorar conteúdos que passaram por Inteligência Artificial durante o período eleitoral.
O pesquisador destacou que o enfrentamento da desinformação vai além de classificar um conteúdo como verdadeiro ou falso. É preciso reunir evidências que permitam entender o seu processo de manipulação. Segundo ele, as ferramentas de IA desenvolvidas no Recod.ai auxiliam esse tipo de análise, mas a validação humana é essencial para interpretar o que foi detectado.
Mateus defendeu que o avanço da IA em geral deve ser acompanhado por regulação, educação e pensamento crítico. Para ele, o maior risco não está apenas na sofisticação de deepfakes, mas na circulação de informações manipuladas e na dificuldade de os eleitores distinguirem evidências de narrativas sintéticas.
_______
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).