Por Juliana Vicentini
Modelo revela sinais invisíveis ao olho humano, esclarece as inconsistências identificadas e mostra como elas poderiam ser mais realistas
Você abre o celular e se depara com uma imagem impressionante. Rapidamente, comenta e compartilha, mas depois descobre que ela é criada por IA. A pergunta que vem à mente é: por que ela é artificial? Para responder a isso, pesquisadores do laboratório Recod.ai do Brasil, China e Singapura se uniram para criar uma ferramenta que ajuda na confiança das informações visuais.
O hiper-realismo de imagens é um complicador para saber se são manipuladas ou produzidas totalmente a partir de IA. A detecção tradicional desse tipo de conteúdo ocorre a partir de modelos computacionais que operam em uma lógica binária. Quando são questionados se a peça é real ou fabricada, a resposta é objetiva: sim ou não.
Essa metodologia indica padrões que o modelo selecionou para classificar a imagem, mas não explica o que o levou a chegar a essa conclusão. “A implementação prática exige que os modelos justifiquem suas previsões com evidências visuais verificáveis”, explica Yixuan Li, pós-doutoranda associada à Universidade de Bristol.
A inovação
O FakeScope é um modelo multimodal de grande escala (LMM) que vai além de respostas automáticas e se aproxima de um raciocínio estruturado e consistentepara a tomada de decisão sobre a imagem. A partir da identificação de evidências, ele oferece uma justificativa que detalha as características que o levaram a identificar sinais de manipulação ou de criação sintética.
“Essa explicabilidade da qual estamos falando geralmente não garante ser a verdadeira base causal da decisão do modelo, geralmente são justificativas posteriores, voltadas para o usuário. Portanto, a explicabilidade discutida é essencial para melhorar a transparência, tornando as decisões verificáveis, baseadas em evidências e úteis para a supervisão humana”, adverte Li.
O modelo é treinado para buscar e analisar diversas categorias de evidência forense: anatomia (características que não condizem com a fisiologia humana), interação com o ambiente (distorção entre pessoas/objeto e o local no qual estão), iluminação (existência de fontes de luz conflitantes) e texto (letras manchadas, palavras que não existem ou erros de escrita).
O FakeScope também oferece sugestões para o melhoramento do realismo de imagens geradas ou manipuladas por IA. Quando ele detecta que uma pele é perfeita demais, ele pode indicar o aprimoramento de texturas para deixá-la mais natural. Ele também propõe correções de inconsistências físicas, como o reflexo de objetos na água. Ainda aponta as origens de falhas e sugere aperfeiçoamento nos modelos utilizados para a geração das imagens.
O modelo de IA em ação
O diferencial do FakeScope reside no fato de que os cientistas o treinaram para ele pensar como um especialista forense, indo além de um classificador de imagens. Para isso, eles utilizaram modelos multimodais de visão e linguagem preexistentes como o LLaVA-v1.5 ou o mPLUG-Owl2, que são redes neurais capazes de correlacionar imagens e textos e assim, traduzir anomalias em relatórios explicáveis.
O funcionamento do sistema está na combinação de dois pilares. O FakeChain é composto por 47 mil exemplos de raciocínio lógico que detalham as evidências para identificar a autenticidade do conteúdo, ou seja, se é real ou falso. O FakeInstruct é um conjunto de 2 milhões de instruções visuais geradas a partir do FakeChain que permitem que o modelo aprenda a explicar sua conclusão.
FakeScope. Crédito: Juliana Vicentini.
Essa lógica une dados complementares para a avaliação das imagens. Os quantitativos geram uma pontuação de probabilidade sintética ou de manipulação entre 0 e 100%. Os qualitativos fornecem justificativas compreensíveis baseadas nas evidências. Juntos, eles respondem diversas perguntas sobre a imagem, permitindo ao usuário uma análise orientada.
A sugestão de correções para aprimorar a imagem produzida por IA começa quando o FakeScope encontra rastros forenses que não condizem com a realidade. Na sequência, ele aciona a biblioteca do FakeInstruct que contém mais de um milhão de dicas de realismo. A partir desse diálogo, ele entrega as propostas de aperfeiçoamento para o usuário.
O modelo foi testado utilizando dados de WildRF e SynthWildX. Eles são conjuntos de dados que contêm imagens coletadas de redes sociais como Reddit, Facebook e X. As peças compartilhadas nessas plataformas sofrem degradações como perda de qualidade e compressão, o que normalmente, dificulta a análise, mas a ferramenta superou essa complexidade e teve êxito.
O Fake Scope integra diversas ferramentas que funcionam em sistema único para detectar, analisar e explicar imagens manipuladas ou falsas com precisão. O desempenho de acurácia é de até 99,68% nos testes, enquanto o procedimento realizado por um especialista alcançou 87,50% de precisão. O aparato multimodal supera a análise humana nesse cenário específico porque ele é capaz de rastrear artefatos imperceptíveis ao olhar de uma pessoa.
Apesar da performance, a decisão final não é automatizada. Ao oferecer evidências técnicas detalhadas, o FakeScope apoia a verificação que orienta a investigação de imagens. “Não provemos uma resposta final. O humano precisa analisar as pistas que elencamos com nossas ferramentas e decidir por si”, destaca Anderson Rocha, coordenador do Recod.ai, laboratório de Inteligência Artificial da Unicamp.
Da ciência para o cotidiano
Essa tecnologia promove a transparência de processos forenses, pois o modelo traduz anomalias visuais em explicações compreensíveis, o que fortalece a confiança da sociedade sobre o que é real ou sintético. Ao disponibilizar as justificativas baseadas em evidências, ele empodera o usuário que passa utilizar uma ferramenta que o auxilia a fazer uma supervisão crítica.
A capacidade do FakeScope em fornecer análise contextuais e explicáveis ajuda a reduzir vieses de detecção que normalmente eram baseados em inconsistências de alguns modelos classificatórios. Sua capacidade analítica é uma ferramenta poderosa no combate a desinformação e fraudes, pois contribui para a mitigação da circulação de conteúdos falsos.
O que está por vir
Apesar dos resultados, o FakeScope precisa de ajustes antes de ser implementado de maneira irrestrita. “Primeiro, o progresso ainda depende de modelos avançados de treinamento, o que é dispendioso e apresenta incertezas. Segundo, ele pode ser aprimorado para se tornar mais robusto a geradores desconhecidos e degradações do mundo real, como a compressão de imagens. Terceiro, embora possa gerar insights adicionais, seu raciocínio ainda não pode ser considerado equivalente ao raciocínio dialético humano genuíno”, adverte Li.
Para superar esses desafios, os pesquisadores já projetam a próxima etapa. “Um passo importante é introduzir paradigmas de treinamento e inferência mais robustos, como aprendizado por reforço ou estruturas de raciocínio projetadas especificamente para aprimorar ainda mais a qualidade, a robustez e a adaptabilidade do raciocínio do modelo em cenários forenses complexos”, antecipa a pesquisadora da Universidade de Bristol.
Confira os detalhes dessa inovação de autoria de Yixuan Li, Yu Tian, Yipo Huang, Wei Lu, Shiqi Wang, Weisi Lin e Anderson Rocha, disponíveis no Arxiv.
Essa pesquisa é resultado da parceria entre Universidade Estadual de Campinas, Universidade de Hong Kong, Universidade de Chang’na, Universidade Sun Yat-Sem e Universidade Tecnológica de Singapura. Ela integra o Projeto Horus que desenvolve ferramentas para fortalecer a confiança nas mídias digitais, financiado pela FAPESP.
____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).