Por Juliana Vicentini
Pesquisa que aumenta a confiabilidade das respostas geradas pelos sistemas de Inteligência Artificial é transformada em inovação e é homenageada pela Inova
A equipe do Recod.ai, laboratório de Inteligência Artificial do Instituto de Computação, com o apoio da Agência Inova registrou um pedido de patente que foi homenageada pelo Prêmio Inventores da Unicamp 2026. A solicitação protege uma tecnologia que avalia automaticamente se uma resposta gerada por IA é consistente com as evidências disponíveis para que ela fique mais confiável.
Os modelos de IA, quando perguntados sobre alguma coisa, podem gerar respostas com erros factuais (incorretas), ou com erros de fidelidade (incapacidade do modelo de integrar informações fornecidas pelo usuário). Esse comportamento é chamado de alucinação e ocorre quando o modelo passa por confusão ou instabilidade interna. Embora não seja algo intencional, isso compromete a utilidade prática do sistema.
O projeto “começou com uma pergunta simples, mas crucial: como medir a precisão e a credibilidade das respostas fornecidas por modelos de linguagem e indicar ao usuário o quanto ele pode confiar nelas? Apesar de parecer simples, ela envolve desafios complexos. Um deles é que quando esses modelos não sabem o que responder, acabam gerando respostas mais longas e com atributos que remetem alta confiança para convencer o usuário”, contou Amir Jalilifard.
Os detectores tradicionais de alucinações em modelos de IA “dependem da geração de múltiplas respostas para uma mesma pergunta e da análise de consistência entre elas. Essa metodologia é custosa em termos de tempo e recursos computacionais, tornando-a ineficiente para aplicações em tempo real. Além disso, esses métodos identificam inconsistências, mas oferecem pouca ou nenhuma explicação sobre os mecanismos internos que levam às alucinações”, disse o pós-doutorando do Recod.ai.
A inovação não foca no resultado atribuído à pergunta, mas observa a trajetória de raciocínio para entender como o sistema construiu a resposta. No processo de geração de texto, os modelos estabelecem conexões internas que determinam quais palavras e trechos do contexto influenciam no resultado disponibilizado. Isso é transformado em grafos (representações matemáticas de circulação de dados) que indicam quando algo deixou de ser compartilhado corretamente ou quando houve um obstáculo no fluxo de funcionamento.
A solicitação da patente do “Método para Detecção de Alucinações em LLMs por Assinaturas Topológicas e seus Usos” foi requisitada junto ao Instituto Nacional de Propriedade Industrial (INPI) em dezembro de 2025, cujo registro é BR102025028190-2. A invenção é de Amir Jalilifard, Anderson Rocha e Marcos Medeiros Raimundo, e a instituição detentora é a Unicamp.
O pesquisador contou que o próximo passo é adaptar a tecnologia para aplicações em domínios específicos, como o jurídico, levando a pesquisa para usos concretos. Nesse contexto, a homenagem da Inova Unicamp reforça a utilidade pública da inovação proposta. Ela “representa um reconhecimento importante do trabalho da equipe, da relevância da pesquisa e do seu potencial de gerar impacto para além do ambiente acadêmico”, comentou Amir Jalilifard.
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).