Por Juliana Vicentini
Pesquisa desenvolve modelo de IA que analisa informações contextuais para identificar fraudes em larga escala
Um SMS enviado por uma organização que se faz passar por legítima e que através de um link pode roubar os seus dados causando prejuízos, é uma prática chamada de smishing. Esse tipo de golpe tem sido facilitado pela IA generativa que diminuiu as barreiras técnicas para a produção convincente desse tipo de conteúdo, dificultando a distinção entre uma mensagem verdadeira de uma falsa.
A tecnologia para enfrentar esse desafio foi pauta da reportagem do Jornal da Unicamp. Stephane Schwarz, sob a orientação de Anderson Rocha, coordenador do Recod.ai e professor do Instituto de Computação, criou um modelo de IA para identificar mensagens fraudulentas via SMS. Esse formato é alvo de golpistas porque não depende de aplicativo, é utilizado por bancos e empresas, é barato e seu envio ocorre em massa.
A inovação é baseada em Modelos de Linguagem de Larga Escala (LLMs) que combinam diversas evidências contextuais para análise. Dentre elas, dados do endereço eletrônico, conteúdo e conexão. Ainda realiza um agrupamento de mensagens com características semelhantes, permitindo a investigação de maneira rápida e robusta de milhares de SMS, simultaneamente.
Funcionamento do modelo de IA que detecta golpes via mensagens de texto. Crédito: Juliana Vicentini.
De um lado a IA é apropriada pelos criminosos para aprimorar golpes, de outro, ela é utilizada para desenvolver mecanismos de detecção capazes de acompanhar essa evolução. Ao contribuir para o bloqueio de campanhas fraudulentas, a pesquisa ajuda a diminuir a quantidade de golpes, evitar prejuízos financeiros e tornar as comunicações digitais mais seguras.
A tese “Detecção de Smishing em Plataformas Conversacionais: conciliando robustez de modelos e requisitos de indústria para detecção de conteúdo malicioso em SMS, MTT e RCS” foi produzida no âmbito do Horus, projeto que cria soluções para fortalecer a confiança digital e que é financiado pela FAPESP. A tese foi defendida na Unicamp e em breve estará no repositório da instituição.
Para saber mais, acesse:
IA detecta golpes em mensagens de texto, Jornal da Unicamp.
SCHWARZ, S. F.; FONSECA, P. ROCHA, A. (2025). Smishing detection from a messaging plataform view. IEEE Access.
SCHWARZ, S. F.; FONSECA, P. ROCHA, A. (2025). Zero-training fraud detection in a large messaging plataform? IEEE Xplore.
____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).