Na última terça (22/7), o programa Profissão Repórter (TV Globo) exibiu uma reportagem sobre o aumento do uso de tecnologias de reconhecimento facial e seus impactos na vida dos brasileiros – conveniência que nem sempre traz bons resultados. Pesquisadores do Recod.ai foram entrevistados para explicar o funcionamento desses sistemas e os potenciais riscos que podem representar, como fraudes e vieses raciais.
Anderson Rocha, coordenador do laboratório, explicou que, por meio de inteligência artificial (IA), a tecnologia de reconhecimento mapeia aspectos específicos do rosto — geralmente entre 60 e 80 pontos biométricos — como distância entre os olhos, formato do nariz, textura da pele, lábios, orelhas e entre outros. Para exemplificar, na matéria os pesquisadores utilizaram a ferramenta Spoofing Detection System (SPS) do Recod.ai para reconhecer fotos da repórter Esther Radaelli. Quando um indivíduo passa por uma câmera, a IA compara a imagem capturada com as cadastradas em um banco de dados de rostos para confirmar a identidade.
O SPS foi desenvolvido por Jadson Costa com apoio da Griaule, empresa de tecnologias de reconhecimento biométrico. Hoje a ferramenta é utilizada para verificação de identidades no aplicativo e-Título do Tribunal Superior Eleitoral, que permite obter a via digital do título de eleitor.
Por outro lado, Rocha adverte que a interpretação desses sistemas pode ser falha quando os conjuntos de dados utilizados apresentam baixa representatividade étnica e racial. “O que acontece muito no dia-a-dia é que o sistema de reconhecimento de face que temos acesso, muitas vezes foram treinados só com pessoas brancas e homens (…) Isso significa que quando formos reconhecer indígenas e pessoas de outras etnias, negras, asiáticas, o sistema vai ter dificuldades.”, alerta.
Quanto à taxa de falhas no reconhecimento, o professor observa que os sistemas podem atingir cerca de 1%. Embora pareça baixo, esse percentual pode ser preocupante, especialmente considerando a grande quantidade de reconhecimentos realizados diariamente. “Se você considerar 10 mil reconhecimentos em um dia, significa que 100 pessoas podem ter sido prejudicadas”, conclui.
Para evitar tais vieses, é importante que tecnologias biométricas utilizem bancos de dados atualizados e balanceados com representação adequada de diferentes raças e etnias. Além das pesquisas relacionadas aos vieses – como a conduzida pela mestranda Ana Carolina da Hora, orientada por Sandra Avila –, o Recod.ai também investiga como fraudadores tem explorado formas de burlar sistemas de reconhecimento para fins de falsificação de cheques, documentos e propriedades biométricas.
Assista a seguir a participação do Recod.ai na reportagem.