Por Juliana Vicentini
Pesquisadora explica como preconceitos podem ser reproduzidos pelos sistemas de Inteligência Artificial e aponta caminhos para reduzir esse problema.
Modelos de IA estão cada vez mais presentes no cotidiano, mas seu uso também levanta preocupações. Quando desenvolvidos sem os devidos cuidados, eles podem reproduzir preconceitos históricos, como racismo e sexismo. Esse é o tema da reportagem da revista ComCiência, que entrevistou Sandra Avila, professora do Instituto de Computação da Unicamp e integrante do Recod.ai.
A IA aprende a partir de grandes volumes de dados. Quando essas bases contêm estereótipos ou informações insuficientes de determinados grupos, os modelos entendem que esses padrões são corretos e passam a reproduzi-los. “Quando as máquinas são racistas, estamos vendo o preconceito humano em escala digital”, alerta Sandra. Como consequência, geram informações discriminatórias utilizadas nas áreas de segurança, trabalho e saúde.
O combate aos vieses algorítmicos exige ações coordenadas. É preciso construir bases de dados representativas, e adotar métodos de identificação e correção de distorções. Auditorias contínuas e formação de equipes mais diversas também são essenciais para criar tecnologias mais justas, transparentes e seguras para a sociedade.
Clique aqui e acesse a reportagem na íntegra.
_____
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).