Por Juliana Vicentini
Pesquisadora do Recod.ai questiona para quem a Inteligência Artificial tem sido desenvolvida.
A professora Sandra Avila, do Instituto de Computação da UNICAMP, participou do episódio “IA no combate ao abuso infantil e aos vieses nos dados” do podcast IA Sob Controle. Durante a conversa, ela compartilhou sobre sua experiência de pesquisa na área de IA voltada à segurança e a saúde, sustentando um olhar atento às desigualdades que a tecnologia pode reproduzir quando construída sem escuta e sem representatividade.
Sandra Avila participa do podcast Ia Sob Controle – episódio 274
Ela explicou sobre o Projeto Araceli que desenvolve ferramentas de IA para apoiar a investigação de crimes de abuso infantil, preservando aspectos legais sem acessar material sensível. Os modelos auxiliam a Polícia Federal e Polícia Técnico-Científica na triagem de material apreendido. Ela ainda abordou os impactos da IA generativa na produção de conteúdos ilícitos com crianças, um alerta sobre como a mesma tecnologia pode ser apropriada tanto para proteger quanto para violar.
Ao falar sobre o uso da IA na área de saúde, Sandra destacou um problema estrutural observado em pesquisas sobre câncer de pele: a sub-representação de pessoas negras nas bases de dados utilizadas para treinar modelos. A ausência nos dados não é uma falha técnica isolada, é a repetição de uma exclusão que já existe fora da tecnologia, no próprio acesso à saúde. Isso ocorre porque essa população foi apagada no que se convencionou chamar de “padrão”. Como resume a pesquisadora: “se o padrão não faz parte da sua base de dados, o que é que você quer que o seu modelo aprenda?”.
Ao comentar o futuro da IA, Sandra defendeu que o avanço da tecnologia depende menos da criação de modelos maiores e mais de investimentos em educação e ciência. Para ela, é fundamental questionar a qualidade dos dados utilizados no treinamento dos sistemas de IA. “Talvez a gente devesse perguntar quais são os problemas primeiro, para depois pensar nas soluções”, afirmou.
🎧 Escute o podcast aqui na íntegra.
Para saber mais, acesse:
. IA identifica padrões de abuso sexual de crianças e adolescentes sem acessar conteúdos explícitos;
. Workshop do Projeto Araceli discute segurança infantil na internet com especialistas em IA;
. Recod.ai colabora com o STF em iniciativas de Segurança Digital Infantojuvenil.
______
Material produzido com o apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP), Brasil (Processo nº 2025/26523-7), vinculado ao Projeto Horus do Recod.ai (Processo nº 23/12865-8).