Uma das promessas mais repetidas sobre inteligência artificial é a de que ela decide sem preconceitos, e Murilo Moura Alencar, C-Level e Tech, People & Game Strategist, observa que essa crença pode levar empresas a automatizar justamente os vieses que queriam eliminar. A lógica parece sólida: máquinas não têm simpatias, antipatias nem dias ruins. Portanto, seriam mais justas do que pessoas.
A realidade é mais complicada. Um sistema de IA aprende com dados produzidos por pessoas e reproduz os padrões que encontra neles, inclusive os injustos. A seguir, por que a ideia de neutralidade não se sustenta e o que fazer a respeito.
De onde vem o viés?
Em 2018, a agência Reuters revelou que a Amazon havia abandonado uma ferramenta experimental de triagem de currículos. O sistema, treinado com contratações feitas pela empresa ao longo de dez anos, passou a penalizar currículos que continham a palavra “mulheres”, como em “capitã do time feminino de xadrez”.
Ninguém programou a ferramenta para discriminar. Ela simplesmente aprendeu que, no histórico da empresa, a maioria dos contratados para cargos técnicos era de homens, e tratou esse padrão como critério de qualidade. O viés não estava no algoritmo. Estava nos dados, e o algoritmo o transformou em regra.
Mesmo depois que os engenheiros removeram os termos mais evidentes, não havia garantia de que o sistema não encontraria outros sinais indiretos para chegar ao mesmo resultado, como nomes de escolas ou atividades extracurriculares.
Por que o problema fica mais difícil de ver?
Um recrutador preconceituoso pode ser questionado, treinado ou substituído. Um sistema automatizado aplica o mesmo critério a milhares de casos, com rapidez e aparência de objetividade. O resultado chega como um número ou uma classificação, e números raramente são contestados, sobretudo por quem não tem acesso aos critérios por trás deles.
Murilo Alencar aponta que é justamente essa aparência técnica que torna o problema perigoso. Quando a decisão vem de uma máquina, gestores tendem a confiar mais e a questionar menos. Um viés que seria percebido numa conversa pode passar despercebido por anos dentro de um modelo, afetando contratações, concessão de crédito ou avaliação de desempenho sem que ninguém perceba o padrão.
O que fazer na prática?
O primeiro passo é conhecer os dados de treinamento. De onde vieram, que período cobrem e que grupos podem estar sub-representados neles. Excluir campos como gênero ou idade não resolve sozinho, porque outras informações, como endereço ou trajetória escolar, podem funcionar como substitutos. Se o histórico reflete decisões desiguais, o modelo tende a repeti-las.
O segundo é testar os resultados por grupo. Comparar taxas de aprovação, pontuações ou recomendações entre perfis diferentes revela distorções que a média esconde. Na visão de Murilo Moura Alencar, esse acompanhamento precisa ser contínuo, porque os dados mudam e um sistema justo hoje pode deixar de ser amanhã. Em decisões que afetam a vida das pessoas, também é essencial manter revisão humana e oferecer um caminho para contestar o resultado.
Neutralidade não é o ponto de partida
A inteligência artificial não é preconceituosa nem justa por natureza. Ela amplifica o que encontra, para o bem e para o mal. Em empresas com histórico equilibrado e processos bem cuidados, pode ajudar a tornar decisões mais consistentes. Em empresas com desigualdades acumuladas, tende a cristalizá-las.
Em última análise, isso não significa abrir mão da tecnologia, e sim tratá-la com o mesmo cuidado dedicado a qualquer processo que afeta pessoas. Murilo Alencar comenta que a pergunta certa não é se a IA é neutra, mas quem garante que suas decisões são justas, como isso é verificado e o que acontece quando não são. Sem essas respostas, a promessa de imparcialidade vira apenas uma forma mais eficiente de repetir velhos erros.
