Viés na contratação com IA: de onde vem e como auditá-lo

Por Kevin Kim · Atualizado em 11 de outubro de 2026

O viés na contratação com IA é uma diferença sistemática na forma como uma ferramenta automatizada trata candidatos de grupos distintos, causada pelos dados com que ela aprendeu, pelos sinais que usa ou pela maneira como é implantada, e não por algo que os candidatos tenham feito. Raramente se parece com preconceito. Parece um ranking, uma nota ou uma regra eliminatória que por acaso aprova homens com mais frequência do que mulheres, ou candidatos mais jovens com mais frequência do que os mais velhos, e ninguém percebe porque ninguém contou.

Esta página é para diretores de RH, líderes de aquisição de talentos e advogados internos que já usam, ou estão prestes a comprar, ferramentas de triagem ou avaliação. Ela explica onde o viés entra, como o impacto adverso é medido e como conduzir uma auditoria que você consiga defender. Para o conceito geral, veja viés em IA. Para a triagem em especial, veja triagem de currículos com IA. Isto é informação geral, não aconselhamento jurídico.

Fatos Principais

• O mecanismo experimental de recrutamento da Amazon avaliava candidatos de uma a cinco estrelas, aprendeu com currículos enviados ao longo de 10 anos (a maioria de homens) e penalizava currículos que continham a palavra "women's"; a equipe foi desfeita (Reuters, October 2018).
• Pelas Uniform Guidelines federais, uma taxa de seleção inferior a quatro quintos (80%) da taxa do grupo mais alto é geralmente considerada evidência de impacto adverso, embora diferenças menores ainda possam contar (29 CFR 1607.4).
• A iTutorGroup concordou em pagar $365.000 para encerrar uma ação da EEOC que alegava que o seu software de candidaturas rejeitava automaticamente mulheres com 55 anos ou mais e homens com 60 anos ou mais, afetando mais de 200 candidatos (Duane Morris, August 2023).
• Em um teste da University of Washington com três modelos de linguagem, nomes associados a pessoas brancas foram preferidos em 85% das vezes contra 9% dos nomes associados a pessoas negras, e nomes masculinos associados a pessoas negras nunca foram preferidos a nomes masculinos associados a pessoas brancas (University of Washington, October 2024).
• A regra de auditoria de viés da cidade de Nova York exige uma razão de impacto para cada sexo, raça/etnia e categoria interseccional, e proíbe o uso de uma ferramenta mais de um ano depois da sua última auditoria (NYC DCWP adopted rule).

De onde vem o viés na IA de contratação

O viés tem mais de uma porta de entrada. Corrigir uma não fecha as outras, e essa é a principal lição dos casos documentados abaixo.

Dois pontos fazem muitas equipes tropeçar. Primeiro, remover o atributo protegido não remove o viés, porque o modelo pode reconstruí-lo a partir de sinais correlacionados. A Amazon editou seus programas para ignorar termos específicos associados a gênero, mas pessoas familiarizadas com o esforço disseram à Reuters que isso não garantia que o sistema não encontraria outras maneiras discriminatórias de classificar candidatos (Reuters). Segundo, uma ferramenta baseada em regras pode ser tão enviesada quanto uma que aprende. O software da iTutorGroup não era um modelo misterioso; a EEOC alegou que ele foi programado com limites de idade (Duane Morris).

Casos documentados que vale conhecer

O modelo de recrutamento descartado pela Amazon (2018)

A Reuters informou que a equipe da Amazon vinha construindo programas de revisão de currículos desde 2014 e constatou, em 2015, que o sistema não avaliava candidatos a desenvolvedor de software e a outras funções técnicas de maneira neutra quanto ao gênero. Os modelos foram treinados com currículos enviados ao longo de 10 anos, a maioria de homens. Eles penalizavam currículos que continham a palavra "women's", e a Amazon depois desfez a equipe (Reuters). Os recrutadores olhavam as recomendações da ferramenta mas, segundo a reportagem, nunca se basearam apenas nos seus rankings. O caso é o exemplo padrão de viés de rótulo e de dados de treinamento.

A EEOC e a iTutorGroup (2023)

A EEOC alegou que a iTutorGroup programou o seu software de candidaturas de tutores para rejeitar candidatas com mais de 55 anos e candidatos com mais de 60, deixando de contratar mais de 200 candidatos qualificados com 55 anos ou mais no início de 2020. O acordo judicial, protocolado em 9 de agosto de 2023, previu $365.000 para os candidatos afetados, divididos em partes iguais entre indenização compensatória e pagamento retroativo de salários, e durou cinco anos, com treinamento, políticas antidiscriminação e monitoramento da EEOC (Duane Morris). Foi um caso de tratamento desigual intencional codificado no software, uma falha diferente do viés aprendido e um lembrete de que as auditorias também devem ler as regras.

Mobley v. Workday (em andamento)

Derek Mobley alega que se candidatou a mais de 100 vagas por meio de empregadores que usam a plataforma da Workday e foi rejeitado todas as vezes, e que as ferramentas de IA da Workday prejudicam candidatos mais velhos. Em 16 de maio de 2025, a juíza Rita Lin, do Distrito Norte da Califórnia, concedeu a certificação preliminar de uma ação coletiva com base no Age Discrimination in Employment Act, abrangendo candidatos com 40 anos ou mais que tiveram recomendações de emprego negadas pela plataforma desde 24 de setembro de 2020; a questão comum do tribunal era se o sistema de recomendação tem impacto desproporcional sobre candidatos com mais de quarenta anos (Holland & Knight, Fisher Phillips). A Workday afirma que a ação não tem mérito e que a certificação é apenas preliminar. Segundo uma atualização de direito trabalhista de meados de 2026, o caso ainda estava em andamento, com as alegações ampliadas para raça e deficiência, algumas alegações com base em leis estaduais sobrevivendo a um pedido de arquivamento no fim de junho de 2026 e a Workday buscando um recurso interlocutório contra a decisão de certificação (employment law update, Spring 2026). Nada foi decidido quanto ao mérito, então trate-o como um sinal sobre a tese jurídica, não como uma constatação de viés. A própria tese importa para os compradores: ela mira o fornecedor do software, além dos empregadores que o usam.

Viés de nomes em modelos de linguagem (2024)

Pesquisadores da University of Washington variaram apenas os primeiros nomes (120 nomes associados a homens e mulheres brancos e negros) em mais de 550 currículos reais classificados em relação a mais de 500 vagas em nove ocupações, usando três modelos de linguagem e produzindo mais de três milhões de comparações. Os nomes associados a pessoas brancas foram preferidos em 85% das vezes e os associados a pessoas negras em 9%; os nomes associados a homens, em 52%, contra 11% dos associados a mulheres; e os nomes masculinos associados a pessoas negras nunca foram preferidos aos nomes masculinos associados a pessoas brancas (University of Washington). Foi um teste de pesquisa controlado de modelos de uso geral, não uma auditoria de qualquer produto comercial de contratação. Ele mostra por que você deve testar a sua própria configuração, e por que a observação dos pesquisadores de que o viés "não era necessariamente visível ao olhar apenas para raça ou gênero isoladamente" defende verificações interseccionais.

Impacto adverso e a regra dos quatro quintos

Impacto adverso significa que um procedimento de seleção faz um grupo avançar a uma taxa significativamente menor do que outro, tenha alguém pretendido isso ou não. As Uniform Guidelines federais tratam uma taxa de seleção de qualquer grupo inferior a quatro quintos (80%) da taxa do grupo de taxa mais alta como, em geral, evidência de impacto adverso, e uma taxa acima disso como, em geral, não. Elas também dizem que diferenças menores ainda podem ser impacto adverso quando estatística e praticamente significativas, e que diferenças maiores baseadas em números pequenos podem não contar. Espera-se que os empregadores mantenham registros que mostrem o impacto de seus procedimentos por sexo e por grupo racial e étnico (29 CFR 1607.4).

Uma ilustração prática com números inventados:

A razão de 0,70 do Grupo C fica abaixo de 0,80, o que é o sinal para investigar. O Grupo B está exatamente na linha, o que prova por que o limite é um sinal de triagem e não um veredito. Com grupos pequenos, um punhado de contratações move muito a razão, então combine a razão com um teste de significância e olhe vários meses de dados.

Como auditar uma ferramenta de contratação

A regra da cidade de Nova York oferece o modelo publicado mais claro, e é útil mesmo que você não esteja sujeito a ela. Ela exige que a auditoria calcule a taxa de seleção e a razão de impacto de cada categoria, definida como a taxa de seleção de uma categoria dividida pela da categoria mais selecionada. Para ferramentas que geram notas, usa uma taxa de pontuação (a parcela que pontua acima da mediana da amostra) do mesmo modo. Os cálculos devem ser feitos separadamente para as categorias de sexo, as categorias de raça/etnia e as categorias interseccionais de sexo, etnia e raça, e a auditoria deve informar quantas pessoas ficaram em uma categoria desconhecida. Um auditor independente pode deixar de fora uma categoria com menos de 2% dos dados se o resumo explicar por quê e apresentar os números dessa categoria (NYC DCWP adopted rule).

Uma rotina passo a passo

1. Liste cada etapa automatizada. Análise de currículos, ranking, perguntas eliminatórias, avaliações, triagens por chat, pontuação de entrevistas. O viés pode estar em qualquer uma. Veja avaliações pré-admissionais com IA e IA em entrevistas para as etapas além dos currículos.
2. Defina a decisão em cada etapa. "Avançar", "rejeitar", "pontuar acima da mediana". Só é possível medir o que foi definido.
3. Colete os dados de resultado por grupo. Você precisa do número de candidatos e do número de avanços por sexo, raça e etnia e faixa etária, com uma categoria "desconhecido". Entradas limpas importam aqui, então comece pelos fundamentos de dados de RH para IA.
4. Calcule as razões de impacto em cada etapa, não só na contratação. Uma taxa de propostas final equilibrada pode esconder uma triagem enviesada no início do funil.
5. Teste as interseções. Homens versus mulheres e candidatos negros versus brancos podem parecer aceitáveis enquanto mulheres negras, ou mulheres mais velhas, não.
6. Teste com entradas pareadas. Envie currículos idênticos que diferem apenas no nome, nos pronomes, no ano de formatura ou no endereço e veja se o resultado muda. Isso detecta efeitos de proxy que os números agregados podem deixar passar.
7. Verifique a relevância de cada entrada. Para cada atributo, documente por que ele é relacionado ao cargo e necessário, e elimine os que são, na verdade, proxies.
8. Revise as rejeições, não só as seleções. Faça amostragem do grupo mais mal classificado toda semana, com uma pessoa que possa anular a ferramenta (human-in-the-loop (pessoa no circuito)).
9. Decida quem é dono do resultado. O RH faz os cálculos, o jurídico os interpreta e um líder nomeado aprova qualquer correção.
10. Repita em intervalos regulares e depois de qualquer mudança. Novos critérios, novas famílias de cargos ou uma atualização do modelo do fornecedor zeram o relógio.

O que fazer quando uma razão falha

Não se limite a recalibrar o resultado para chegar a 80%. Encontre primeiro a causa. Rastreie a diferença até uma entrada, um rótulo ou uma etapa específica e depois considere alternativas menos discriminatórias que atendam à mesma necessidade do negócio, como eliminar um atributo proxy, trocar a exigência de diploma por um teste de habilidades ou transformar uma regra eliminatória em revisão humana. Documente o que encontrou e o que mudou. Para a rotina operacional mais ampla, veja supervisão humana em IA de RH.

O contexto jurídico em resumo

As regras variam por lugar e estão mudando, então confirme os requisitos atuais com o jurídico. Para um panorama mais completo, veja leis de contratação com IA.

• Cidade de Nova York. A Local Law 144 proíbe o uso de uma ferramenta automatizada de decisão de emprego sem uma auditoria de viés no último ano e um resumo público, e o Department of Consumer and Worker Protection começou a aplicá-la em 5 de julho de 2023 (NYC DCWP). A regra não define um limite de aprovação ou reprovação; exige que as razões sejam calculadas e publicadas.
• Illinois. A HB 3773, sancionada em 9 de agosto de 2024 e em vigor desde 1º de janeiro de 2026, altera o Illinois Human Rights Act para tornar ilegal usar IA que tenha o efeito de discriminar grupos protegidos ou usar CEPs como proxy deles, e exige aviso quando a IA é usada em decisões de emprego. O Illinois Department of Human Rights deve definir as regras do aviso (DLA Piper).
• Postura federal de fiscalização. A Executive Order 14281, assinada em 23 de abril de 2025, declara a política de eliminar a responsabilidade por impacto desproporcional "na maior medida possível" e orienta as agências a darem menos prioridade à fiscalização de leis e regulamentos relacionados (Compilation of Presidential Documents, GovInfo). Uma ordem não altera as leis nem a jurisprudência, e os autores privados e a legislação estadual continuam disponíveis, que é exatamente o caminho seguido em Mobley.

Erros comuns

• Auditar só a contratação final. A distorção costuma estar no primeiro filtro.
• Tratar a razão de quatro quintos como porto seguro. Passar de 0,80 com números pequenos prova pouco; falhar é um motivo para investigar, não prova de ilegalidade.
• Confiar apenas na auditoria do fornecedor. Ela cobre os dados do fornecedor, não as suas famílias de cargos nem o seu grupo de candidatos.
• Remover um proxy e dar o problema por resolvido. Sinais correlacionados preenchem a lacuna.
• Não coletar nenhum dado demográfico. Sem eles, você não consegue medir nada, e as Uniform Guidelines esperam registros por grupo. Trate-os com cuidado e separe-os da decisão de contratação.
• Deixar os rankings virarem decisões. Os avaliadores leem o topo da lista e param.
• Pular os novos testes. Uma ferramenta que passou no lançamento pode derivar à medida que os critérios e os grupos de candidatos mudam.