Sesgo de la IA en la contratación: de dónde viene y cómo auditarlo

Por Kevin Kim · Actualizado el 11 de octubre de 2026

El sesgo de la IA en la contratación es una diferencia sistemática en cómo una herramienta automatizada trata a candidatos de distintos grupos, causada por los datos de los que aprendió, las señales que utiliza o la forma en que se despliega, y no por algo que los candidatos hayan hecho. Rara vez parece prejuicio. Parece un ranking, una puntuación o una regla eliminatoria que, por casualidad, deja pasar a los hombres con más frecuencia que a las mujeres, o a los postulantes jóvenes con más frecuencia que a los mayores, y nadie lo nota porque nadie contó.

Esta página está dirigida a directores de recursos humanos, responsables de adquisición de talento y asesores jurídicos internos que ya usan, o están por comprar, herramientas de filtrado o evaluación. Explica dónde entra el sesgo, cómo se mide el impacto adverso y cómo realizar una auditoría que pueda defender. Para el concepto general, consulte el sesgo en la IA. Para el filtrado en particular, consulte el filtrado de currículums con IA. Esto es información general, no asesoramiento jurídico.

Datos clave

• El motor experimental de reclutamiento de Amazon calificaba a los candidatos de una a cinco estrellas, aprendió de currículums presentados durante un periodo de 10 años (la mayoría de hombres) y penalizaba los currículums que contenían la palabra «women's» (de mujeres); el equipo fue disuelto (Reuters, octubre de 2018).
• Según las Uniform Guidelines federales, una tasa de selección inferior a cuatro quintas partes (80%) de la tasa del grupo más alto se considera por lo general evidencia de impacto adverso, aunque diferencias menores también pueden contar (29 CFR 1607.4).
• iTutorGroup acordó pagar 365 000 dólares para resolver una demanda de la EEOC que alegaba que su software de postulación rechazaba automáticamente a mujeres de 55 años o más y a hombres de 60 años o más, lo que afectó a más de 200 postulantes (Duane Morris, agosto de 2023).
• En una prueba de la Universidad de Washington con tres modelos de lenguaje, los nombres asociados con personas blancas fueron preferidos el 85% de las veces frente al 9% de los nombres asociados con personas negras, y los nombres de hombres negros nunca fueron preferidos sobre los de hombres blancos (University of Washington, octubre de 2024).
• La regla de auditoría de sesgos de la ciudad de Nueva York exige una razón de impacto para cada categoría de sexo, raza/etnia e intersección, y prohíbe usar una herramienta pasado más de un año desde su última auditoría (regla adoptada por el NYC DCWP).

De dónde viene el sesgo en la IA de contratación

El sesgo tiene más de una entrada. Corregir una no cierra las demás, que es la principal lección de los casos documentados que aparecen más abajo.

Dos puntos hacen tropezar a muchos equipos. Primero, eliminar el atributo protegido no elimina el sesgo, porque el modelo puede reconstruirlo a partir de señales correlacionadas. Amazon editó sus programas para ignorar términos específicos asociados con el género, pero personas familiarizadas con el esfuerzo dijeron a Reuters que eso no garantizaba que el sistema no encontrara otras formas discriminatorias de ordenar a los candidatos (Reuters). Segundo, una herramienta basada en reglas puede ser tan sesgada como una que aprende. El software de iTutorGroup no era un modelo misterioso; la EEOC alegó que estaba programado con límites de edad (Duane Morris).

Casos documentados que conviene conocer

El modelo de reclutamiento descartado de Amazon (2018)

Reuters informó que el equipo de Amazon llevaba desde 2014 construyendo programas de revisión de currículums y descubrió en 2015 que el sistema no calificaba de forma neutral en cuanto al género a los candidatos para puestos de desarrollador de software y otros puestos técnicos. Los modelos se entrenaron con currículums presentados durante 10 años, la mayoría de hombres. Penalizaban los currículums que contenían la palabra «women's», y Amazon disolvió después el equipo (Reuters). Los reclutadores miraban las recomendaciones de la herramienta pero, según el informe, nunca se basaron únicamente en sus rankings. El caso es el ejemplo clásico de sesgo en las etiquetas y en los datos de entrenamiento.

La EEOC e iTutorGroup (2023)

La EEOC alegó que iTutorGroup programó su software de postulación de tutores para rechazar a mujeres mayores de 55 años y a hombres mayores de 60, y que no contrató a más de 200 postulantes calificados de 55 años o más a principios de 2020. El decreto de consentimiento, presentado el 9 de agosto de 2023, dispuso 365 000 dólares para los postulantes afectados, divididos por igual entre daños compensatorios y pago retroactivo, y duró cinco años con capacitación, políticas contra la discriminación y supervisión de la EEOC (Duane Morris). Este fue un trato desigual intencional codificado en el software, que es un fallo distinto del sesgo aprendido, y un recordatorio de que las auditorías también deben leer las reglas.

Mobley v. Workday (en curso)

Derek Mobley alega que se postuló a más de 100 empleos a través de empleadores que usan la plataforma de Workday y que fue rechazado todas las veces, y que las herramientas de IA de Workday perjudican a los postulantes mayores. El 16 de mayo de 2025, la jueza Rita Lin del Distrito Norte de California concedió la certificación preliminar de una acción colectiva conforme a la Age Discrimination in Employment Act, que abarca a los postulantes de 40 años o más a quienes se les negaron recomendaciones de empleo a través de la plataforma desde el 24 de septiembre de 2020; la pregunta común del tribunal era si el sistema de recomendaciones tiene un impacto dispar en los postulantes mayores de cuarenta años (Holland & Knight, Fisher Phillips). Workday sostiene que la demanda carece de fundamento y que la certificación es solo preliminar. Según una actualización de derecho laboral de mediados de 2026, el caso seguía en curso, con reclamos ampliados a la raza y la discapacidad, algunos reclamos de derecho estatal sobrevivieron a una moción de desestimación a finales de junio de 2026 y Workday buscaba una apelación interlocutoria de la decisión de certificación (actualización de derecho laboral, primavera de 2026). No se ha decidido nada sobre el fondo, así que trátelo como una señal sobre la teoría jurídica, no como una constatación de sesgo. La teoría en sí importa a los compradores: apunta al proveedor del software además de a los empleadores que lo usan.

Sesgo por nombres en los modelos de lenguaje (2024)

Investigadores de la Universidad de Washington variaron solo los nombres de pila (120 nombres asociados con hombres y mujeres blancos y negros) en más de 550 currículums reales ordenados frente a más de 500 ofertas de empleo de nueve ocupaciones, con tres modelos de lenguaje y más de tres millones de comparaciones. Los nombres asociados con personas blancas fueron preferidos el 85% de las veces y los asociados con personas negras el 9%; los nombres asociados con hombres el 52% frente al 11% de los asociados con mujeres; y los nombres de hombres negros nunca fueron preferidos sobre los de hombres blancos (University of Washington). Fue una prueba de investigación controlada de modelos de uso general, no una auditoría de ningún producto comercial de contratación. Muestra por qué debe probar su propia configuración, y por qué el comentario de los investigadores de que el sesgo «no era necesariamente visible al mirar la raza o el género de forma aislada» respalda las verificaciones interseccionales.

Impacto adverso y la regla de las cuatro quintas partes

El impacto adverso significa que un procedimiento de selección hace avanzar a un grupo a una tasa notablemente menor que a otro, lo haya querido alguien o no. Las Uniform Guidelines federales consideran que una tasa de selección de cualquier grupo inferior a cuatro quintas partes (80%) de la tasa del grupo con la tasa más alta es por lo general evidencia de impacto adverso, y una tasa superior a eso, por lo general, no. También dicen que diferencias menores pueden seguir siendo impacto adverso cuando son estadística y prácticamente significativas, y que brechas mayores basadas en cifras pequeñas pueden no contar. Se espera que los empleadores conserven registros que muestren el impacto de sus procedimientos por sexo y por grupo racial y étnico (29 CFR 1607.4).

Una ilustración con cifras inventadas:

La razón de 0,70 del Grupo C queda por debajo de 0,80, que es su señal para investigar. El Grupo B está exactamente en el límite, lo que demuestra por qué el umbral es una señal de detección y no un veredicto. Con grupos pequeños, unas pocas contrataciones mueven mucho la razón, así que combine la razón con una prueba de significancia y observe varios meses de datos.

Cómo auditar una herramienta de contratación

La regla de la ciudad de Nueva York ofrece la plantilla publicada más clara, y es útil aunque usted no esté cubierto por ella. Exige que la auditoría calcule la tasa de selección y la razón de impacto de cada categoría, definida como la tasa de selección de una categoría dividida por la de la categoría más seleccionada. Para las herramientas que generan puntuaciones, usa de la misma manera una tasa de puntuación (la proporción que puntúa por encima de la mediana de la muestra). Los cálculos deben hacerse por separado para las categorías de sexo, las categorías de raza/etnia y las categorías interseccionales de sexo, etnia y raza, y la auditoría debe informar cuántas personas cayeron en una categoría desconocida. Un auditor independiente puede omitir una categoría que represente menos del 2% de los datos si el resumen explica por qué y da las cifras de esa categoría (regla adoptada por el NYC DCWP).

Una rutina paso a paso

1. Enumere cada paso automatizado. Análisis de currículums, ranking, preguntas eliminatorias, evaluaciones, filtros por chat, puntuación de entrevistas. El sesgo puede estar en cualquiera de ellos. Consulte las evaluaciones preselectivas con IA y la IA en las entrevistas para las etapas posteriores a los currículums.
2. Defina la decisión en cada paso. «Avanza», «se rechaza», «puntúa por encima de la mediana». Solo puede medir lo que ha definido.
3. Recopile datos de resultados por grupo. Necesita el número de postulantes y de avances por sexo, raza y etnia, y tramo de edad, con una categoría «desconocido». Las entradas limpias importan aquí, así que empiece por las bases de datos de recursos humanos para la IA.
4. Calcule las razones de impacto en cada etapa, no solo en la contratación. Una tasa de ofertas final equitativa puede ocultar un filtro sesgado al inicio del embudo.
5. Pruebe las intersecciones. Hombres frente a mujeres y candidatos negros frente a blancos pueden verse aceptables mientras que las mujeres negras, o las mujeres mayores, no.
6. Pruebe con entradas pareadas. Envíe currículums idénticos que difieran solo en el nombre, los pronombres, el año de graduación o la dirección, y vea si cambia el resultado. Esto detecta efectos proxy que las cifras agregadas pueden pasar por alto.
7. Verifique la relevancia de cada entrada. Para cada variable, documente por qué está relacionada con el puesto y es necesaria, y elimine las que en realidad son proxies.
8. Revise los rechazos, no solo las selecciones. Tome cada semana una muestra del grupo de menor puntuación, con una persona que pueda anular la herramienta (human-in-the-loop (persona en el circuito)).
9. Decida quién es responsable del resultado. Recursos humanos hace los cálculos, el área legal los interpreta y un líder designado aprueba cualquier corrección.
10. Repita según un calendario y después de cualquier cambio. Nuevos criterios, nuevas familias de puestos o una actualización del modelo del proveedor reinician el reloj.

Qué hacer cuando una razón no cumple

No se limite a recalibrar el resultado para alcanzar el 80%. Primero encuentre la causa. Rastree la brecha hasta una entrada, etiqueta o paso concretos y luego considere alternativas menos discriminatorias que sirvan a la misma necesidad del negocio, como eliminar una variable proxy, sustituir un requisito de título por una prueba de habilidades o convertir una regla eliminatoria en una revisión humana. Documente lo que encontró y lo que cambió. Para la rutina operativa más amplia, consulte la supervisión humana en la IA de recursos humanos.

El contexto legal en breve

Las normas difieren según el lugar y están cambiando, así que confirme los requisitos vigentes con su asesor jurídico. Para un panorama más completo, consulte las leyes sobre IA en la contratación.

• Ciudad de Nueva York. La Local Law 144 prohíbe usar una herramienta automatizada de decisión de empleo sin una auditoría de sesgos dentro del año anterior y un resumen público, y el Department of Consumer and Worker Protection comenzó a aplicarla el 5 de julio de 2023 (NYC DCWP). La regla no fija un umbral de aprobado o reprobado; exige que se calculen y publiquen las razones.
• Illinois. La HB 3773, firmada el 9 de agosto de 2024 y vigente desde el 1 de enero de 2026, modifica la Illinois Human Rights Act para hacer ilegal el uso de IA que tenga el efecto de discriminar a clases protegidas o el uso de códigos postales como proxy de ellas, y exige un aviso cuando se usa IA en decisiones de empleo. El Illinois Department of Human Rights fijará las reglas del aviso (DLA Piper).
• Postura federal de aplicación. La Executive Order 14281, firmada el 23 de abril de 2025, establece una política de eliminar la responsabilidad por impacto dispar «en la mayor medida posible» e indica a las agencias que den menor prioridad a la aplicación de las leyes y regulaciones relacionadas (Compilation of Presidential Documents, GovInfo). Una orden no cambia las leyes ni la jurisprudencia, y los demandantes privados y la legislación estatal siguen disponibles, que es exactamente la vía que sigue Mobley.

Errores comunes

• Auditar solo la contratación final. El sesgo suele estar en el primer filtro.
• Tratar la razón de cuatro quintas partes como un puerto seguro. Superar 0,80 con cifras pequeñas demuestra poco; no alcanzarlo es un motivo para investigar, no una prueba de ilegalidad.
• Confiar solo en la auditoría del proveedor. Cubre los datos del proveedor, no sus familias de puestos ni su grupo de postulantes.
• Eliminar un proxy y darlo por corregido. Las señales correlacionadas llenan el vacío.
• No recopilar datos demográficos. Sin ellos no se puede medir nada, y las Uniform Guidelines esperan registros por grupo. Manéjelos con cuidado y sepárelos de la decisión de contratación.
• Dejar que los rankings se conviertan en decisiones. Los revisores leen la parte superior de una lista y se detienen.
• Omitir las nuevas pruebas. Una herramienta que aprobó en el lanzamiento puede derivar a medida que cambian los criterios y los grupos de postulantes.