Supervisión humana en la IA de recursos humanos: qué decisiones deben seguir siendo humanas

Por Kevin Kim · Actualizado el 11 de octubre de 2026

La supervisión humana en la IA de recursos humanos significa que una persona con nombre, y con la autoridad, la información y el tiempo necesarios, cuestiona un resultado de la IA y puede cambiarlo antes de que afecte a un empleado o candidato. Que alguien haga clic en «aprobar» no cuenta. Lo han dicho tanto los reguladores como los investigadores, y la investigación sobre cómo se comportan realmente las personas ante las recomendaciones de la IA explica por qué.

Esta página es para directores de recursos humanos, gerentes de personas y responsables de cumplimiento normativo que deciden dónde la IA puede recomendar, dónde puede actuar y dónde una persona debe asumir la decisión. Cubre qué decisiones de recursos humanos corresponden a cada nivel, qué dice la ley que significa una intervención «significativa», cómo diseñar una revisión que no sea teatro y qué documentar. Se complementa con la IA en recursos humanos para el panorama general y con el concepto de human-in-the-loop (persona en el circuito) para el patrón en sí. Esta es información general, no asesoría jurídica.

Datos clave

• Según el artículo 22 del GDPR, una persona tiene derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o la afecte significativamente de modo similar (GDPR, artículo 22).
• Los reguladores europeos de protección de datos señalaron que la intervención humana solo cuenta si la supervisión es «significativa, y no un mero gesto simbólico», y la realiza alguien «que tenga la autoridad y la competencia para cambiar la decisión» (Grupo de Trabajo del Artículo 29, WP251).
• La EU AI Act clasifica como de alto riesgo las herramientas de IA para el empleo y la gestión de trabajadores, como el software de clasificación de currículums, con obligaciones aplicables desde el 2 de diciembre de 2027 (Comisión Europea).
• En un estudio de la University of Washington con 528 personas que seleccionaban candidatos a partir de recomendaciones de IA simuladas, las decisiones de los participantes siguieron las elecciones de una IA con un sesgo severo cerca del 90% de las veces (University of Washington, noviembre de 2025).
• Una revisión de factores humanos muy citada concluyó que el sesgo de automatización se da tanto en novatos como en expertos y «no se puede evitar con capacitación ni instrucciones» (Parasuraman y Manzey, Human Factors, 2010).

Qué exige realmente la ley

Dos instrumentos hacen la mayor parte del trabajo para los equipos de recursos humanos que contratan o gestionan personas en Europa, y un tercer marco ayuda en el resto del mundo.

Artículo 22 del GDPR

El artículo 22(1) otorga a las personas el derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos o las afecte significativamente de modo similar. Existen excepciones cuando la decisión es necesaria para un contrato, está autorizada por la ley con garantías, o se basa en el consentimiento explícito. Aun así, en los casos de contrato y consentimiento el responsable debe aplicar garantías adecuadas, como mínimo el derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión (GDPR, artículo 22).

Las directrices de los reguladores son tajantes sobre el truco que todos se sienten tentados a probar. Un responsable no puede eludir el artículo 22 fabricando una intervención humana. Alguien que aplica de forma rutinaria perfiles generados automáticamente, sin influir realmente en el resultado, sigue dejando la decisión como «únicamente automatizada». Las directrices también citan las «prácticas de contratación electrónica sin intervención humana» como ejemplo típico de una decisión que afecta significativamente a alguien (WP251).

Luego está la cuestión de hasta dónde llega el «únicamente». En el caso SCHUFA, el Tribunal de Justicia de la UE sostuvo el 7 de diciembre de 2023 que la puntuación de probabilidad automatizada de una agencia de crédito constituía una decisión individual automatizada cuando el tercero que la recibe «se basa en gran medida» en esa puntuación para decidir sobre un contrato con la persona (TJUE, C-634/21). El caso trataba de crédito, no de empleo. Pero la lógica se traslada: si un reclutador casi siempre sigue una puntuación de selección, la puntuación puede ser la decisión en lo sustancial, y el paso humano no lo protege.

La EU AI Act

La ley trata la IA usada en el empleo y la gestión de trabajadores como de alto riesgo, y cita el software de clasificación de currículums como ejemplo. Tras la enmienda del Digital Omnibus, las obligaciones para estos sistemas se aplican desde el 2 de diciembre de 2027, y la Comisión incluye «medidas adecuadas de supervisión humana» entre los requisitos, con deberes para quienes despliegan los sistemas de garantizar la supervisión y el monitoreo humanos (Comisión Europea). La enmienda entró en vigor el 27 de julio de 2026 (Lewis Silkin).

Dos artículos importan más a recursos humanos:

• El artículo 14 establece que los sistemas de alto riesgo deben diseñarse para que las personas puedan supervisarlos con eficacia. Las personas a cargo de la supervisión deben poder comprender las capacidades y los límites del sistema, ser conscientes de «la posible tendencia a confiar automáticamente o en exceso en el resultado (sesgo de automatización)», interpretar correctamente los resultados y decidir no usar el sistema o «ignorar, anular o revertir el resultado» (AI Act, artículo 14).
• El artículo 26 impone deberes al empleador como responsable del despliegue. Usted debe asignar la supervisión a personas con «la competencia, la formación y la autoridad necesarias», conservar los registros generados automáticamente por el sistema durante al menos seis meses salvo que otra ley disponga lo contrario, e informar a los representantes de los trabajadores y a los trabajadores afectados antes de usar un sistema de alto riesgo (AI Act, artículo 26).

El artículo 86 añade, para las personas afectadas por decisiones basadas en resultados de alto riesgo del Anexo III, el derecho a obtener «explicaciones claras y significativas sobre el papel del sistema de IA en el procedimiento de toma de decisiones» (AI Act, artículo 86). Esa es una razón práctica para llevar registros de lo que aportó la IA. Más sobre esto a continuación.

Fuera de la UE

En otros lugares las normas son un mosaico, y varias leyes estatales de Estados Unidos sobre decisiones automatizadas han sido modificadas o aplazadas, así que verifique cada lugar donde contrata. El AI Risk Management Framework de NIST, publicado el 26 de enero de 2023, es un marco estadounidense voluntario que puede usar como esqueleto de gobernanza en cualquier jurisdicción (NIST). Y la legislación contra la discriminación laboral se aplica con o sin software de por medio. El monitoreo a nivel de grupo, como la comparación de las cuatro quintas partes del 29 CFR 1607.4, es una primera verificación estándar para cualquier herramienta de selección.

Por qué «una persona lo revisa» a menudo no basta

Las pruebas legales suponen una persona capaz de discrepar de verdad de la máquina. La investigación sugiere que eso es más difícil de lo que parece.

Una revisión de 2010 en Human Factors concluyó que el sesgo de automatización lleva a las personas a cometer errores de omisión (pasar por alto algo que la herramienta no señaló) y errores de comisión (seguir un consejo equivocado). Se da en novatos y en expertos, y «no se puede evitar con capacitación ni instrucciones» (Parasuraman y Manzey). Un curso de una hora sobre los límites de la IA no es un control.

La evidencia específica de contratación apunta en la misma dirección. En el estudio de la University of Washington, 528 participantes seleccionaron candidatos para 16 puestos con recomendaciones de IA simuladas. Sin IA o con una IA neutral, eligieron a postulantes blancos y no blancos en proporciones iguales. Con una IA moderadamente sesgada reflejaron al grupo que esta favorecía, y con una IA severamente sesgada siguieron sus elecciones cerca del 90% de las veces (University of Washington). Las recomendaciones eran simuladas, así que esto muestra cómo responden las personas a una sugerencia sesgada, no cómo funciona ningún producto real. Aun así, es una advertencia directa: un revisor que ve primero la elección de la IA tiende a confirmarla.

Lo cual significa que la supervisión es un problema de diseño, no de dotación de personal. No se arregla diciendo a los revisores que tengan cuidado.

Una tabla de niveles de decisión

No existe una lista legal única de qué decisiones de recursos humanos deben seguir siendo humanas, y la respuesta depende de la jurisdicción. Los niveles siguientes son una forma práctica de aplicar las pruebas legales anteriores: cuanto más afecta una decisión al sustento, los derechos o la dignidad de alguien, más debe asumirla una persona. Tómelos como una política inicial para que su asesor legal la ajuste, no como una declaración de lo que exige ley alguna.

Dos principios sostienen la tabla. Primero, cuanto más cerca está la decisión de terminar, denegar o reducir algo a una persona, menos debería poder hacer la IA sin que una persona lea los motivos. Segundo, las decisiones «únicas» no son solo las que se ejecutan sin una persona. Incluyen aquellas en las que una persona sigue de forma sistemática el resultado. Si no puede demostrar que un revisor alguna vez discrepa, puede tener un problema con el artículo 22 aunque nominalmente haya una persona en el circuito.

Ejemplos reales por función de recursos humanos

• Reclutamiento. Un sistema de seguimiento de candidatos clasifica automáticamente a 800 postulantes para un puesto de soporte. Un reclutador lee los 40 primeros. Los postulantes por debajo de ese corte quedan rechazados, en la práctica, por el algoritmo. La solución es revisar cada semana una muestra aleatoria de la pila sin leer y exigir que una persona vea el motivo indicado antes de cualquier rechazo eliminatorio. Consulte el filtrado de currículums con IA.
• Desempeño y ascensos. Una herramienta resume las notas de un gerente y los datos de proyectos y sugiere una marca de «listo para ascender». El gerente trata la marca como la respuesta. La buena práctica es que el gerente escriba primero su propia evaluación y luego la compare con la herramienta, para que la máquina no ancle el juicio. Más sobre esto en la IA en la gestión del desempeño.
• Compensación. Un modelo recomienda aumentos dentro de un presupuesto. Un gerente que aprueba 40 recomendaciones en diez minutos no está revisando. Limite el tamaño del lote, muestre primero el razonamiento de los valores atípicos y haga que recursos humanos revise por separado los patrones a nivel de grupo.

Cómo construir una supervisión que no sea dar el visto bueno sin revisar

1. Enumere cada decisión de recursos humanos asistida por IA. Incluya las discretas: clasificaciones, marcas, avisos, calificaciones redactadas. No puede clasificar lo que no ha encontrado. Un pequeño inventario suele revelar herramientas que los gerentes adoptaron sin avisar a nadie.
2. Asigne cada decisión a un nivel y a un responsable con nombre. Use la tabla anterior como plantilla. El responsable es un rol con autoridad real, no «el equipo de recursos humanos».
3. Dé autoridad a los revisores. Los artículos 14 y 26 giran en torno a la capacidad de ignorar, anular o revertir el resultado y a asignar la supervisión a personas con competencia y autoridad (artículo 14, artículo 26). Si anular la herramienta exige tres firmas y una disculpa, nadie lo hará.
4. Dé información a los revisores. Muestre los insumos, el motivo del resultado y la confianza cuando el sistema la proporcione. Una puntuación sola invita a la deferencia. Aquí es donde la IA explicable se gana su lugar.
5. Dé tiempo a los revisores. Fije tamaños de lote razonables. Si las metas de volumen hacen imposible una revisión real, ha diseñado un sello de goma.
6. Cambie el orden del trabajo en las decisiones de alto riesgo. Cuando sea práctico, pida a la persona su propia evaluación antes de mostrar la de la IA. Esto reduce el anclaje en la sugerencia de la máquina.
7. Dé seguimiento a las tasas de anulación y a la profundidad de la revisión. Si los revisores coinciden con la IA el 99% de las veces, pregúntese si coinciden o solo hacen clic. Una tasa de anulación cercana a cero es una señal de alerta, no una métrica de éxito (vea cómo medir la IA en recursos humanos para saber cómo seguirla junto con otras métricas de equidad). Compare las tasas de anulación entre revisores y entre grupos de candidatos o empleados.
8. Dé a las personas una vía hacia un humano. Para todo lo importante, informe a las personas de que interviene la IA, permita que pidan que una persona vuelva a mirar y permita que añadan su versión. Eso refleja las garantías del artículo 22(3) y el derecho de explicación del artículo 86.
9. Reclasifique cuando las cosas cambien. Una nueva versión del modelo, una nueva fuente de datos o un nuevo uso de una puntuación antigua pueden subir una decisión de nivel.

El monitoreo de la propia herramienta también corresponde aquí. Consulte el sesgo de la IA en la contratación para saber cómo probar los resultados por grupo.

Qué documentar

Los registros son la forma de demostrar que la supervisión ocurrió, y son lo que pedirán un regulador, un auditor o el abogado de un empleado. Las directrices de los reguladores indican que un responsable debe identificar y registrar el grado de intervención humana en el proceso de toma de decisiones y en qué etapa se produce (WP251). Un mínimo viable:

• La decisión, su nivel y su responsable.
• Qué produjo la IA, qué versión lo produjo y qué vio el revisor.
• La decisión del revisor, su razonamiento si anuló el resultado y el tiempo que tardó.
• Cualquier contacto de la persona afectada, como una solicitud de revisión humana o de una explicación, y el desenlace.
• Registros conservados durante el plazo que exija su ley. En los sistemas de alto riesgo de la UE, quienes los despliegan conservan los registros generados automáticamente durante al menos seis meses, salvo que otra ley disponga lo contrario (artículo 26).

Un registro de auditoría de la IA estructurado lo facilita mucho más que reconstruir los hechos a partir del correo.

Errores comunes

• Contar un clic como supervisión. Si el revisor no puede cambiar el resultado, o nunca lo hace, los reguladores pueden tratar la decisión como automatizada.
• Ocultar el motivo. Los revisores que solo ven una puntuación se pliegan a ella.
• Sobrecargar a los revisores. Una cola de 200 elementos al día garantiza la aprobación por defecto.
• Tratar la capacitación como la solución. La investigación indica que la sola concienciación no elimina el sesgo de automatización, así que construya estructura, no solo un curso.
• Usar la tasa de anulación como métrica de desempeño contra los revisores. Si se califica a la baja a quienes discrepan de la herramienta, dejarán de hacerlo.
• Ignorar la pila que nadie abre. Los rechazos que nadie lee son donde se esconden los errores y los sesgos.