La discriminación algorítmica en reclutamiento ocurre cuando un sistema automatizado —un filtro de currículums, un chatbot de primera entrevista, un algoritmo de scoring— toma decisiones que perjudican sistemáticamente a un grupo de candidatos, sin que nadie lo haya programado explícitamente para eso. No requiere mala intención. Requiere, únicamente, que el sistema haya aprendido de datos que ya cargaban ese sesgo, y que nadie lo haya verificado antes de ponerlo a decidir sobre personas reales.
Ese es el punto que más cuesta digerir a un área de RH que apenas está incorporando IA a su proceso: un algoritmo no discrimina porque "sea malo". Discrimina porque nadie auditó de dónde salieron sus reglas.
Durante años, el sesgo en selección de personal fue un problema humano: el reclutador que prefería un perfil sin poder justificarlo técnicamente, el gerente que descartaba currículums por intuición. Ese sesgo era lento, disperso e inconsistente entre reclutadores — y es justo lo que las pruebas psicométricas nacieron para corregir, al introducir un criterio estandarizado y verificable en lugar de la impresión de cada evaluador.
La IA cambia la escala del problema, no su naturaleza. Un algoritmo de screening puede procesar miles de candidaturas por hora aplicando exactamente el mismo criterio a todas —y si ese criterio está sesgado, el sesgo también se aplica miles de veces por hora, de forma silenciosa y difícil de detectar desde afuera. Un reclutador sesgado descarta candidatos uno por uno; un algoritmo sesgado los descarta por lote, con la apariencia de objetividad que da un número.
Esa apariencia es exactamente el problema. Un puntaje generado por un modelo se ve igual de "duro" y cuantitativo esté o no sustentado en evidencia de validez. Y ahí es donde entra el enemigo real de este artículo: la idea de que la IA es neutral por diseño, y que basta con "que la programó una máquina" para que el resultado sea objetivo. No lo es. Un sistema es tan objetivo como los datos con los que fue entrenado y como los criterios que nadie se detuvo a auditar.
No hay un solo mecanismo. Hay al menos cinco, y conviene distinguirlos porque cada uno se detecta —y se corrige— de forma distinta.
Un algoritmo entrenado con decisiones de contratación pasadas aprende los patrones de esas decisiones, incluidos los sesgados. Si durante años un puesto técnico se llenó mayoritariamente con un mismo perfil demográfico, un modelo entrenado con "quién fue contratado antes" aprende a preferir ese perfil, no porque prediga mejor desempeño, sino porque se parece a quien ya estaba adentro. En México esto es particularmente relevante en sectores con historial de contratación poco diverso por región, escolaridad o género: el algoritmo no corrige esa historia, la reproduce a escala. Bogen y Rieke (2018) documentan este mecanismo como uno de los más comunes en herramientas de contratación algorítmica: el modelo aprende "quién fue contratado antes" como sinónimo de "quién debería ser contratado después".
Una variable proxy es un dato aparentemente neutral que está altamente correlacionado con una característica protegida, y que el algoritmo usa como si fuera predictiva del desempeño sin serlo. El código postal puede correlacionar con nivel socioeconómico; el nombre de una preparatoria, con la región de origen; los huecos en el historial laboral, con licencias de maternidad. Ningún modelo "pregunta" por género o edad directamente, pero puede llegar exactamente al mismo resultado discriminatorio usando variables que apuntan ahí sin decirlo. Barocas y Selbst (2016) fueron de los primeros en documentar con rigor este mecanismo de discriminación indirecta a través de datos aparentemente neutrales, un problema que el derecho antidiscriminatorio tradicional no estaba diseñado para detectar.
Un algoritmo puede ordenar candidatos sin que exista evidencia de que ese orden se relaciona con el desempeño real en el puesto. Este es el punto donde la discriminación algorítmica se conecta directamente con la psicometría: un instrumento de evaluación —humano o automatizado— solo tiene derecho a decidir sobre personas si demuestra validez de criterio, es decir, si predice desempeño real y no solo semejanza con un patrón histórico. Muchas herramientas de screening con IA nunca fueron sometidas a ese estándar. Producen un puntaje, no una medición. Ese estándar de validez de criterio no es nuevo ni exclusivo de la IA: es la misma exigencia que Schmidt y Hunter (1998) documentaron para los métodos de selección tradicionales, actualizada por Sackett et al. (2022) con estimaciones más recientes de qué tan bien predicen desempeño distintos procedimientos.
El impacto adverso ocurre cuando un proceso de selección rechaza a un grupo protegido en una proporción sustancialmente mayor que a otro, independientemente de la intención. Detectar esto requiere comparar tasas de avance por grupo en cada etapa del proceso — algo que solo es posible si alguien se sienta a medirlo. La mayoría de las implementaciones de IA en reclutamiento en México no incluyen este tipo de auditoría como parte del contrato con el proveedor, ni como práctica interna periódica. El estándar más citado internacionalmente para detectar esto —la llamada regla de los cuatro quintos, de las Uniform Guidelines on Employee Selection Procedures (EEOC y otras agencias federales de EE. UU., 1978)— fue diseñado décadas antes de que existiera la IA, pero su lógica de comparar tasas de avance entre grupos sigue siendo la más práctica para auditar cualquier sistema, humano o automatizado.
Cuando ni el proveedor ni el equipo de RH pueden explicar por qué el algoritmo llegó a una decisión específica sobre un candidato, no hay forma de auditar si esa decisión fue justa. Esto no es solo un problema ético: es un problema operativo. Si un candidato reclama y RH no puede reconstruir el criterio de la decisión, la empresa queda expuesta sin defensa técnica, más allá de "así lo dijo el sistema". Raghavan et al. (2020) revisaron cómo distintos proveedores de herramientas de contratación algorítmica afirman haber controlado el sesgo, y encontraron que buena parte de esas afirmaciones carece de un método de auditoría verificable detrás — la explicabilidad se declara, pero no se demuestra.
Los Standards for Educational and Psychological Testing (AERA, APA y NCME, 2014) y las International Guidelines for Test Use de la International Test Commission (2001) llevan décadas fijando el estándar de lo que cualquier instrumento de evaluación —incluida la IA— debería demostrar antes de decidir sobre personas. Aterrizado a un algoritmo de reclutamiento, ese estándar se traduce en siete verificaciones concretas:
Ninguno de estos puntos es exclusivo de la inteligencia artificial — de hecho, ya exploramos el riesgo específico de reemplazar evaluación validada por screening automatizado sin auditoría en "Screening con IA vs. evaluación psicométrica: el riesgo que no ves". Son, en el fondo, los mismos estándares que la psicometría organizacional exige desde hace décadas a cualquier instrumento de evaluación: validez de criterio, ausencia de sesgo de medición, evidencia documentada, posibilidad de auditoría. Lo único que cambia con la IA es la velocidad y la escala a la que un error —o un sesgo— se multiplica si nadie lo revisa antes.
La pregunta correcta nunca es "¿usamos IA o no en reclutamiento?". Es: ¿este sistema, humano o algorítmico, puede demostrar que mide lo que dice medir, para todos los candidatos por igual? Cuando esa pregunta no tiene respuesta verificable, lo que hay no es innovación. Es una decisión de contratación sin sustento, dicha con más confianza de la que merece.
Si tu equipo ya está evaluando o usando herramientas de screening con IA, en Psicotest podemos ayudarte a definir qué preguntas hacerle a tu proveedor antes de que un algoritmo tome decisiones sobre tus candidatos. [Agenda una conversación con nuestro equipo].
¿La discriminación algorítmica en reclutamiento es ilegal en México? No existe todavía una ley mexicana que regule específicamente el uso de IA en selección de personal, pero la discriminación por género, edad, origen o discapacidad ya está prohibida por la legislación laboral vigente, sin importar si la decisión la tomó una persona o un sistema automatizado.
¿Un algoritmo puede discriminar aunque no use datos de género o edad directamente? Sí. A través de variables proxy —código postal, historial de empleo, tipo de institución educativa— un modelo puede llegar al mismo resultado discriminatorio sin usar nunca esas categorías de forma explícita.
¿Cómo se detecta el impacto adverso en un proceso con IA? Comparando las tasas de avance de distintos grupos (por ejemplo, género o edad) en cada etapa del embudo de selección. Si un grupo avanza sistemáticamente menos sin que exista una razón relacionada con el puesto, hay una señal de impacto adverso que debe investigarse.
¿Basta con que el proveedor diga que su IA "está auditada contra sesgos"? No. Esa afirmación debe venir acompañada de un estudio verificable: qué se auditó, con qué método, con qué resultados y con qué frecuencia se repite la auditoría. Sin eso, es una declaración de intenciones, no evidencia.
¿Qué diferencia hay entre sesgo algorítmico y sesgo de medición en una prueba psicométrica? Ambos describen el mismo problema de fondo —una herramienta que no mide lo mismo de la misma forma para todos— pero el sesgo algorítmico ocurre a la escala y velocidad de un sistema automatizado, mientras que el sesgo de medición clásico se estudia y corrige con métodos psicométricos ya establecidos, como el análisis de funcionamiento diferencial del ítem.
¿Debe RH eliminar la revisión humana si usa IA en reclutamiento? No. La evidencia disponible sugiere que los procesos más defendibles combinan un filtro automatizado auditado con revisión humana en las decisiones límite, en lugar de delegar por completo el criterio final a un sistema no supervisado.
¿Qué le corresponde exigir a RH antes de firmar con un proveedor de IA para reclutamiento? Como mínimo: un estudio de validez de criterio, un análisis de impacto adverso, claridad sobre los datos de entrenamiento y la posibilidad de explicar el resultado para un candidato individual. Si el proveedor no puede entregar alguno de estos cuatro elementos, la responsabilidad legal y reputacional de usar el sistema recae completamente en la empresa que lo contrata.
Psicotest es la plataforma de evaluación psicométrica con más de 15 años de trayectoria especializada y más de 20 millones de evaluaciones aplicadas en México y Latinoamérica. Evalúa con ciencia.
Referencias APA
Barocas, S., & Selbst, A. D. (2016). Big data's disparate impact. California Law Review, 104(3), 671–732.
Bogen, M., & Rieke, A. (2018). Help wanted: An examination of hiring algorithms, equity, and bias. Upturn.
Comisión de Igualdad de Oportunidades en el Empleo [EEOC], Comisión de Servicio Civil, Departamento del Trabajo, & Departamento de Justicia de Estados Unidos. (1978). Uniform guidelines on employee selection procedures. Federal Register, 43, 38290–38315.
International Test Commission. (2001). International guidelines for test use. International Journal of Testing, 1(2), 93–114.
Joint Committee on Standards for Educational and Psychological Testing (AERA, APA, & NCME). (2014). Standards for educational and psychological testing. American Educational Research Association.
Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2020). Mitigating bias in algorithmic hiring: Evaluating claims and practices. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 469–481.
Sackett, P. R., Zhang, C., Berry, C. M., & Lievens, F. (2022). Revisiting meta-analytic estimates of validity in personnel selection: Addressing systematic overcorrection for restriction of range. Journal of Applied Psychology, 107(11), 2040–2068.
Schmidt, F. L., & Hunter, J. E. (1998). The validity and utility of selection methods in personnel psychology: Practical and theoretical implications of 85 years of research findings. Psychological Bulletin, 124(2), 262–274.
