Un candidato que no avanzó te escribe y pregunta por qué. Es una pregunta razonable y cada vez más frecuente.
Si tu respuesta es "así lo determinó el sistema", acabas de admitir dos cosas al mismo tiempo. Que no sabes por qué, y que crees que eso te exculpa. No te exculpa. En el expediente, quien responde por esa decisión eres tú.
Lo digo desde donde trabajo: construyo y valido instrumentos. Mi oficio no es decirte qué dice la ley, es decirte qué evidencia existe detrás de una puntuación. Resulta que, en este tema, son la misma conversación.
La ley vigente de datos personales reconoce al titular el derecho a oponerse cuando sus datos son objeto de un tratamiento automatizado que le produzca efectos jurídicos no deseados o afecte de manera significativa sus intereses, derechos o libertades, y esté destinado a evaluar sin intervención humana aspectos personales o a predecir, entre otras cosas, su rendimiento profesional.
Lee la última parte otra vez. Predecir el rendimiento profesional sin intervención humana. Eso no es una hipótesis de laboratorio: es la descripción literal de un filtro automático de currículums y de una entrevista asíncrona puntuada por un modelo.
Cuando se tratan datos personales dentro de un proceso de decisión en el que no interviene la valoración de una persona física, hay que informárselo al titular. El criterio administrativo que lo interpreta precisa el momento: antes de que ese proceso ocurra.
En la edición #3 revisamos las cinco leyes mexicanas que tocan un proceso de selección. Esta entrada se ocupa de lo que cambia cuando parte de ese proceso corre sin una persona de por medio.
Aquí está la parte que cambia la conversación de compra. En materia de discriminación el mecanismo es más duro: si quien recibe la queja no contesta las imputaciones o contesta parcialmente, las conductas se tienen por ciertas, salvo prueba en contrario.
Ahí es donde la evidencia técnica se vuelve una pieza jurídica. La ley no castiga distinguir entre candidatos. Admite que no es discriminatoria la distinción basada en criterios razonables, proporcionales y objetivos. La evidencia de validez de un instrumento es el elemento central para sostener que tu criterio de selección es eso. No es una eximente automática, y conviene no venderla como tal. Pero sin ella, la defensa se queda sin su pieza principal.
Qué significa exactamente "evidencia de validez", y por qué no es un sello sino un conjunto de evidencias distintas, lo desarrollamos en la edición #2.
Una captura de pantalla del ranking no demuestra que tu criterio sea objetivo.
Tu proveedor puede tener toda la documentación del mundo. Si no está en tu poder, el día que la necesites vas a depender de su disposición y de sus tiempos.
Tres cosas que deberías poder contestar hoy sin llamar a nadie.
Si lo que necesitas es evaluar al proveedor antes de firmar, el ángulo complementario está en Tres cosas que un proveedor de IA para reclutamiento debería poder demostrarte. Esta entrada va del otro lado del contrato: lo que tienes que poder demostrar tú.
Hay una trampa en el remedio. Para hacer un análisis de equidad por categorías protegidas, alguien va a proponerte recolectar esas categorías: origen étnico, estado de salud. Ambas están en el catálogo de datos sensibles.
Tratar datos sensibles exige finalidad legítima y concreta, minimización, medidas de seguridad reforzadas y, cuando no opere una excepción, consentimiento expreso y por escrito. La auditoría que te iba a tranquilizar puede abrirte un frente nuevo si se diseña a la ligera. No es razón para no auditar. Es razón para que la diseñe alguien que sepa qué está recolectando y para qué.
México sigue sin ley general de inteligencia artificial. Que no exista una ley dedicada a la IA no significa que la IA no esté regulada en el reclutamiento: la regulan las leyes de siempre, y ninguna exime a nadie por haber delegado la decisión en una máquina.
Automatizar un proceso de evaluación es legítimo y en muchos casos deseable. Lo que no es negociable es que quede rastro de cómo se produjo cada puntaje y que alguien pueda responder por él.
No sostengo que toda decisión deba pasar por un revisor humano. Sostengo que toda decisión debe poder explicarse.
Escribí el marco completo en un whitepaper: las seis familias tecnológicas que hoy se venden bajo la misma etiqueta, qué evidencia le corresponde a cada una, el marco normativo mexicano aplicable y trece preguntas en formato listo para enviarle a tu proveedor.
Descarga el whitepaper IA en reclutamiento sin base científica: tres riesgos legales y operativos
https://recursos.psicotest.mx/whitepaper/ia-reclutamiento-sin-base-cientifica
Mándaselas por escrito y pide respuestas con fecha. El tiempo que tarde en contestar también es información.
Aurora Martínez — Gerente de Investigación, Psicotest Evalúa con ciencia.
