Solicitar un trabajo ya apesta por sí solo. Pero cada vez más, quienes buscan empleo se preguntan si un sistema de inteligencia synthetic los está descartando antes de que un ser humano vea su solicitud.
Una nueva demanda espera cambiar eso al imponer una mayor transparencia sobre cómo funcionan las herramientas de contratación de IA. El caso sostiene que las “puntuaciones” automatizadas de los solicitantes deberían ser tratadas legalmente como verificaciones de crédito y estar sujetas a las mismas leyes de protección al consumidor.
La demanda colectiva propuesta fue presentada el miércoles en un tribunal estatal de California por dos mujeres que trabajan en STEM y dicen que los inspectores de contratación de AI las han excluido de los trabajos para los que estaban calificadas.
“He solicitado cientos de puestos de trabajo, pero siento como si una fuerza invisible me impidiera ser considerada de manera justa”, dijo Erin Kistler, una de las demandantes, en un presione soltar. “Es desalentador y sé que no soy el único que se siente así”.
Y tiene razón al decir que no es la única persona que se siente así en un momento en el que más empresas dependen de la IA para la contratación. Aproximadamente el 88% de las empresas utilizan actualmente alguna forma de IA para la selección inicial de candidatos, según el Foro Económico Mundial.
La demanda se dirige específicamente a Eightfold, una empresa de recursos humanos de inteligencia synthetic que vende herramientas diseñadas para ayudar a los empleadores a gestionar el reclutamiento y la contratación. Entre sus ofertas se encuentra una herramienta que genera una puntuación numérica que predice la probabilidad de que un candidato sea adecuado para un puesto determinado.
Ese sistema de puntuación se encuentra en el centro del caso. La “puntuación de coincidencia” de Eightfold se genera utilizando información extraída de una variedad de fuentes, incluidas ofertas de trabajo, las habilidades deseadas por un empleador, solicitudes y, en algunos casos, LinkedIn. Luego, el modelo proporciona una puntuación que va de cero a cinco que “ayuda a predecir el grado de coincidencia entre un candidato y un puesto de trabajo.”
La demanda argumenta que este proceso produce efectivamente un “informe del consumidor” según la Ley de Informes Crediticios Justos (FCRA), una ley federal aprobada en 1970 para common las agencias de crédito y las empresas de verificación de antecedentes. Debido a que la puntuación agrega información private y la traduce en una clasificación utilizada para determinar la elegibilidad para “fines laborales”, la demanda afirma que se debería exigir a Eightfold que siga las mismas reglas que se aplican a las agencias de informes crediticios.
Esas reglas incluyen notificar a los solicitantes cuando se crea dicho informe, obtener su consentimiento y darles la oportunidad de disputar cualquier información inexacta.
“Eightfold cree que las acusaciones no tienen fundamento. La plataforma de Eightfold opera con datos compartidos intencionalmente por candidatos o proporcionados por nuestros clientes”, dijo un portavoz de Eightfold a Gizmodo en un comunicado enviado por correo electrónico. “No raspamos las redes sociales y similares. Estamos profundamente comprometidos con la IA responsable, la transparencia y el cumplimiento de las leyes laborales y de protección de datos aplicables”.
Aún así, la demanda busca una orden judicial que obligue a Eightfold a cumplir con las leyes estatales y federales de informes del consumidor, así como con daños financieros.
“A trabajadores calificados en todo el país se les niegan oportunidades laborales basándose en evaluaciones automatizadas que nunca han visto y no pueden corregir”, dijo Jenny R. Yang, abogada del caso y ex presidenta de la Comisión de Igualdad de Oportunidades en el Empleo de Estados Unidos. “Estos son los daños muy reales que el Congreso intentó prevenir cuando promulgó la FCRA. A medida que evolucionan las herramientas de contratación, las empresas de inteligencia synthetic como Eightfold deben cumplir con estas salvaguardias legales de sentido común destinadas a proteger a los estadounidenses comunes y corrientes”.
