¿Los algoritmos evalúan injustamente las solicitudes de empleo de inmigrantes?

La nueva estrategia de inteligencia artificial de Canadá, AI for All, es una visión ambiciosa para el futuro del país. La inteligencia artificial, afirma el gobierno federal, puede aumentar la productividad, fortalecer la competitividad y crear oportunidades en toda la economía.

Pero, ¿qué sucede cuando la IA decide cada vez más quién tiene acceso a esas capacidades en primer lugar?

Como académicos de migración en la iniciativa Bridging Divides de la Universidad Metropolitana de Toronto, exploramos cómo la inteligencia artificial está remodelando el acceso de los inmigrantes al empleo. Estamos viendo una intersección cada vez mayor entre la agenda de inmigración de Canadá y su agenda de IA, las cuales son esenciales para el futuro económico de Canadá. Sin embargo, estos programas rara vez se discuten juntos.

A medida que la inteligencia artificial se incorpora cada vez más al empleo, la cuestión ya no es sólo a quién admite Canadá, sino cómo se distribuyen las oportunidades cuando llegan los inmigrantes.

Las tecnologías que dan forma al empleo hoy pueden desempeñar un papel cada vez más importante a la hora de determinar si los inmigrantes calificados en Canadá podrán contribuir plenamente a la economía del mañana.

La dependencia de Canadá de la inmigración

En toda la OCDE, los inmigrantes representan una proporción cada vez mayor de la fuerza laboral. Son cada vez más importantes para el crecimiento económico, la sostenibilidad demográfica y la innovación.

En Canadá, los inmigrantes representaron cuatro quintas partes del crecimiento de la fuerza laboral entre 2016 y 2021, lo que subraya la continua dependencia de Canadá de la inmigración para mantener su fuerza laboral.

Al mismo tiempo, Canadá está adoptando rápidamente la inteligencia artificial. El uso de la inteligencia artificial en el lugar de trabajo se está expandiendo rápidamente, incluido el reclutamiento, la contratación y la gestión de la fuerza laboral. La evidencia reciente de Statistics Canada sugiere que la adopción de IA entre las empresas canadienses se ha duplicado en el último año.

Estos acontecimientos a menudo se analizan por separado. No deberían serlo. El éxito futuro de uno puede depender cada vez más del otro.

Los inmigrantes están subempleados

El sistema de inmigración de Canadá es ampliamente considerado como uno de los sistemas más desarrollados para seleccionar inmigrantes calificados. Sin embargo, la integración en el mercado laboral sigue siendo uno de los desafíos más persistentes que enfrentan los inmigrantes.

A pesar de los altos niveles de educación y experiencia profesional, los inmigrantes todavía enfrentan tasas más altas de subempleo y sobrecapacitación que los trabajadores nacidos en Canadá. Statistics Canada informa que casi un tercio de los inmigrantes recientes con educación postsecundaria están sobrecalificados para sus puestos de trabajo, en comparación con menos de uno de cada cinco trabajadores nacidos en Canadá.

Muchos inmigrantes altamente calificados trabajan en otros trabajos de servicios. PRENSA CANADIENSE/Darryl Dick

Muchos todavía enfrentan barreras relacionadas con el reconocimiento de credenciales extranjeras, redes profesionales limitadas y los requisitos de la llamada “experiencia canadiense”. Las investigaciones han documentado durante mucho tiempo cómo las habilidades y la experiencia adquiridas internacionalmente a menudo están infravaloradas en el mercado laboral canadiense.

Estos desafíos no son nuevos. Lo que es nuevo es la infraestructura a través de la cual operan cada vez más.

Algoritmos como guardianes

Históricamente, el acceso al empleo estuvo mediado en gran medida por instituciones y juicios humanos, desde organismos de acreditación y gerentes de contratación hasta reclutadores y redes profesionales que determinaban qué habilidades se reconocían y cuáles se pasaban por alto. Hoy en día, muchas decisiones se toman antes, dentro de los sistemas digitales que evalúan, clasifican y filtran a los candidatos antes de que un reclutador revise una solicitud.

En Canadá y otros países de la OCDE, el reclutamiento se está transformando mediante sistemas de seguimiento de candidatos, herramientas de selección automatizadas, análisis predictivos y plataformas de reclutamiento habilitadas con inteligencia artificial.

Un creciente conjunto de investigaciones ha planteado preocupaciones sobre cómo estos sistemas pueden reproducir las desigualdades existentes a través de los datos y supuestos en los que se basan. Un estudio de la Universidad de Cornell encontró que muchas afirmaciones de equidad en la contratación algorítmica siguen siendo difíciles de verificar porque los sistemas de contratación a menudo heredan patrones integrados en datos históricos de contratación.

De manera similar, Safia Noble, profesora de género y estudios afroamericanos en la Universidad de California en Los Ángeles, ha demostrado cómo los sistemas digitales aparentemente neutrales pueden reproducir desigualdades sociales más amplias en su libro Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo.

Las Perspectivas de Empleo de la OCDE advirtieron ya en 2023 que los sistemas de inteligencia artificial utilizados en el empleo podrían generar preocupaciones significativas sobre la transparencia, la explicabilidad, la rendición de cuentas y la discriminación, particularmente para los grupos que ya enfrentan desventajas en el mercado laboral.

La IA está yendo más allá de simplemente brindar asesoramiento para ejercer cada vez más autoridad en las decisiones que afectan la vida y los medios de subsistencia de las personas. La contratación es una de esas decisiones.

Sistemas de detección de ‘caja negra’

Los hallazgos preliminares de nuestro reciente estudio Bridging Divides, basado en entrevistas con inmigrantes, empleadores y profesionales del empleo en todo Canadá, sugieren que muchos inmigrantes perciben los sistemas de empleo digitales como una “caja negra” que da forma a los resultados pero que permanece en gran medida invisible para los afectados.

La política de inmigración de Canadá selecciona inmigrantes calificados, pero la IA determina si se les considera trabajadores calificados. (Getty/Unsplash+)

Un participante describió haber solicitado varias veces puestos que coincidieran con sus calificaciones:

“Por la descripción en sí, sentiste que eras el candidato adecuado, pero de alguna manera tu currículum no fue elegido por alguna razón, dijeron, como si tu currículum no cumplía con los criterios”.

La cuestión no es el simple rechazo. Es incertidumbre. Los solicitantes a menudo no saben si han sido rechazados debido a calificaciones, competencia, preferencias de los empleadores o sistemas de selección automatizados.

Otro participante explicó:

“Solicité siete trabajos sin respuesta. Fue entonces cuando fui a ChatGPT e investigué por qué podría no recibir respuestas”.

Muchos participantes describieron cómo aprendieron a adaptar sus aplicaciones no a los reclutadores, sino a los algoritmos. De hecho, a los solicitantes de empleo se les exige cada vez más no sólo que demuestren competencia, sino también que sean legibles por máquina.

Equidad en el futuro de la IA de Canadá

Nada de esto quiere decir que la IA sea inherentemente discriminatoria, ni significa que los empleadores deban abandonar las tecnologías de contratación digital. Si se utilizan de manera responsable, estas herramientas pueden mejorar la eficiencia y ayudar a los empleadores a identificar candidatos calificados.

Pero Canadá ha pasado décadas perfeccionando la forma en que selecciona a inmigrantes calificados. Se presta menos atención a las tecnologías que determinan cada vez más el reconocimiento de esas habilidades a su llegada.

A medida que la IA se integra en el empleo, debemos considerar cómo se gestionan las oportunidades cuando los inmigrantes ingresan al mercado laboral. Si la política de inmigración selecciona inmigrantes calificados, la IA determina cada vez más si se les considera trabajadores calificados.

El futuro de Canadá depende tanto de la inmigración como de la inteligencia artificial. Garantizar que estas dos ambiciones se refuercen en lugar de socavarse mutuamente puede convertirse en uno de los desafíos políticos clave de la era de la IA.