A ai o no ai?
El uso de tecnologías de IA siempre ha sido susceptible a cargos de sesgo potencial debido a conjuntos de datos sesgados en los que se han capacitado modelos de lenguaje grandes. Pero seguramente las empresas se aseguran de que esos sesgos se hayan resuelto, ¿verdad? Lamentablemente, cuando se trata de IA y reclutamiento, no todas las aplicaciones de la tecnología son las mismas, por lo que las empresas necesitan pisar con cuidado. En otras palabras, si no lo entiende, no lo use.
Desde el lanzamiento de ChatGPT a fines de 2022, ha sido difícil leer un periódico, blog o revista sin alguna referencia a la extraña magia de la IA. Ha entusiasmado y preocupado a las personas en igual medida, ya que los reclutadores no son diferentes. De cada ganancia para poder comprender y trabajar con grandes cantidades de información, parece haber negativos en torno al sesgo de datos y los usos inapropiados.
Escísico Es parte de la ciencia digital de la compañía más grande, y ambos han estado desarrollando soluciones centradas en la IA durante muchos años. A partir de esa experiencia, entiende que el desarrollo y la implementación responsables de la IA son cruciales no solo porque es “lo correcto”, sino porque simplemente garantiza que se creen mejores soluciones para los clientes. Los clientes que a su vez pueden confiar en la ciencia digital y la escísica como socios durante un período de cambio y incertidumbre tan rápidos.
Ai en foco
Los beneficios potenciales de usar IA en el reclutamiento son bastante claros. Mediante el uso de IA generativa como ChatGPT, grandes cantidades de datos se pueden escanear e interpretar de manera rápida y fácil, potencialmente ahorrando tiempo y dinero durante la detección. A su vez, el proceso de detección también se puede mejorar al recoger fácilmente palabras y frases clave en aplicaciones, mientras que las comunicaciones sobre el proceso de contratación pueden mejorarse mediante el uso de herramientas automatizadas con AI.
Pero, por supuesto, hay un inconveniente. El uso de AI demasiado parece eliminar al “humano” de los recursos humanos, y la IA en sí misma es tan buena como los datos en los que ha sido entrenado. El reciente resumen emitido por la Comisión de Igualdad de Oportunidades de Igualdad de Empleo de EE. UU. (EEOC) ha destacado un problema importante con la IA en el reclutamiento, que apoyó a una persona que ha afirmado que la herramienta de contratación basada en AI de un proveedor discriminó contra ellos y otros. La EEOC ha traído recientemente casos contra el uso de la tecnología, lo que sugiere que los proveedores además de los empleadores pueden ser responsables del uso indebido de la tecnología basada en IA.
¿Cuándo debemos usar AI?
En general, si no lo entiende, no lo use. Surgen problemas tanto para los proveedores como para los reclutadores cuando se trata de la adopción de herramientas de IA a escala. Si bien los grandes conjuntos de datos ofrecen las ventajas establecidas anteriormente, también introducen prejuicios más allá de los prejuicios humanos que los empleadores y los empleados han estado tratando durante años. De hecho, en lugar de ensalzar las virtudes de usar AI, quizás sea más instructivo explicar cómo no usar esta nueva tecnología poderosa.
Como desarrollador responsable y ético de las soluciones de reclutamiento basadas en la IA, los colegas de Scismic se sorprendieron al ver una diapositiva como la siguiente en un evento reciente. Si bien fue diseñado para mostrar las ventajas de la tecnología de reclutamiento basada en IA a los empleadores, en realidad destaca los peligros de ‘capas’ de sistemas de IA encima de los demás. Esto significa que la empresa cliente perderá aún más visibilidad sobre quién y cómo está seleccionando el sistema, aumentando el riesgo de sesgo, falta de buenos candidatos y, en última instancia, el riesgo de desafío legal.
En este escenario, con tantas tecnologías en capas entre sí durante todo el flujo de trabajo, es casi imposible entender cómo se desarrolló la tubería de candidatos, donde se excluyeron los candidatos, y en el cual los puntos de sesgo han causado más sesgo en el proceso de selección.
Si bien la lista de herramientas de IA utilizadas en el proceso es impresionante, lo que es menos desde una perspectiva de reclutamiento es la capa sobre la capa de sesgos potenciales que estas herramientas podrían introducir en el proceso de reclutamiento.
En Scismic, ofrecen un enfoque diferente. La IA se utiliza para eliminar los sesgos en los conjuntos de datos, de modo que todas las ventajas de usar procesos automatizados estén protegidos por la introducción de procesos de mitigación, asegurando así un programa de reclutamiento más justo y ético para los empleadores.
¿Discriminación positiva?
La tecnología de Scismic se centra en unidades objetivas de calificaciones: habilidades. Utilizamos AI para reducir el sesgo del uso de terminología asociado con la descripción de habilidades. Ahora tenemos dos formas en que reducimos el sesgo de evaluación:
- Tecnología de coincidencia de candidatos cegados que se basa en unidades objetivas de calificaciones – habilidades
- Eliminar el sesgo de la terminología de los candidatos para describir sus habilidades.
¿Qué tipo de IA se está utilizando?
Para ayudar a explicar cómo Scismic hace esto, podemos dividir la IA en IA subjetiva (o generativa) como ChatGPT, y AI objetivo. La IA subjetiva es, en general, un sistema contextual que hace suposiciones sobre qué proporcionar al usuario en función de las interacciones pasadas del usuario y su propia capacidad para usar el contexto. Este sistema puede funcionar bien para las interacciones humanas (como los chatbots), que es para lo que fue diseñado.
Sin embargo, cuando se aplica a la toma de decisiones sobre las personas y la contratación (que ya es un área llena de dificultad), los sistemas subjetivos y contextuales pueden simplemente reforzar el sesgo existente o generar nuevos sesgos. Por ejemplo, si una empresa integra un producto Genai en su sistema de seguimiento de solicitantes (ATS) y el sistema identifica que la mayoría de las personas en el sistema comparten una característica particular, entonces el sistema asumirá que eso es lo que la compañía quiere. Claramente, si la compañía realmente está tratando de ampliar su grupo de contratación, esto puede tener un efecto muy negativo, que también puede ser impugnado en los tribunales.
El objetivo de IA funciona de manera diferente, ya que no observa el contexto en torno a la instrucción dada, sino solo para los componentes centrales que se pidió. Esto significa que no hace suposiciones al tiempo que se acumula los resultados del núcleo inicial (datos), pero puede proporcionar más detalles de objetivos sobre el conjunto de datos. En muchos sentidos, es un sistema ‘más limpio’, pero debido a que está enfocado y transparente, es la mejor opción para eliminar el sesgo no deseado.
La IA es una herramienta y, como con tantos trabajos que requieren herramientas, la pregunta es a menudo; ¿Cuál es la mejor herramienta para usar? En resumen, recomendamos que una herramienta que produzca mejores resultados con menos sesgo sea la respuesta en un proceso de contratación.
Caso por caso
Para mostrar qué tan bien, algunos casos pueden resultar cuando se usan ‘AI objetivo’ de manera responsable y astuta, aquí hay tres estudios de casos que ilustran cómo llegar a algunos resultados genuinamente positivos:
- La IA correcta: con un cliente, Scismic fue contratado para introducir un grupo de talento más diverso, ya que la compañía era 80% de hombres blancos, y esos hombres blancos contrataban a más hombres blancos para unirse a ellos. Después de introducir la solución de reclutamiento de Scismic, el porcentaje de solicitantes diversos en los primeros cinco roles que anunciaron aumentó del 48% al 76%
- El enfoque correcto: un individuo que había tenido mala suerte en encontrar un nuevo papel en las ciencias de la vida durante mucho tiempo finalmente encontró un trabajo a través de la escísica. ¿La razón? Tenía 60 años. Con un proceso de contratación basado en AI, su perfil puede haber sido ignorado como un atípico debido a su edad si una empresa generalmente contrataba a personas más jóvenes. Sin embargo, al eliminar este sesgo, finalmente superó el ageismo, ya sea que hubiera sido inducido por un ser humano, y encontró un papel satisfactorio con un empleador muy agradecido
- La entrevista correcta: Otra posible contratación que la escísica es neurodivergente es neurodivergente, y como resultado parece luchar por tener éxito en las entrevistas. Un escaneo basado en la inteligencia artificial del historial de esta persona podría ver una serie de entrevistas fallidas y, por lo tanto, las apuntar a diferentes roles o niveles de responsabilidad. Pero la falta de éxito no se debe necesariamente a esto, y es mucho más probable que la intervención humana facilite los resultados positivos que usar la IA como atajo y diagnosticar erróneamente el problema.
¿Cuándo no usar AI?
Un aspecto destacado en estos estudios de caso es que, si bien la IA puede ser importante, lo que puede ser igual de importante es cuando no usarlo, y comprender que no es una panacea para todos los problemas de reclutamiento. Por ejemplo, no es apropiado usar AI cuando usted o su equipo no comprenden lo que la intervención de IA está haciendo en el proceso de tuberías y selección de su solicitante.
Ayuda para comprender cuándo y cuándo no usar AI se puede encontrar en una buena cantidad de nuevas investigaciones, lo que muestra cómo la IA quizás se usa mejor como socio en el reclutamiento en lugar de algo a cargo de todo o incluso parte del proceso. Esta idea, conocida por algunos como ‘co-inteligencia’, requiere una buena cantidad de trabajo y desarrollo en el lado humano, y la clave para esto es tener las estructuras correctas para que la IA y las personas trabajen en armonía.
Por ejemplo, los datos del mercado muestran que en las ciencias de la vida y los servicios médicos, la facturación de los empleados supera el 20%, y en parte esto se debe a no tener algunas de las estructuras y procesos correctos en su lugar durante el reclutamiento. El uso de IA de manera incorrecta puede aumentar el sesgo y conducir a la contratación de las personas equivocadas, aumentando así esta rotación. Sin embargo, el uso de IA de manera estructurada y justa puede comenzar a revertir esta tendencia.
Además, reducir el sesgo en el proceso de reclutamiento no se trata de usar o no AI, a veces se trata de garantizar que el elemento humano esté optimizado. Por ejemplo, investigación reciente muestra que las entrevistas adecuadamente estructuradas pueden reducir el sesgo en el reclutamiento y conducir a resultados mucho más positivos.
Con el reclutamiento viene la responsabilidad
Está claro que la IA ofrece grandes oportunidades en el espacio de reclutamiento para empleados y empleadores por igual, pero esto viene con advertencias significativas. Tanto para los reclutadores como para los proveedores, el enfoque en desarrollar nuevas soluciones debe ser cómo pueden producirse e implementarse de manera responsable, ética y de manera justa. Esta debería ser la demanda mínima de los empleadores, y ciertamente es la expectativa mínima de los empleados. La visión de los lugares de trabajo que se vuelven más justos debido a la adopción de soluciones de IA desarrolladas éticamente no es solo una tentadora, es una que está a la vista de todos. Pero solo se puede lograr si el progreso de las últimas décadas en la implementación de prácticas más justas de recursos humanos no se pierde en la fiebre del oro de perseguir la IA. Como regla general, los reclutadores y los socios de talento deben comprender estos componentes de las tecnologías que están utilizando:
- ¿Cuál es la naturaleza del conjunto de datos del que ha aprendido el modelo AI?
- ¿Dónde están los sesgos potenciales y cómo ha mitigado el proveedor estos riesgos?
- ¿Cómo toma el modelo la decisión de excluir a un candidato de la tubería? ¿Y estás de acuerdo con esa premisa?
Comprender los pasos involucrados en la creación de esta estructura puede ser instructivo, y será el foco de nuestro próximo artículo, “implementando procesos de adquisición de talento estructurado para reducir el sesgo en la evaluación de su candidato”. Mientras tanto, puede comunicarse con Peter Craig-Cooper en Peter@scismic.com Para obtener más información sobre nuestras soluciones.
Ver también nuestro anuncio: El enfoque económico basado en habilidades STEM para el nuevo director comercial de Scismic
Sobre el autor
Simon LinacreJefe de Contenido, Brand & Press | Ciencia digital
Simon tiene 20 años de experiencia en comunicaciones académicas. Ha dado conferencias y publicadas sobre los temas de la bibliometría, la ética de la publicación y el impacto de la investigación, y recientemente ha escrito un libro sobre publicaciones depredadoras. Simon es un tutor de ALPSP y también ha servido como Fideicomisario de Cope.
#Reclutamiento #escísico #objetivo #centrado #las #habilidades #con #STEM
