Google admite que los algoritmos de IA suelen rechazar currículums válidos: los candidatos serán seleccionados por personas reales

El equipo de seguridad de IA en Google DeepMind, conocido como el Equipo de Seguridad y Alineación de AGI, ha aconsejado a los candidatos que envíen sus currículos a través de un formulario especial para que sus solicitudes sean definitivamente vistas por empleados humanos, según ha informado Bloomberg. Los desarrolladores temen que el sistema de contratación por IA pueda rechazar por error los currículos o pasarlos demasiado tarde. Google, sin embargo, ofrece a sus clientes corporativos funciones de IA en sus servicios para el cribado de currículos y otras tareas de contratación. En un documento revisado por Bloomberg, los desarrolladores explican que el sistema de IA podría descartar erróneamente los currículos o retrasarlos, y que rellenar el formulario garantiza que una persona real del equipo verá la solicitud. Los autores también piden que no se distribuya ampliamente la información sobre el nuevo formulario. Google DeepMind dijo a Bloomberg que el formulario separado no pretende evitar errores de la IA, sino asegurar que los currículos lleguen directamente a los miembros del equipo, evitando el cribado de los reclutadores. Google subrayó que el formulario no garantiza el empleo y no sustituye al proceso de contratación estándar. Como señala Bloomberg, Google ofrece a las empresas soluciones de IA para tareas de recursos humanos, como la preparación de ofertas de empleo, el cribado de currículos y la previsión de necesidades de personal. Sin embargo, los sistemas de IA en el mercado son criticados por posibles decisiones erróneas y discriminación. Anteriormente, Bloomberg encontró signos de posible sesgo en ChatGPT de OpenAI al evaluar candidatos, y Workday enfrentó acusaciones similares de que sus sistemas de contratación por IA podrían considerar la raza, la edad y la discapacidad; Workday niega las afirmaciones y dice que las decisiones finales son tomadas por humanos. Mientras los candidatos usan redes neuronales para pasar los filtros automáticos, Google DeepMind pide a los candidatos que eviten la IA al rellenar sus currículos porque los empleados humanos leerán las solicitudes, y los textos generados por IA suelen sonar muy similares. El documento afirma que los especialistas en recursos humanos están muy cansados de leer respuestas escritas por modelos de lenguaje grande, porque todas suenan igual.