Google admet que les algorithmes d'IA rejettent souvent des CV valables : les candidats seront sélectionnés par de vraies personnes

L'équipe de sécurité IA de Google DeepMind, connue sous le nom d'équipe d'alignement et de sécurité de l'AGI, a conseillé aux candidats de soumettre leur curriculum vitae via un formulaire spécial afin que leurs candidatures soient certainement vues par des employés humains, comme l'a rapporté Bloomberg. Les développeurs craignent que le système de recrutement basé sur l'IA ne rejette par erreur les CV ou ne les transmette trop tard. Google lui-même propose cependant à ses clients professionnels des fonctionnalités d'IA pour le tri des CV et d'autres tâches de recrutement. Dans un document consulté par Bloomberg, les développeurs expliquent que le système d'IA pourrait écarteler par erreur les CV ou les retarder, et que remplir le formulaire garantit qu'une personne réelle de l'équipe verra la candidature. Les auteurs demandent également de ne pas diffuser largement d'informations sur le nouveau formulaire. Google DeepMind a déclaré à Bloomberg que le formulaire séparé n'est pas destiné à contourner les erreurs de l'IA, mais à garantir que les CV parviennent directement aux membres de l'équipe, en contournant le filtrage des recruteurs. Google a souligné que le formulaire ne garantit pas l'emploi et ne remplace pas le processus de recrutement standard. Comme le note Bloomberg, Google propose lui-même aux entreprises des solutions d'IA pour les tâches RH telles que la préparation de descriptions de poste, le tri des CV et la prévision des besoins en personnel. Cependant, les systèmes d'IA sur le marché sont critiqués pour d'éventuelles erreurs de décision et des discriminations. Auparavant, Bloomberg avait trouvé des signes de biais potentiels dans ChatGPT d'OpenAI lors de l'évaluation de candidats, et Workday a fait face à des accusations similaires selon lesquelles ses systèmes d'IA de recrutement pourraient prendre en compte la race, l'âge et le handicap ; Workday nie ces allégations et affirme que les décisions finales sont prises par des humains. Alors que les candidats utilisent des réseaux neuronaux pour passer les filtres automatiques, Google DeepMind demande aux candidats d'éviter l'IA lors du remplissage de leur CV, car les employés humains liront les candidatures, et les textes générés par l'IA se ressemblent souvent beaucoup. Le document indique que les spécialistes des ressources humaines sont très fatigués de lire des réponses rédigées par des modèles de langage, car elles se ressemblent toutes.