Google admite que algoritmos de IA frequentemente rejeitam currículos dignos: candidatos serão selecionados por pessoas reais

A equipe de segurança de IA do Google DeepMind, conhecida como Equipe de Segurança e Alinhamento de AGI, orientou os candidatos a enviarem seus currículos por meio de um formulário especial para que as candidaturas sejam certamente vistas por funcionários humanos, conforme relatado pela Bloomberg. Os desenvolvedores temem que o sistema de contratação por IA possa rejeitar currículos por engano ou repassá-los tarde demais. O próprio Google, no entanto, oferece aos clientes corporativos recursos de IA de seus serviços para triagem de currículos e outras tarefas de contratação. Em um documento analisado pela Bloomberg, os desenvolvedores explicam que o sistema de IA pode descartar currículos erroneamente ou atrasá-los, e preencher o formulário garante que uma pessoa real da equipe veja a candidatura. Os autores também pedem que as informações sobre o novo formulário não sejam amplamente divulgadas. O Google DeepMind disse à Bloomberg que o formulário separado não tem a intenção de contornar erros de IA, mas sim de garantir que os currículos cheguem diretamente aos membros da equipe, evitando a triagem feita por recrutadores. O Google enfatizou que o formulário não garante emprego e não substitui o processo de contratação padrão. Como a Bloomberg observa, o próprio Google oferece às empresas soluções de IA para tarefas de RH, como preparar anúncios de emprego, triagem de currículos e previsão de necessidades de pessoal. No entanto, os sistemas de IA no mercado são criticados por possíveis decisões errôneas e discriminação. Anteriormente, a Bloomberg encontrou sinais de possível viés no ChatGPT da OpenAI ao avaliar candidatos, e a Workday enfrentou acusações semelhantes de que seus sistemas de contratação por IA poderiam considerar raça, idade e deficiência; a Workday nega as alegações e diz que as decisões finais são tomadas por humanos. Enquanto os candidatos usam redes neurais para passar por filtros automáticos, o Google DeepMind pede que os candidatos evitem usar IA ao preencher currículos, porque funcionários humanos lerão as candidaturas, e textos gerados por IA muitas vezes soam muito parecidos. O documento afirma que os especialistas em RH estão muito cansados de ler respostas escritas por modelos de linguagem grandes, porque todas soam iguais.