Google geeft toe dat AI-algoritmen vaak goede cv's afwijzen: kandidaten worden geselecteerd door echte mensen

Het AI-veiligheidsteam van Google DeepMind, bekend als het AGI Safety and Alignment Team, heeft kandidaten geadviseerd om hun cv's in te dienen via een speciaal formulier, zodat aanvragen zeker door menselijke medewerkers worden gezien, zo meldt Bloomberg. De ontwikkelaars vrezen dat het AI-wervingssysteem cv's per ongeluk kan afwijzen of te laat doorstuurt. Google zelf biedt zakelijke klanten echter AI-functies van zijn diensten aan voor cv-screening en andere wervingstaken. In een door Bloomberg ingezien document leggen de ontwikkelaars uit dat het AI-systeem cv's onterecht zou kunnen weggooien of vertragen, en dat het invullen van het formulier garandeert dat een echt persoon van het team de aanvraag ziet. De auteurs vragen ook om de informatie over het nieuwe formulier niet breed te verspreiden. Google DeepMind vertelde Bloomberg dat het aparte formulier niet bedoeld is om AI-fouten te omzeilen, maar om ervoor te zorgen dat cv's direct bij teamleden terechtkomen, zonder tussenkomst van recruiters. Google benadrukte dat het formulier geen baan garandeert en het standaard wervingsproces niet vervangt. Zoals Bloomberg opmerkt, biedt Google zelf bedrijven AI-oplossingen voor HR-taken, zoals het opstellen van vacatureteksten, cv-screening en het voorspellen van personeelsbehoeften. AI-systemen op de markt worden echter bekritiseerd vanwege mogelijke onjuiste beslissingen en discriminatie. Eerder vond Bloomberg tekenen van mogelijke vooringenomenheid in ChatGPT van OpenAI bij het beoordelen van kandidaten, en Workday kreeg soortgelijke beschuldigingen dat zijn AI-wervingssystemen rekening zouden kunnen houden met ras, leeftijd en handicap; Workday ontkent de claims en zegt dat uiteindelijke beslissingen door mensen worden genomen. Terwijl kandidaten neurale netwerken gebruiken om automatische filters te passeren, vraagt Google DeepMind kandidaten om AI te vermijden bij het invullen van cv's, omdat menselijke medewerkers de aanvragen zullen lezen en AI-gegenereerde teksten vaak erg op elkaar lijken. In het document staat dat HR-specialisten erg moe zijn van het lezen van door grote taalmodellen geschreven antwoorden, omdat ze allemaal hetzelfde klinken.