Google gibt zu: KI-Algorithmen lehnen oft qualifizierte Lebensläufe ab; Kandidaten werden von echten Menschen ausgewählt

Das KI-Sicherheitsteam bei Google DeepMind, bekannt als AGI Safety and Alignment Team, hat Kandidatinnen und Kandidaten geraten, ihre Lebensläufe über ein spezielles Formular einzureichen, damit die Bewerbungen auf jeden Fall von menschlichen Mitarbeitenden gesehen werden, wie Bloomberg berichtet. Die Entwicklerinnen und Entwickler befürchten, dass das KI-Einstellungssystem Lebensläufe fälschlicherweise ablehnen oder zu spät weiterleiten könnte. Google selbst bietet Firmenkundinnen und -kunden jedoch KI-Funktionen seiner Dienste für das Screening von Lebensläufen und andere Einstellungsaufgaben an. In einem von Bloomberg eingesehenen Dokument erklären die Entwicklerinnen und Entwickler, dass das KI-System Lebensläufe fälschlicherweise verwerfen oder verzögern könnte, und das Ausfüllen des Formulars garantiere, dass eine echte Person aus dem Team die Bewerbung sieht. Die Autoren bitten außerdem darum, Informationen über das neue Formular nicht weit zu verbreiten. Google DeepMind teilte Bloomberg mit, dass das separate Formular nicht dazu diene, KI-Fehler zu umgehen, sondern sicherzustellen, dass Lebensläufe direkt an Teammitglieder gelangen und das Recruiting-Screening umgehen. Google betonte, dass das Formular keine Anstellung garantiere und den standardmäßigen Einstellungsprozess nicht ersetze. Wie Bloomberg anmerkt, bietet Google selbst Unternehmen KI-Lösungen für Personalaufgaben an, wie das Erstellen von Stellenausschreibungen, das Screening von Lebensläufen und die Prognose des Personalbedarfs. KI-Systeme auf dem Markt werden jedoch wegen möglicher Fehlentscheidungen und Diskriminierung kritisiert. Zuvor hatte Bloomberg Anzeichen für mögliche Voreingenommenheit bei ChatGPT von OpenAI bei der Bewertung von Kandidatinnen und Kandidaten gefunden, und Workday sah sich ähnlichen Vorwürfen ausgesetzt, dass seine KI-Einstellungssysteme Rasse, Alter und Behinderung berücksichtigen könnten; Workday weist die Vorwürfe zurück und sagt, dass endgültige Entscheidungen von Menschen getroffen werden. Während Kandidatinnen und Kandidaten neuronale Netze nutzen, um automatische Filter zu umgehen, bittet Google DeepMind Kandidatinnen und Kandidaten, bei Lebensläufen auf KI zu verzichten, weil menschliche Mitarbeitende die Bewerbungen lesen und KI-generierte Texte oft sehr ähnlich klingen. In dem Dokument heißt es, dass HR-Spezialistinnen und -Spezialisten es sehr leid sind, von großen Sprachmodellen (LLMs) geschriebene Antworten zu lesen, weil sie alle gleich klingen.