جوجل تعترف بأن خوارزميات الذكاء الاصطناعي ترفض غالبًا السير الذاتية الجديرة: سيتم اختيار المرشحين بواسطة أشخاص حقيقيين

فريق السلامة في الذكاء الاصطناعي في جوجل ديب مايند، المعروف باسم فريق محاذاة وسلامة الذكاء الاصطناعي العام، نصح المرشحين بتقديم سيرهم الذاتية من خلال نموذج خاص لضمان أن الموظفين البشر سيشاهدون الطلبات بالتأكيد، كما ذكرت بلومبرغ. يخشى المطورون من أن نظام التوظيف الذكي قد يرفض السير الذاتية عن طريق الخطأ أو يمررها بعد فوات الأوان. ومع ذلك، تقدم جوجل نفسها لعملائها من الشركات ميزات ذكاء اصطناعي في خدماتها لفحص السير الذاتية ومهام التوظيف الأخرى. في وثيقة اطلعت عليها بلومبرغ، يوضح المطورون أن نظام الذكاء الاصطناعي قد يتخلص من السير الذاتية بشكل خاطئ أو يؤخرها، وملء النموذج يضمن أن شخصًا حقيقيًا من الفريق سيرى الطلب. كما يطلب المؤلفون عدم نشر المعلومات حول النموذج الجديد على نطاق واسع. أخبرت جوجل ديب مايند بلومبرغ أن النموذج المنفصل ليس المقصود منه تجاوز أخطاء الذكاء الاصطناعي بل ضمان وصول السير الذاتية إلى أعضاء الفريق مباشرة، متجاوزًا فرز مسؤولي التوظيف. وأكدت جوجل أن النموذج لا يضمن التوظيف ولا يحل محل عملية التوظيف القياسية. كما تلاحظ بلومبرغ، تقدم جوجل نفسها حلول ذكاء اصطناعي للشركات في مهام الموارد البشرية مثل إعداد إعلانات الوظائف، وفحص السير الذاتية، والتنبؤ باحتياجات التوظيف. ومع ذلك، تتعرض أنظمة الذكاء الاصطناعي في السوق لانتقادات بسبب احتمال وجود قرارات خاطئة وتمييز. سابقًا، وجدت بلومبرغ علامات على تحيز محتمل في ChatGPT من OpenAI عند تقييم المرشحين، وواجهت Workday اتهامات مماثلة بأن أنظمة التوظيف الذكية الخاصة بها قد تأخذ في الاعتبار العرق والعمر والإعاقة؛ وتنفي Workday هذه الادعاءات وتقول إن القرارات النهائية يتخذها البشر. بينما يستخدم المرشحون الشبكات العصبية لاجتياز المرشحات التلقائية، تطلب جوجل ديب مايند من المرشحين تجنب الذكاء الاصطناعي عند ملء السير الذاتية لأن الموظفين البشر سيقرؤون الطلبات، والنصوص المولدة بالذكاء الاصطناعي غالبًا ما تبدو متشابهة جدًا. تنص الوثيقة على أن متخصصي الموارد البشرية سئموا جدًا من قراءة الردود المكتوبة بواسطة نماذج اللغة الكبيرة لأنها جميعها تبدو متشابهة.