Google thừa nhận thuật toán AI thường từ chối những hồ sơ xứng đáng: Ứng viên sẽ được chọn bởi con người thực

Nhóm an toàn AI (trí tuệ nhân tạo) của Google DeepMind, được biết đến với tên AGI Safety and Alignment Team, đã khuyên các ứng viên nộp hồ sơ qua một mẫu đơn đặc biệt để đảm bảo đơn ứng tuyển chắc chắn được con người xem xét, theo Bloomberg đưa tin. Các nhà phát triển lo ngại rằng hệ thống tuyển dụng AI có thể vô tình loại bỏ hồ sơ hoặc chuyển tiếp chúng quá muộn. Tuy nhiên, chính Google lại cung cấp cho khách hàng doanh nghiệp các tính năng AI trong dịch vụ của mình để sàng lọc hồ sơ và thực hiện các công việc tuyển dụng khác. Trong một tài liệu mà Bloomberg đã xem, các nhà phát triển giải thích rằng hệ thống AI có thể vô tình loại bỏ hồ sơ hoặc làm chậm quá trình xử lý, và việc điền vào mẫu đơn này sẽ đảm bảo rằng một người thật trong nhóm sẽ xem đơn ứng tuyển. Các tác giả của tài liệu cũng yêu cầu không phổ biến rộng rãi thông tin về mẫu đơn mới này. Google DeepMind nói với Bloomberg rằng mẫu đơn riêng biệt này không nhằm mục đích né tránh các lỗi của AI, mà để đảm bảo hồ sơ được gửi trực tiếp đến các thành viên trong nhóm, bỏ qua bước sàng lọc của nhân viên tuyển dụng. Google nhấn mạnh rằng mẫu đơn này không đảm bảo việc làm và không thay thế quy trình tuyển dụng tiêu chuẩn. Như Bloomberg lưu ý, chính Google cũng cung cấp cho các doanh nghiệp các giải pháp AI cho các công việc nhân sự như soạn thông báo tuyển dụng, sàng lọc hồ sơ và dự báo nhu cầu nhân sự. Tuy nhiên, các hệ thống AI trên thị trường bị chỉ trích vì có thể đưa ra quyết định sai lầm và mang tính phân biệt đối xử. Trước đó, Bloomberg đã phát hiện dấu hiệu của sự thiên vị tiềm ẩn trong ChatGPT của OpenAI khi đánh giá ứng viên, và Workday cũng đối mặt với những cáo buộc tương tự rằng hệ thống tuyển dụng AI của họ có thể xét đến yếu tố chủng tộc, tuổi tác và khuyết tật; Workday phủ nhận các cáo buộc này và cho biết quyết định cuối cùng đều do con người đưa ra. Trong khi các ứng viên sử dụng mạng nơ-ron để vượt qua các bộ lọc tự động, Google DeepMind lại yêu cầu ứng viên tránh sử dụng AI khi soạn hồ sơ, vì nhân viên thực sẽ đọc các đơn ứng tuyển, và các văn bản do AI tạo ra thường có xu hướng nghe rất giống nhau. Tài liệu này cho biết các chuyên viên nhân sự đã rất mệt mỏi khi phải đọc các câu trả lời được viết bởi mô hình ngôn ngữ lớn (LLM - Large Language Model), vì chúng đều nghe giống nhau.