Google Akui Algoritma AI Sering Menolak CV yang Layak: Kandidat Akan Dipilih oleh Manusia Asli

Tim keselamatan AI di Google DeepMind, yang dikenal sebagai AGI Safety and Alignment Team, telah menyarankan para kandidat untuk mengirimkan resume melalui formulir khusus agar aplikasi mereka pasti dilihat oleh karyawan manusia, seperti yang dilaporkan oleh Bloomberg. Para pengembang khawatir bahwa sistem perekrutan berbasis AI dapat secara keliru menolak resume atau meneruskannya terlalu lambat. Google sendiri, bagaimanapun, menawarkan fitur AI dari layanannya kepada klien korporat untuk penyaringan resume dan tugas perekrutan lainnya. Dalam dokumen yang ditinjau oleh Bloomberg, para pengembang menjelaskan bahwa sistem AI dapat secara keliru membuang resume atau menundanya, dan mengisi formulir menjamin bahwa orang sungguhan dari tim akan melihat aplikasi tersebut. Para penulis juga meminta agar informasi tentang formulir baru ini tidak disebarluaskan secara luas. Google DeepMind mengatakan kepada Bloomberg bahwa formulir terpisah tersebut bukan untuk menghindari kesalahan AI, melainkan untuk memastikan resume sampai langsung ke anggota tim, melewati penyaringan rekruter. Google menekankan bahwa formulir tersebut tidak menjamin pekerjaan dan tidak menggantikan proses perekrutan standar. Seperti yang dicatat Bloomberg, Google sendiri menawarkan solusi AI untuk tugas-tugas SDM kepada bisnis, seperti menyiapkan posting pekerjaan, penyaringan resume, dan memperkirakan kebutuhan staf. Namun, sistem AI di pasar dikritik karena kemungkinan keputusan yang salah dan diskriminasi. Sebelumnya, Bloomberg menemukan tanda-tanda bias potensial dalam ChatGPT dari OpenAI saat mengevaluasi kandidat, dan Workday menghadapi tuduhan serupa bahwa sistem perekrutan AI-nya mungkin mempertimbangkan ras, usia, dan disabilitas; Workday membantah klaim tersebut dan mengatakan keputusan akhir dibuat oleh manusia. Meskipun para kandidat menggunakan jaringan saraf untuk melewati filter otomatis, Google DeepMind meminta para kandidat untuk menghindari AI saat mengisi resume karena staf manusia akan membaca aplikasi, dan teks yang dihasilkan AI sering terdengar sangat mirip. Dokumen tersebut menyatakan bahwa spesialis SDM sangat lelah membaca respons yang ditulis oleh model bahasa besar (LLM) karena semuanya terdengar sama.