Sistem Rekrutmen AI Lebih Rentan terhadap Bias
Penerapan teknologi kecerdasan buatan (AI) dalam proses rekrutmen telah menjadi topik perbincangan yang hangat dalam beberapa waktu terakhir. Namun, sebuah penelitian yang dilakukan oleh tim ilmuwan dari Princeton University dan University of Chicago telah menemukan bahwa sistem rekrutmen AI justru lebih rentan terhadap bias dibandingkan dengan rekrutmen yang dilakukan oleh manusia.
Penelitian ini menggunakan simulasi perekrutan yang diadaptasi dari studi psikologi mengenai pembentukan stereotip. Dalam simulasi tersebut, beberapa model kecerdasan buatan (LLM) seperti ChatGPT, Claude, dan Gemini diminta untuk memilih kandidat untuk 20 jenis pekerjaan, mulai dari dokter, pengacara, pengasuh anak, hingga petugas kebersihan. Kandidat-kandidat tersebut berasal dari empat kelompok etnis fiktif, yakni Tufa, Aima, Reku, dan Weki.
Dalam setiap putaran, model-model tersebut menerima empat kandidat dari masing-masing kelompok dan dipilih untuk mendapatkan kandidat yang paling sesuai dengan pekerjaan yang diminta. Namun, dalam hal ini, model tidak diberi tahu bahwa semua kandidat memiliki peluang keberhasilan yang sama untuk setiap jenis pekerjaan. Setelah memilih kandidat, model diberi tahu apakah kandidat itu berhasil dalam pekerjaannya.
Hasil penelitian menunjukkan bahwa model-model AI cenderung memilih kandidat dari kelompok etnis yang sama untuk pekerjaan yang sama. Hal ini menunjukkan bahwa model-model AI rentan terhadap bias dan dapat mempengaruhi keputusan rekrutmen. Dalam beberapa kasus, model-model AI bahkan memilih kandidat dari kelompok etnis yang sama untuk pekerjaan yang tidak sesuai dengan keterampilan dan kemampuan mereka.
Penelitian ini menunjukkan bahwa sistem rekrutmen AI memerlukan perhatian lebih dalam hal bias dan kesetaraan. Dengan demikian, perlu adanya pengembangan sistem rekrutmen yang lebih baik dan dapat mengurangi bias dalam proses rekrutmen. Hal ini juga menunjukkan bahwa peran manusia dalam proses rekrutmen sangat penting untuk memastikan bahwa keputusan rekrutmen berdasarkan kriteria yang adil dan tidak berdasarkan bias.
Dengan demikian, penelitian ini menegaskan bahwa sistem rekrutmen AI memerlukan perhatian lebih dalam hal bias dan kesetaraan. Perlu adanya pengembangan sistem rekrutmen yang lebih baik dan dapat mengurangi bias dalam proses rekrutmen. Hal ini juga menunjukkan bahwa peran manusia dalam proses rekrutmen sangat penting untuk memastikan bahwa keputusan rekrutmen berdasarkan kriteria yang adil dan tidak berdasarkan bias.
Dalam beberapa tahun terakhir, penggunaan AI dalam proses rekrutmen telah meningkat pesat. Namun, penelitian ini menunjukkan bahwa sistem rekrutmen AI memerlukan perhatian lebih dalam hal bias dan kesetaraan. Dengan demikian, perlu adanya pengembangan sistem rekrutmen yang lebih baik dan dapat mengurangi bias dalam proses rekrutmen.
Pengembangan sistem rekrutmen yang lebih baik dapat dilakukan dengan menggunakan teknologi AI yang lebih maju dan dapat mengurangi bias. Selain itu, perlu adanya pelatihan dan pendidikan bagi pengguna AI untuk memahami bagaimana sistem rekrutmen AI dapat mempengaruhi keputusan rekrutmen.
Dengan demikian, penelitian ini menegaskan bahwa sistem rekrutmen AI memerlukan perhatian lebih dalam hal bias dan kesetaraan. Perlu adanya pengembangan sistem rekrutmen yang lebih baik dan dapat mengurangi bias dalam proses rekrutmen. Hal ini juga menunjukkan bahwa peran manusia dalam proses rekrutmen sangat penting untuk memastikan bahwa keputusan rekrutmen berdasarkan kriteria yang adil dan tidak berdasarkan bias.
Disclaimer: This article was automatically rewritten by AI based on source: https://www.cnnindonesia.com/teknologi/20260720173203-192-1382823/riset-ungkap-ai-lebih-bias-dibanding-manusia-saat-jadi-hrd, without altering the facts of the original article.
