Riset Ungkap AI Lebih Bias daripada Manusia dalam Proses Rekrutmen Kerja

Penggunaan kecerdasan buatan (AI) dalam proses rekrutmen semakin luas, mulai dari penyaringan curriculum vitae (CV) hingga membantu proses wawancara awal. Namun, sebuah penelitian terbaru mengingatkan bahwa teknologi ini masih memiliki tantangan besar terkait potensi bias dalam pengambilan keputusan.

Menurut penelitian yang dilakukan oleh Princeton University dan University of Chicago, sejumlah model large language model (LLM) menunjukkan kecenderungan membentuk stereotip terhadap pelamar kerja dalam simulasi perekrutan. Temuan tersebut bahkan memperlihatkan tingkat bias yang lebih tinggi dibandingkan peserta manusia pada eksperimen serupa.

Berdasarkan laporan MIT Technology Review, penelitian tersebut menguji beberapa model AI populer, termasuk ChatGPT, Claude, Gemini, OpenAI o3, dan DeepSeek R1. Seluruh model diminta berperan sebagai konsultan wali kota di sebuah kota fiktif yang bertugas memilih kandidat untuk 20 jenis profesi, mulai dari dokter, pengacara, pengasuh anak, hingga petugas kebersihan.

Dalam simulasi tersebut, seluruh kandidat berasal dari empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki. Setiap kandidat sebenarnya memiliki peluang keberhasilan yang sama dalam setiap pekerjaan, tetapi informasi tersebut sengaja tidak diberikan kepada model AI.

AI Cepat Membentuk Generalisasi dari Data Terbatas

Pada tahap awal eksperimen, model hanya menerima informasi mengenai hasil kerja kandidat yang dipilih. Setelah beberapa putaran, peneliti menemukan AI mulai mengaitkan kelompok tertentu dengan profesi tertentu berdasarkan pengalaman yang sangat terbatas.

Sebagai contoh, ketika seorang kandidat dari kelompok Aima digambarkan gagal menjadi dokter, model kemudian cenderung menghindari kandidat lain dari kelompok yang sama untuk profesi tersebut. Sebaliknya, mereka lebih sering diarahkan ke pekerjaan lain, seperti petugas kebersihan.

Menurut hasil penelitian, peserta manusia pada studi psikologi sebelumnya memperoleh skor 0,84 pada skala segregasi. Sementara itu, beberapa model AI mencatat skor sekitar 65 persen lebih tinggi, menunjukkan kecenderungan yang lebih kuat dalam membentuk stereotip berdasarkan informasi terbatas.

Model OpenAI o3 menjadi salah satu yang mencatat skor tertinggi dengan nilai 1,83, mendekati batas maksimum dalam skala penelitian tersebut.

Menurut Ryan Liu, mahasiswa doktoral di Princeton University sekaligus salah satu penulis penelitian, kecenderungan tersebut berkaitan dengan cara model AI dilatih.

“Mereka memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka,” kata Ryan Liu, dikutip dari MIT Technology Review.

Temuan lain yang menarik menunjukkan bahwa model AI dengan kemampuan penalaran lebih tinggi, seperti OpenAI o3 dan DeepSeek R1, justru memperlihatkan kecenderungan bias yang lebih besar dibandingkan model lain dalam eksperimen tersebut.

Implikasi bagi Dunia Rekrutmen Berbasis AI

Penelitian ini menjadi semakin relevan karena banyak perusahaan mulai memanfaatkan AI untuk membantu proses perekrutan. Sistem berbasis AI kini digunakan untuk menyaring CV, memberikan rekomendasi kandidat, hingga mendukung proses wawancara awal.

Menurut para peneliti, penggunaan fitur memori dan personalisasi pada chatbot dapat membuat model semakin bergantung pada pola data yang pernah diterima sebelumnya. Jika tidak diawasi dengan baik, kondisi tersebut berpotensi memengaruhi keputusan terhadap kandidat berikutnya.

Peneliti juga menguji berbagai cara untuk mengurangi bias. Instruksi sederhana agar AI bersikap adil ternyata tidak memberikan perubahan yang berarti. Namun, hasil menjadi lebih baik ketika model diberi tujuan tambahan untuk menghasilkan proses perekrutan yang lebih beragam.

Selain itu, bias juga berkurang ketika AI memperoleh informasi pribadi yang benar-benar relevan, seperti tingkat pendidikan dan usia kandidat. Sebaliknya, informasi yang tidak berhubungan dengan kemampuan kerja, misalnya warna rambut atau bentuk tato, hampir tidak memengaruhi hasil.

Meski demikian, peneliti menegaskan bahwa eksperimen ini dilakukan dalam lingkungan simulasi. Hasil penelitian belum membuktikan seluruh sistem AI yang digunakan perusahaan di dunia nyata akan menghasilkan diskriminasi yang sama.

Meskipun begitu, temuan ini menjadi pengingat bahwa penggunaan AI dalam proses rekrutmen tetap membutuhkan pengawasan manusia, evaluasi berkala, serta mekanisme yang mampu mengurangi risiko bias agar keputusan perekrutan tetap berlangsung secara adil dan objektif.

Referensi:
CNN Indonesia