Bias dalam AI Perekrutan: Asal-Usulnya dan Cara Mengauditnya

Oleh Kevin Kim · Diperbarui 11 Oktober 2026

Bias dalam AI perekrutan adalah perbedaan sistematis dalam cara alat otomatis memperlakukan kandidat dari kelompok yang berbeda, yang disebabkan oleh data yang dipelajarinya, sinyal yang digunakannya, atau cara penerapannya, bukan oleh sesuatu yang dilakukan para kandidat. Bias ini jarang terlihat seperti prasangka. Ia tampak sebagai peringkat, skor, atau aturan gugur yang kebetulan meloloskan pria lebih sering daripada wanita, atau pelamar muda lebih sering daripada yang lebih tua, dan tidak ada yang menyadarinya karena tidak ada yang menghitung.

Halaman ini ditujukan bagi direktur SDM, pemimpin akuisisi talenta, dan penasihat hukum internal yang sudah memakai, atau akan membeli, alat penyaringan atau asesmen. Halaman ini menjelaskan di mana bias masuk, bagaimana dampak merugikan (adverse impact) diukur, dan cara menjalankan audit yang dapat Anda pertanggungjawabkan. Untuk konsep umumnya, lihat bias dalam AI. Khusus untuk penyaringan, lihat penyaringan CV dengan AI. Ini adalah informasi umum, bukan nasihat hukum.

Fakta Utama

• Mesin rekrutmen eksperimental Amazon menilai kandidat dari satu hingga lima bintang, belajar dari CV yang masuk selama periode 10 tahun (sebagian besar dari pria), dan menghukum CV yang memuat kata "women's"; tim itu dibubarkan (Reuters, Oktober 2018).
• Menurut Uniform Guidelines federal, tingkat seleksi di bawah empat perlima (80%) dari tingkat kelompok tertinggi pada umumnya dianggap sebagai bukti dampak merugikan, meskipun selisih yang lebih kecil tetap bisa diperhitungkan (29 CFR 1607.4).
• iTutorGroup setuju membayar $365.000 untuk menyelesaikan gugatan EEOC yang menuduh perangkat lunak lamarannya otomatis menolak wanita berusia 55 tahun ke atas dan pria berusia 60 tahun ke atas, yang memengaruhi lebih dari 200 pelamar (Duane Morris, Agustus 2023).
• Dalam pengujian University of Washington terhadap tiga model bahasa, nama yang diasosiasikan dengan orang kulit putih dipilih 85% dari waktu, dibandingkan 9% untuk nama yang diasosiasikan dengan orang kulit hitam, dan nama pria kulit hitam tidak pernah dipilih di atas nama pria kulit putih (University of Washington, Oktober 2024).
• Aturan audit bias Kota New York mewajibkan rasio dampak untuk setiap kategori jenis kelamin, ras/etnisitas, dan kategori interseksional, serta melarang penggunaan alat lebih dari setahun setelah audit terakhirnya (aturan yang diadopsi NYC DCWP).

Dari Mana Bias dalam AI Perekrutan Berasal

Bias punya lebih dari satu pintu masuk. Memperbaiki satu pintu tidak menutup yang lain, dan itulah pelajaran utama dari kasus-kasus terdokumentasi di bawah.

Dua hal membuat banyak tim tersandung. Pertama, menghapus atribut yang dilindungi tidak menghapus bias, karena model dapat membangunnya kembali dari sinyal yang berkorelasi. Amazon mengubah program-programnya agar mengabaikan istilah tertentu yang berkaitan dengan gender, tetapi orang yang mengetahui upaya itu mengatakan kepada Reuters bahwa hal itu tidak menjamin sistem tidak akan menemukan cara diskriminatif lain untuk menyortir kandidat (Reuters). Kedua, alat berbasis aturan bisa sama biasnya dengan alat yang belajar sendiri. Perangkat lunak iTutorGroup bukan model misterius; EEOC menuduh perangkat lunak itu diprogram dengan batas usia (Duane Morris).

Kasus Terdokumentasi yang Perlu Diketahui

Model rekrutmen Amazon yang dibatalkan (2018)

Reuters melaporkan bahwa tim Amazon telah membangun program peninjauan CV sejak 2014 dan menemukan pada 2015 bahwa sistem itu tidak menilai kandidat untuk pengembang perangkat lunak dan peran teknis lainnya secara netral gender. Model-model itu dilatih dengan CV yang masuk selama 10 tahun, sebagian besar dari pria. Model menghukum CV yang memuat kata "women's," dan Amazon kemudian membubarkan tim tersebut (Reuters). Perekrut melihat rekomendasi alat itu tetapi, menurut laporan, tidak pernah mengandalkan peringkatnya semata. Kasus ini adalah contoh standar bias label dan data pelatihan.

EEOC dan iTutorGroup (2023)

EEOC menuduh iTutorGroup memprogram perangkat lunak lamaran tutornya untuk menolak pelamar wanita di atas 55 tahun dan pelamar pria di atas 60 tahun, sehingga gagal merekrut lebih dari 200 pelamar berkualifikasi berusia 55 tahun ke atas pada awal 2020. Consent decree yang diajukan pada 9 Agustus 2023 menyediakan $365.000 bagi pelamar yang terdampak, dibagi rata antara ganti rugi kompensasi dan gaji yang tertunda, dan berlaku lima tahun dengan pelatihan, kebijakan antidiskriminasi, dan pemantauan EEOC (Duane Morris). Ini adalah perlakuan berbeda yang disengaja (disparate treatment) dan dikodekan ke dalam perangkat lunak, yang merupakan kegagalan berbeda dari bias hasil pembelajaran, sekaligus pengingat bahwa audit juga harus membaca aturannya.

Mobley v. Workday (masih berjalan)

Derek Mobley menyatakan bahwa ia melamar ke lebih dari 100 pekerjaan melalui pemberi kerja yang memakai platform Workday dan ditolak setiap kali, serta bahwa alat AI Workday merugikan pelamar yang lebih tua. Pada 16 Mei 2025, Hakim Rita Lin dari Northern District of California memberikan sertifikasi awal untuk sebuah kelompok kolektif berdasarkan Age Discrimination in Employment Act, yang mencakup pelamar berusia 40 tahun ke atas yang ditolak rekomendasi pekerjaannya melalui platform itu sejak 24 September 2020; pertanyaan bersama dari pengadilan adalah apakah sistem rekomendasi tersebut berdampak tidak proporsional (disparate impact) pada pelamar di atas empat puluh tahun (Holland & Knight, Fisher Phillips). Workday menyatakan gugatan itu tidak berdasar dan sertifikasinya baru bersifat awal. Per pembaruan hukum ketenagakerjaan pertengahan 2026, kasus ini masih berjalan, dengan klaim diperluas ke ras dan disabilitas, sebagian klaim berdasarkan hukum negara bagian bertahan dari mosi untuk menolak pada akhir Juni 2026, dan Workday mengajukan banding sela atas putusan sertifikasi (pembaruan hukum ketenagakerjaan, Musim Semi 2026). Belum ada putusan atas pokok perkara, jadi anggaplah ini sinyal tentang teori hukum, bukan temuan adanya bias. Teori itu sendiri penting bagi pembeli: ia menyasar vendor perangkat lunak sekaligus pemberi kerja yang memakainya.

Bias nama pada model bahasa (2024)

Peneliti University of Washington hanya mengubah nama depan (120 nama yang diasosiasikan dengan pria dan wanita kulit putih serta kulit hitam) pada lebih dari 550 CV nyata yang diperingkat terhadap lebih dari 500 lowongan di sembilan jabatan, memakai tiga model bahasa dan menghasilkan lebih dari tiga juta perbandingan. Nama yang diasosiasikan dengan orang kulit putih dipilih 85% dari waktu dan nama yang diasosiasikan dengan orang kulit hitam 9%; nama yang diasosiasikan dengan pria 52% berbanding 11% untuk nama yang diasosiasikan dengan wanita; dan nama pria kulit hitam tidak pernah dipilih di atas nama pria kulit putih (University of Washington). Ini adalah uji penelitian terkendali terhadap model serbaguna, bukan audit terhadap produk perekrutan komersial mana pun. Hasil ini menunjukkan mengapa Anda perlu menguji konfigurasi Anda sendiri, dan mengapa pernyataan peneliti bahwa bias "tidak selalu terlihat hanya dengan melihat ras atau gender secara terpisah" mendukung pemeriksaan interseksional.

Dampak Merugikan dan Aturan Empat Perlima

Dampak merugikan berarti suatu prosedur seleksi meloloskan satu kelompok pada tingkat yang jauh lebih rendah daripada kelompok lain, entah ada yang menghendakinya atau tidak. Uniform Guidelines federal memperlakukan tingkat seleksi suatu kelompok yang kurang dari empat perlima (80%) dari tingkat kelompok dengan tingkat tertinggi pada umumnya sebagai bukti dampak merugikan, dan tingkat di atas itu pada umumnya bukan. Pedoman itu juga menyatakan bahwa selisih yang lebih kecil tetap dapat menjadi dampak merugikan bila signifikan secara statistik dan praktis, dan bahwa selisih yang lebih besar yang bertumpu pada jumlah kecil mungkin tidak diperhitungkan. Pemberi kerja diharapkan menyimpan catatan yang menunjukkan dampak prosedur mereka menurut jenis kelamin dan kelompok ras serta etnis (29 CFR 1607.4).

Ilustrasi dengan angka rekaan:

Rasio Kelompok C sebesar 0,70 berada di bawah 0,80, yang menjadi tanda bagi Anda untuk menyelidiki. Kelompok B tepat berada di garis, yang membuktikan mengapa ambang itu adalah sinyal penyaringan, bukan vonis. Pada kelompok kecil, beberapa perekrutan saja dapat menggeser rasio secara besar, jadi padukan rasio dengan uji signifikansi dan lihat data beberapa bulan.

Cara Mengaudit Alat Perekrutan

Aturan Kota New York memberi templat terbitan yang paling jelas, dan berguna bahkan jika Anda tidak tercakup olehnya. Aturan itu mewajibkan audit menghitung tingkat seleksi dan rasio dampak untuk setiap kategori, yang didefinisikan sebagai tingkat seleksi suatu kategori dibagi tingkat seleksi kategori yang paling banyak terpilih. Untuk alat yang menghasilkan skor, aturan itu memakai tingkat skor (porsi yang skornya di atas median sampel) dengan cara yang sama. Perhitungan harus dijalankan terpisah untuk kategori jenis kelamin, kategori ras/etnisitas, dan kategori interseksional dari jenis kelamin, etnisitas, dan ras, dan audit harus melaporkan berapa banyak orang yang masuk kategori tidak diketahui. Auditor independen boleh mengecualikan kategori yang kurang dari 2% data jika ringkasan menjelaskan alasannya dan menyertakan angka kategori itu (aturan yang diadopsi NYC DCWP).

Rutinitas langkah demi langkah

1. Daftar setiap langkah otomatis. Parsing, peringkat, pertanyaan gugur, asesmen, penyaring obrolan, penilaian wawancara. Bias bisa berada di mana saja. Lihat asesmen pra-kerja dengan AI dan AI dalam wawancara untuk tahap di luar CV.
2. Definisikan keputusan di setiap langkah. "Loloskan," "tolak," "skor di atas median." Anda hanya dapat mengukur apa yang telah Anda definisikan.
3. Kumpulkan data hasil menurut kelompok. Anda memerlukan jumlah pelamar dan jumlah yang lolos menurut jenis kelamin, ras dan etnisitas, serta rentang usia, dengan kelompok "tidak diketahui". Masukan yang bersih penting di sini, jadi mulailah dengan fondasi data SDM untuk AI.
4. Hitung rasio dampak di setiap tahap, bukan hanya saat perekrutan. Tingkat penawaran akhir yang adil dapat menyembunyikan penyaringan yang miring di awal corong.
5. Uji interseksi. Pria versus wanita dan kandidat kulit hitam versus kulit putih bisa sama-sama tampak dapat diterima sementara wanita kulit hitam, atau wanita yang lebih tua, tidak.
6. Uji dengan masukan yang dicocokkan. Kirim CV identik yang hanya berbeda pada nama, kata ganti, tahun kelulusan, atau alamat, dan lihat apakah keluarannya berubah. Cara ini menangkap efek proksi yang bisa terlewat oleh angka agregat.
7. Periksa relevansi setiap masukan. Untuk setiap fitur, dokumentasikan mengapa fitur itu berkaitan dengan pekerjaan dan diperlukan, dan buang yang sebenarnya hanya proksi.
8. Tinjau penolakan, bukan hanya seleksi. Ambil sampel tumpukan peringkat rendah setiap minggu, dengan seseorang yang dapat membatalkan keputusan alat (human-in-the-loop (manusia dalam proses)).
9. Putuskan siapa pemilik hasilnya. SDM menjalankan angkanya, bagian hukum menafsirkannya, dan seorang pemimpin yang ditunjuk menyetujui setiap perbaikan.
10. Ulangi sesuai jadwal dan setelah setiap perubahan. Kriteria baru, rumpun pekerjaan baru, atau pembaruan model vendor semuanya mengatur ulang hitungannya.

Apa yang dilakukan ketika rasio gagal

Jangan sekadar mengkalibrasi ulang keluaran agar mencapai 80%. Temukan penyebabnya terlebih dahulu. Telusuri selisih itu ke masukan, label, atau langkah tertentu, lalu pertimbangkan alternatif yang kurang diskriminatif yang memenuhi kebutuhan bisnis yang sama, seperti membuang fitur proksi, mengganti persyaratan gelar dengan tes keterampilan, atau mengubah aturan gugur menjadi tinjauan manusia. Dokumentasikan apa yang Anda temukan dan apa yang Anda ubah. Untuk rutinitas operasi yang lebih luas, lihat pengawasan manusia dalam AI SDM.

Konteks Hukum Secara Singkat

Aturan berbeda di tiap tempat dan terus berubah, jadi konfirmasikan persyaratan terkini dengan penasihat hukum. Untuk tinjauan yang lebih lengkap, lihat hukum perekrutan AI.

• Kota New York. Local Law 144 melarang penggunaan alat keputusan ketenagakerjaan otomatis tanpa audit bias dalam satu tahun sebelumnya dan ringkasan publik, dan Department of Consumer and Worker Protection mulai menegakkannya pada 5 Juli 2023 (NYC DCWP). Aturan itu tidak menetapkan ambang lolos/gagal; yang diwajibkan adalah rasionya dihitung dan dipublikasikan.
• Illinois. HB 3773, ditandatangani pada 9 Agustus 2024 dan berlaku 1 Januari 2026, mengubah Illinois Human Rights Act sehingga melanggar hukum memakai AI yang berdampak mendiskriminasi kelompok yang dilindungi atau memakai kode pos sebagai proksinya, dan mewajibkan pemberitahuan ketika AI dipakai untuk keputusan ketenagakerjaan. Illinois Department of Human Rights akan menetapkan aturan pemberitahuannya (DLA Piper).
• Sikap penegakan federal. Executive Order 14281, ditandatangani pada 23 April 2025, menyatakan kebijakan untuk menghapus tanggung jawab dampak tidak proporsional (disparate impact) "sejauh mungkin" dan menginstruksikan lembaga untuk menurunkan prioritas penegakan undang-undang dan peraturan terkait (Compilation of Presidential Documents, GovInfo). Sebuah perintah tidak mengubah undang-undang maupun yurisprudensi, dan penggugat swasta serta hukum negara bagian tetap tersedia, yang persis menjadi jalur yang ditempuh Mobley.

Kesalahan Umum

• Hanya mengaudit perekrutan akhir. Kemiringan sering berada di penyaring pertama.
• Menganggap rasio empat perlima sebagai zona aman. Lolos 0,80 pada jumlah kecil tidak membuktikan banyak; gagal adalah alasan untuk memeriksa, bukan bukti pelanggaran hukum.
• Hanya mengandalkan audit vendor. Audit itu mencakup data vendor, bukan rumpun pekerjaan atau kumpulan pelamar Anda.
• Menghapus satu proksi lalu menyatakannya beres. Sinyal yang berkorelasi akan mengisi celahnya.
• Tidak mengumpulkan data demografis. Tanpa itu, Anda tidak bisa mengukur apa pun, dan Uniform Guidelines mengharapkan catatan menurut kelompok. Tangani dengan hati-hati dan pisahkan dari keputusan perekrutan.
• Membiarkan peringkat menjadi keputusan. Peninjau membaca bagian atas daftar lalu berhenti.
• Melewatkan pengujian ulang. Alat yang lolos saat peluncuran dapat bergeser seiring berubahnya kriteria dan kumpulan pelamar.