Bias dalam Pengambilan Pekerja oleh AI: Puncanya dan Cara Mengaudit

Oleh Kevin Kim · Dikemas kini 11 Oktober 2026

Bias AI dalam pengambilan pekerja ialah perbezaan sistematik dalam cara alat automatik melayan calon daripada kumpulan berbeza, yang disebabkan oleh data yang dipelajarinya, isyarat yang digunakannya, atau cara ia digunakan, dan bukannya oleh apa-apa yang dilakukan calon. Ia jarang kelihatan seperti prejudis. Ia kelihatan seperti kedudukan, skor atau peraturan penyingkiran yang kebetulan meluluskan lelaki lebih kerap daripada wanita, atau pemohon muda lebih kerap daripada yang lebih tua, dan tiada siapa perasan kerana tiada siapa yang mengira.

Halaman ini ditujukan kepada pengarah sumber manusia, ketua pemerolehan bakat dan penasihat undang-undang dalaman yang sudah menggunakan, atau akan membeli, alat saringan atau penilaian. Ia menerangkan di mana bias masuk, cara impak buruk diukur, dan cara menjalankan audit yang boleh anda pertahankan. Untuk konsep am, lihat bias dalam AI. Untuk saringan secara khusus, lihat saringan resume oleh AI. Ini maklumat am, bukan nasihat undang-undang.

Fakta Utama

• Enjin pengambilan pekerja eksperimen Amazon menilai calon dari satu hingga lima bintang, belajar daripada resume yang dihantar sepanjang tempoh 10 tahun (kebanyakannya daripada lelaki), dan menghukum resume yang mengandungi perkataan "women's"; pasukan itu dibubarkan (Reuters, Oktober 2018).
• Di bawah Uniform Guidelines persekutuan, kadar pemilihan di bawah empat perlima (80%) daripada kadar kumpulan tertinggi secara amnya dianggap bukti impak buruk, walaupun perbezaan yang lebih kecil masih boleh diambil kira (29 CFR 1607.4).
• iTutorGroup bersetuju membayar $365,000 untuk menyelesaikan tuntutan EEOC yang mendakwa perisian permohonannya menolak secara automatik wanita berumur 55 tahun ke atas dan lelaki berumur 60 tahun ke atas, melibatkan lebih 200 pemohon (Duane Morris, Ogos 2023).
• Dalam ujian University of Washington terhadap tiga model bahasa, nama yang dikaitkan dengan orang kulit putih dipilih 85% daripada masa berbanding 9% bagi nama yang dikaitkan dengan orang kulit hitam, dan nama lelaki kulit hitam tidak pernah dipilih berbanding nama lelaki kulit putih (University of Washington, Oktober 2024).
• Peraturan audit bias New York City mewajibkan nisbah impak bagi setiap kategori jantina, kaum/etnik dan interseksi, dan melarang penggunaan alat lebih setahun selepas audit terakhirnya (peraturan yang diterima pakai NYC DCWP).

Dari Mana Bias dalam AI Pengambilan Pekerja Datang

Bias mempunyai lebih daripada satu pintu masuk. Membetulkan satu tidak menutup yang lain, dan inilah pengajaran utama kes-kes yang didokumenkan di bawah.

Dua perkara menyusahkan ramai pasukan. Pertama, membuang atribut dilindungi tidak membuang bias, kerana model boleh membinanya semula daripada isyarat berkorelasi. Amazon menyunting programnya supaya mengabaikan istilah berjantina tertentu, tetapi orang yang mengetahui usaha itu memberitahu Reuters bahawa ia tidak menjamin sistem itu tidak akan menemui cara diskriminasi lain untuk menyusun calon (Reuters). Kedua, alat berasaskan peraturan boleh sama berat sebelahnya dengan yang berasaskan pembelajaran. Perisian iTutorGroup bukan model misteri; EEOC mendakwa ia diprogramkan dengan had umur (Duane Morris).

Kes Didokumenkan yang Patut Diketahui

Model pengambilan pekerja Amazon yang dibatalkan (2018)

Reuters melaporkan bahawa pasukan Amazon telah membina program semakan resume sejak 2014 dan mendapati menjelang 2015 bahawa sistem itu tidak menilai calon untuk jawatan pembangun perisian dan peranan teknikal lain secara neutral jantina. Model itu dilatih pada resume yang dihantar sepanjang 10 tahun, kebanyakannya daripada lelaki. Ia menghukum resume yang mengandungi perkataan "women's," dan Amazon kemudian membubarkan pasukan itu (Reuters). Perekrut melihat cadangan alat itu tetapi, menurut laporan, tidak pernah bergantung semata-mata pada kedudukannya. Kes ini ialah contoh piawai bias label dan data latihan.

EEOC dan iTutorGroup (2023)

EEOC mendakwa iTutorGroup memprogramkan perisian permohonan tutornya untuk menolak pemohon wanita melebihi 55 tahun dan pemohon lelaki melebihi 60 tahun, gagal mengambil lebih 200 pemohon berkelayakan berumur 55 tahun ke atas pada awal 2020. Dekri persetujuan, difailkan pada 9 Ogos 2023, memperuntukkan $365,000 kepada pemohon yang terjejas, dibahagi sama rata antara ganti rugi pampasan dan gaji tertunggak, dan berjalan selama lima tahun dengan latihan, dasar antidiskriminasi dan pemantauan EEOC (Duane Morris). Ini ialah layanan berbeza yang disengajakan dan dikodkan dalam perisian, iaitu kegagalan yang berbeza daripada bias yang dipelajari, dan peringatan bahawa audit juga perlu membaca peraturannya.

Mobley v. Workday (belum diputuskan)

Derek Mobley mendakwa dia memohon lebih 100 pekerjaan melalui majikan yang menggunakan platform Workday dan ditolak setiap kali, dan bahawa alat AI Workday merugikan pemohon yang lebih tua. Pada 16 Mei 2025, Hakim Rita Lin dari Northern District of California memberi pensijilan awal kepada satu kolektif di bawah Age Discrimination in Employment Act, meliputi pemohon berumur 40 tahun ke atas yang dinafikan cadangan pekerjaan melalui platform itu sejak 24 September 2020; soalan bersama mahkamah ialah sama ada sistem cadangan itu mempunyai impak tidak seimbang ke atas pemohon melebihi empat puluh tahun (Holland & Knight, Fisher Phillips). Workday berkata tuntutan itu tidak bermerit dan pensijilan hanyalah awal. Setakat kemas kini undang-undang pekerjaan pertengahan 2026, kes itu masih berjalan, dengan tuntutan dilanjutkan kepada kaum dan kecacatan, sebahagian tuntutan undang-undang negeri bertahan daripada usul penolakan pada akhir Jun 2026, dan Workday memohon rayuan interlokutori terhadap keputusan pensijilan (kemas kini undang-undang pekerjaan, Musim Bunga 2026). Tiada apa yang diputuskan mengenai merit, jadi anggaplah ia isyarat tentang teori undang-undang, bukan dapatan bias. Teori itu sendiri penting kepada pembeli: ia menyasarkan pembekal perisian di samping majikan yang menggunakannya.

Bias nama dalam model bahasa (2024)

Penyelidik University of Washington hanya mengubah nama pertama (120 nama yang dikaitkan dengan lelaki dan wanita kulit putih dan kulit hitam) pada lebih 550 resume sebenar yang disusun berbanding lebih 500 senarai jawatan merentasi sembilan pekerjaan, menggunakan tiga model bahasa dan menghasilkan lebih tiga juta perbandingan. Nama yang dikaitkan dengan orang kulit putih dipilih 85% daripada masa dan nama yang dikaitkan dengan orang kulit hitam 9%; nama yang dikaitkan dengan lelaki 52% berbanding 11% bagi nama yang dikaitkan dengan wanita; dan nama lelaki kulit hitam tidak pernah dipilih berbanding nama lelaki kulit putih (University of Washington). Ini ujian penyelidikan terkawal terhadap model serba guna, bukan audit mana-mana produk pengambilan pekerja komersial. Ia menunjukkan mengapa anda menguji konfigurasi anda sendiri, dan mengapa pandangan penyelidik bahawa bias "tidak semestinya kelihatan hanya dengan melihat kaum atau jantina secara berasingan" menyokong semakan interseksi.

Impak Buruk dan Peraturan Empat Perlima

Impak buruk bermaksud prosedur pemilihan memajukan satu kumpulan pada kadar yang jauh lebih rendah daripada kumpulan lain, sama ada disengajakan atau tidak. Uniform Guidelines persekutuan menganggap kadar pemilihan bagi mana-mana kumpulan yang kurang daripada empat perlima (80%) kadar kumpulan berkadar tertinggi secara amnya sebagai bukti impak buruk, dan kadar di atas itu secara amnya bukan. Ia juga menyatakan bahawa perbezaan yang lebih kecil masih boleh menjadi impak buruk apabila signifikan secara statistik dan praktikal, dan jurang yang lebih besar berasaskan bilangan kecil mungkin tidak dikira. Majikan dijangka menyimpan rekod yang menunjukkan impak prosedur mereka mengikut jantina dan kumpulan kaum serta etnik (29 CFR 1607.4).

Ilustrasi berangka menggunakan nombor rekaan:

Nisbah 0.70 bagi Kumpulan C jatuh di bawah 0.80, yang menjadi isyarat anda untuk menyiasat. Kumpulan B tepat pada garisan itu, yang membuktikan mengapa ambang itu isyarat saringan dan bukannya keputusan muktamad. Dengan kumpulan kecil, segelintir pengambilan menggerakkan nisbah dengan banyak, jadi gandingkan nisbah dengan ujian signifikan dan lihat data beberapa bulan.

Cara Mengaudit Alat Pengambilan Pekerja

Peraturan New York City memberi templat terbitan yang paling jelas, dan ia berguna walaupun anda tidak dilindungi olehnya. Ia mewajibkan audit mengira kadar pemilihan dan nisbah impak bagi setiap kategori, ditakrifkan sebagai kadar pemilihan sesuatu kategori dibahagi dengan kadar kategori yang paling banyak dipilih. Bagi alat yang menghasilkan skor, ia menggunakan kadar skor (bahagian yang mendapat skor melebihi median sampel) dengan cara yang sama. Pengiraan mesti dijalankan secara berasingan untuk kategori jantina, kategori kaum/etnik, dan kategori interseksi jantina, etnik dan kaum, dan audit mesti melaporkan berapa ramai orang jatuh dalam kategori tidak diketahui. Juruaudit bebas boleh mengetepikan kategori di bawah 2% data jika ringkasan menerangkan sebabnya dan memberi angka kategori itu (peraturan yang diterima pakai NYC DCWP).

Rutin langkah demi langkah

1. Senaraikan setiap langkah automatik. Penghuraian, kedudukan, soalan penyingkiran, penilaian, penyaring sembang, penskoran temu duga. Bias boleh wujud dalam mana-mana. Lihat penilaian pra-pekerjaan oleh AI dan AI dalam temu duga untuk peringkat selain resume.
2. Tentukan keputusan pada setiap langkah. "Majukan," "tolak," "skor melebihi median." Anda hanya boleh mengukur apa yang telah anda takrifkan.
3. Kumpulkan data hasil mengikut kumpulan. Anda memerlukan bilangan pemohon dan bilangan yang dimajukan mengikut jantina, kaum dan etnik, serta kumpulan umur, dengan bekas "tidak diketahui." Input yang bersih penting di sini, jadi mulakan dengan asas data sumber manusia untuk AI.
4. Kira nisbah impak pada setiap peringkat, bukan hanya pada pengambilan. Kadar tawaran akhir yang adil boleh menyembunyikan saringan yang condong di awal corong.
5. Uji interseksi. Lelaki berbanding wanita dan kulit hitam berbanding kulit putih mungkin kedua-duanya kelihatan boleh diterima sementara wanita kulit hitam, atau wanita yang lebih tua, tidak.
6. Uji dengan input yang dipadankan. Hantar resume yang serupa yang berbeza hanya pada nama, kata ganti, tahun tamat pengajian atau alamat, dan lihat sama ada output berubah. Ini mengesan kesan proksi yang mungkin terlepas daripada angka agregat.
7. Semak setiap input untuk kerelevanan. Bagi setiap ciri, dokumenkan mengapa ia berkaitan tugas dan perlu, dan buang yang sebenarnya proksi.
8. Semak penolakan, bukan hanya pemilihan. Ambil sampel longgokan berkedudukan rendah setiap minggu, bersama seseorang yang boleh mengatasi alat (human-in-the-loop (manusia dalam kitaran)).
9. Tentukan siapa memiliki keputusan. Sumber manusia menjalankan angka, pihak undang-undang mentafsirkannya, dan seorang pemimpin yang dinamakan meluluskan sebarang pemulihan.
10. Ulang mengikut jadual dan selepas sebarang perubahan. Kriteria baharu, keluarga jawatan baharu atau kemas kini model vendor menetapkan semula jam.

Apa yang perlu dilakukan apabila nisbah gagal

Jangan sekadar menentukur semula output untuk mencapai 80%. Cari puncanya dahulu. Jejaki jurang itu kepada input, label atau langkah tertentu, kemudian pertimbangkan alternatif yang kurang diskriminasi yang memenuhi keperluan perniagaan yang sama, seperti membuang ciri proksi, menggantikan syarat ijazah dengan ujian kemahiran, atau menukar penyingkiran kepada semakan manusia. Dokumenkan apa yang anda temui dan apa yang anda ubah. Untuk rutin operasi yang lebih luas, lihat pengawasan manusia dalam AI sumber manusia.

Konteks Undang-undang Secara Ringkas

Peraturan berbeza mengikut tempat dan sedang berubah, jadi sahkan keperluan semasa dengan penasihat undang-undang. Untuk tinjauan yang lebih lengkap, lihat undang-undang pengambilan pekerja oleh AI.

• New York City. Local Law 144 melarang penggunaan alat keputusan pekerjaan automatik tanpa audit bias dalam tempoh setahun sebelumnya dan ringkasan awam, dan Department of Consumer and Worker Protection mula menguatkuasakannya pada 5 Julai 2023 (NYC DCWP). Peraturan itu tidak menetapkan ambang lulus/gagal; ia mewajibkan nisbah dikira dan diterbitkan.
• Illinois. HB 3773, ditandatangani pada 9 Ogos 2024 dan berkuat kuasa 1 Januari 2026, meminda Illinois Human Rights Act untuk menjadikannya menyalahi undang-undang menggunakan AI yang berkesan mendiskriminasi kategori dilindungi atau menggunakan poskod sebagai proksi bagi kategori itu, dan mewajibkan notis apabila AI digunakan untuk keputusan pekerjaan. Illinois Department of Human Rights akan menetapkan peraturan notis (DLA Piper).
• Pendirian penguatkuasaan persekutuan. Executive Order 14281, ditandatangani pada 23 April 2025, menyatakan dasar untuk menghapuskan liabiliti impak tidak seimbang "sejauh yang mungkin" dan menyuruh agensi menurunkan keutamaan penguatkuasaan statut dan peraturan berkaitan (Compilation of Presidential Documents, GovInfo). Perintah tidak mengubah statut atau undang-undang kes, dan plaintif swasta serta undang-undang negeri kekal tersedia, iaitu laluan yang diambil Mobley.

Kesilapan Lazim

• Mengaudit pengambilan akhir sahaja. Kecondongan sering berada pada penapis pertama.
• Menganggap nisbah empat perlima sebagai pelabuhan selamat. Melepasi 0.80 pada bilangan kecil membuktikan sedikit; gagal adalah sebab untuk menyiasat, bukan bukti salah di sisi undang-undang.
• Bergantung pada audit vendor semata-mata. Ia meliputi data vendor, bukan keluarga jawatan atau kumpulan pemohon anda.
• Membuang satu proksi dan menyatakannya sudah dibaiki. Isyarat berkorelasi mengisi ruang kosong itu.
• Tidak mengumpul data demografi. Tanpanya, anda tidak dapat mengukur apa-apa, dan Uniform Guidelines menjangkakan rekod mengikut kumpulan. Kendalikan dengan teliti dan pisahkan daripada keputusan pengambilan pekerja.
• Membiarkan kedudukan menjadi keputusan. Penyemak membaca bahagian atas senarai dan berhenti.
• Melangkau ujian semula. Alat yang lulus semasa pelancaran boleh hanyut apabila kriteria dan kumpulan pemohon berubah.