Penyaringan CV dengan AI: Cara Kerja, Akurasi, dan Risiko Bias

Apa itu penyaringan CV dengan AI: saringan terbuka yang lebar mempertahankan beragam catatan pelamar untuk ditinjau, bukan menjatuhkan orang ke penolakan.

Turn this article into takeaways for your work.

Each assistant summarizes the article only for you and suggests best practices for your work.

Penyaringan CV dengan AI adalah perangkat lunak yang membaca setiap CV, mengubahnya menjadi data terstruktur (jabatan, keterampilan, tanggal, sekolah), lalu menilai atau meranking pelamar terhadap persyaratan suatu posisi agar perekrut melihat kecocokan terkuat lebih dulu. Perangkat ini menghemat waktu pada posisi dengan volume tinggi, tetapi hanya mencerminkan kriteria dan riwayat yang diberikan kepadanya. Jika salah satunya condong, peringkatnya pun condong, dan itu terjadi dalam skala besar.

Halaman ini ditujukan bagi direktur SDM, pemimpin akuisisi talenta, dan manajer perekrut yang sedang menimbang apakah akan mengaktifkan penyaringan, atau yang sudah mengaktifkannya dan perlu tahu apa yang harus diperiksa. Isinya mencakup mekanisme kerja, kegagalan yang terdokumentasi, penyiapan langkah demi langkah, dan pengamannya. Halaman ini berada di bagian rekrutmen dalam koleksi AI for HR, jadi untuk gambaran perekrutan secara utuh mulailah dari AI dalam rekrutmen. Ini adalah informasi umum, bukan nasihat hukum.

Fakta Utama

  • Mesin rekrutmen eksperimental Amazon menilai kandidat dengan satu sampai lima bintang, dilatih dengan CV yang masuk selama periode 10 tahun (sebagian besar dari pria), dan memberi penalti pada CV yang memuat kata "women's"; tim tersebut dibubarkan (Reuters, Oktober 2018).
  • Dalam uji University of Washington terhadap tiga model bahasa yang membandingkan lebih dari 550 CV dengan lebih dari 500 lowongan, nama yang diasosiasikan dengan orang kulit putih dipilih 85% dari waktu, dibandingkan 9% untuk nama yang diasosiasikan dengan orang kulit hitam, dan nama pria kulit hitam tidak pernah dipilih di atas nama pria kulit putih (University of Washington, Oktober 2024).
  • Lebih dari 90% pemberi kerja dalam survei Harvard Business School dan Accenture mengatakan mereka memakai sistem rekrutmen untuk menyaring atau meranking kandidat keterampilan menengah dan tinggi, dan 88% setuju bahwa kandidat berketerampilan tinggi yang memenuhi syarat tersingkir karena tidak cocok dengan kriteria persis dalam deskripsi pekerjaan (The Register, merangkum laporan 2021).
  • Berdasarkan pedoman "empat perlima" federal AS, tingkat seleksi di bawah 80% dari tingkat kelompok tertinggi umumnya dianggap sebagai bukti dampak merugikan (adverse impact) (29 CFR 1607.4).
  • Komisi Eropa menggolongkan perangkat lunak pemilah CV sebagai AI berisiko tinggi, dengan aturan tersebut berlaku mulai 2 Desember 2027 (European Commission).

Cara Kerja Penyaringan CV dengan AI

Sebagian besar sistem berjalan dalam tiga tahap, dan kegagalan di salah satunya akan sampai ke peringkat akhir.

Dari pengurai CV hingga peringkat: satu dokumen sumber dipisah menjadi kolom-kolom, dicocokkan dengan kunci posisi, lalu masuk ke rak tinjauan yang berurutan.

Tahap 1: Penguraian. Perangkat lunak mengekstrak teks dari PDF, file Word, atau formulir web dan memilahnya ke dalam kolom: nama, pemberi kerja, jabatan, tanggal, pendidikan, keterampilan. Ini adalah langkah "Ingest" dalam ACE Framework, dan lebih rapuh daripada kelihatannya. Tata letak dua kolom, teks di dalam gambar, format yang kreatif, dan karakter non-Inggris dapat mengacaukan kolom, sehingga kandidat yang kuat tiba sebagai catatan yang setengah kosong.

Tahap 2: Pencocokan. Sistem membandingkan catatan hasil penguraian dengan posisi yang dibuka. Perangkat lama mencocokkan kata kunci: apakah CV memuat "SQL" dan "forecasting"? Perangkat yang lebih baru memakai model bahasa yang membaca makna, sehingga "mengelola anggaran regional" dapat dihitung sebagai "perencanaan keuangan" meskipun tanpa frasa itu. Ini adalah langkah "Analyze".

Tahap 3: Penilaian dan peringkat. Sistem mengubah kecocokan menjadi skor, nilai, daftar pendek, atau lulus/gagal. Sebagian memakai aturan yang Anda tulis ("minimal dua tahun di peran penjualan"). Yang lain mempelajari pola dari perekrutan dan penolakan di masa lalu. Jenis yang kedua inilah yang dapat menyerap riwayat yang tidak Anda maksudkan untuk diajarkan. Dalam istilah ACE, ini adalah pola peninjauan dokumen yang mengalir ke pola penilaian dan pengarahan (scoring-and-routing).

Satu pembeda berlaku di sepanjang pembahasan berikut: penyaringan yang menerapkan kriteria yang dapat Anda baca dan pertanggungjawabkan berperilaku sangat berbeda dari penyaringan yang menyimpulkan sendiri kriterianya dari keputusan masa lalu. Yang pertama dapat diaudit. Yang kedua perlu diuji, karena tidak ada yang menuliskan apa yang telah dipelajarinya.

Apa Kata Kegagalan yang Terdokumentasi

Model rekrutmen Amazon yang dihentikan

Reuters melaporkan pada 2018 bahwa tim pembelajaran mesin Amazon telah membangun alat peninjau CV sejak 2014 dan pada 2015 menemukan bahwa alat itu tidak menilai kandidat untuk posisi pengembang perangkat lunak dan peran teknis lainnya secara netral gender. Model-model itu belajar dari 10 tahun CV yang masuk, sebagian besar dari pria, dan mengajari dirinya sendiri bahwa kandidat pria lebih disukai. Model memberi penalti pada CV yang memuat kata "women's," seperti dalam "kapten klub catur wanita (women's chess club)", dan menurunkan peringkat lulusan dari dua perguruan tinggi khusus perempuan. Amazon menyunting programnya agar netral terhadap istilah-istilah itu, tetapi orang-orang yang mengetahui upaya tersebut mengatakan hal itu tidak menjamin sistem tidak akan menemukan cara diskriminatif lain untuk memilah kandidat. Perusahaan membubarkan tim tersebut (Reuters).

Mengapa penyaringan AI melewatkan talenta: stensil yang sempit gagal meloloskan benda kerja berbentuk lain yang sah, menggambarkan ketidakcocokan proksi, bukan kurangnya kemampuan.

Pelajarannya bukan bahwa AI secara khusus bias. Pelajarannya adalah model yang dilatih untuk meniru perekrutan masa lalu akan meniru perekrutan masa lalu, termasuk titik butanya. Menambal satu proksi yang Anda temukan tidak menghilangkan proksi lainnya. Amazon mengatakan kepada Reuters bahwa alat itu tidak pernah dipakai perekrutnya untuk menilai kandidat, meskipun perusahaan tidak membantah bahwa perekrut melihat rekomendasinya.

Bias nama dalam peringkat model bahasa

Peneliti University of Washington menguji tiga model bahasa dengan meranking lebih dari 550 CV nyata terhadap lebih dari 500 lowongan di sembilan jenis pekerjaan, hanya dengan mengubah nama depan (120 nama yang diasosiasikan dengan pria dan wanita kulit putih dan kulit hitam). Dalam lebih dari tiga juta perbandingan, nama yang diasosiasikan dengan orang kulit putih dipilih 85% dari waktu dan nama yang diasosiasikan dengan orang kulit hitam 9%. Nama yang diasosiasikan dengan pria dipilih 52% dari waktu dibandingkan 11% untuk nama yang diasosiasikan dengan wanita, dan nama pria kulit hitam tidak pernah dipilih di atas nama pria kulit putih (University of Washington).

Bacalah cakupannya dengan cermat. Ini adalah uji penelitian terkendali terhadap model serbaguna, bukan audit atas produk penyaringan komersial mana pun. Yang ditunjukkannya adalah mengapa Anda perlu menguji konfigurasi Anda sendiri, bukan menganggap model vendor itu netral.

Diam-diam menolak kandidat yang baik

Bias bukan satu-satunya masalah akurasi. Laporan "Hidden Workers" dari Harvard Business School dan Accenture menemukan bahwa lebih dari 90% pemberi kerja yang disurvei memakai sistem rekrutmen mereka untuk menyaring atau meranking kandidat, dan 88% setuju bahwa kandidat berketerampilan tinggi yang memenuhi syarat tersingkir karena tidak cocok dengan kriteria persis dalam deskripsi pekerjaan. Angka itu mencapai 94% untuk pekerja keterampilan menengah (The Register). Laporan itu juga menunjuk proksi yang kaku, seperti menjadikan gelar sebagai pengganti suatu sifat atau menolak otomatis jeda karier. Itu adalah masalah desain yang berada dalam kendali Anda, dan beririsan dengan perekrutan berbasis keterampilan.

Contoh Nyata menurut Fungsi

Fungsi Apa yang disaring Di mana membantu Di mana gagal
Dukungan pelanggan Ratusan pelamar untuk tim musiman Memilah berdasarkan kemampuan bahasa, ketersediaan shift, pengalaman dukungan sebelumnya Memberi penalti pada orang yang pindah karier karena jabatannya tidak cocok
Rekayasa perangkat lunak Pelamar untuk peran backend Menampilkan proyek dan bahasa pemrograman yang relevan di luar jabatan Mempelajari "mirip perekrutan masa lalu," yang dapat menggemakan tim yang homogen
Penjualan Pelamar SDR tingkat pemula Menandai riwayat membawa target (quota) atau berhadapan dengan pelanggan Terlalu menekankan pemberi kerja atau sekolah bergengsi
Keuangan dan akuntansi Pelamar staf akuntan Memeriksa kredensial dan pengalaman perangkat lunak yang disyaratkan dengan andal Menolak otomatis kandidat dengan jeda kerja
Operasional dan gudang Pelamar per jam, banyak untuk setiap lowongan Mengonfirmasi pertanyaan kelayakan dan lokasi dengan cepat Pertanyaan gugur yang kaku menolak orang yang sebenarnya cocok
Layanan kesehatan Perawat dan tenaga penunjang Memverifikasi kolom izin praktik dan sertifikasi Melewatkan kredensial yang ditulis dalam format tidak standar

Polanya: penyaringan bekerja paling baik pada persyaratan yang dapat diverifikasi dan terkait pekerjaan (izin praktik, sertifikasi, lokasi, ketersediaan) dan paling buruk pada penilaian lunak atau yang disimpulkan seperti "kecocokan budaya" atau "potensi".

Cara Menerapkannya Langkah demi Langkah

  1. Tentukan tugas penyaringan sebelum membeli. Tuliskan apakah penyaringan hanya boleh mengonfirmasi persyaratan minimum, atau juga meranking. Mengonfirmasi jauh lebih mudah dipertanggungjawabkan daripada meranking.

Pemeriksaan peluncuran penyaringan AI: jalur latihan berjalan di samping jalur aktif yang terbuka, dengan peninjau memeriksa keluaran latihan sebelum beralih.

  1. Tulis persyaratan sebagai kriteria, bukan preferensi. Pisahkan yang wajib (izin praktik yang secara hukum disyaratkan peran itu) dari yang nilai tambah. Apa pun yang diberi label wajib menjadi kriteria gugur, jadi buatlah daftar itu singkat. Menulis deskripsi pekerjaan dengan AI membahas cara menjaga kriteria itu tetap bersih.
  2. Periksa input Anda. Kualitas penguraian, jabatan yang konsisten, dan catatan pelamar yang bersih menentukan keluarannya. Fondasi data SDM untuk AI menjelaskan apa yang perlu dibenahi lebih dulu.
  3. Pilih aturan yang dapat Anda baca bila memungkinkan. Tanyakan kepada setiap vendor apa yang dinilai sistemnya, dilatih dengan apa, dan apakah Anda dapat melihat mengapa seorang kandidat berada di peringkat tertentu. Halaman agen penyaring perekrutan AI kami menunjukkan apa yang dilakukan agen penyaring dengan cakupan yang tepat dan apa yang diserahkannya kepada manusia.
  4. Uji pada arsip lama. Jalankan penyaringan pada permintaan rekrutmen lampau yang sudah diputuskan, lalu bandingkan keluarannya dengan siapa yang sebenarnya lolos dan diterima.
  5. Ukur hasil menurut kelompok. Hitung tingkat seleksi tiap kelompok pada setiap tahap dan bandingkan dengan tingkat kelompok tertinggi. Pedoman empat perlima adalah sinyal penyaringan, bukan perlindungan hukum mutlak, tetapi hasil di bawah 80% adalah tanda bagi Anda untuk menyelidiki (29 CFR 1607.4). Bila Anda termasuk dalam cakupan aturan, jalankan juga audit bias formal (lihat bagian berikutnya).
  6. Libatkan manusia dalam keputusan. Minta perekrut meninjau setiap penolakan yang bertumpu pada kriteria gugur, ditambah sampel acak dari tumpukan "rendah" setiap minggu. Konsep human-in-the-loop adalah standar yang perlu dijadikan acuan desain.
  7. Beri kandidat jalan keluar. Beri tahu pelamar bahwa alat otomatis dilibatkan dan tawarkan jalur alternatif atau permintaan akomodasi.
  8. Pantau dan uji ulang. Persyaratan pekerjaan, kumpulan pelamar, dan model berubah. Jalankan ulang perbandingan antarkelompok secara berkala, dan setiap kali Anda mengubah kriteria.

Aturan yang Berlaku

Regulasi berbeda menurut lokasi dan cepat berubah, jadi pastikan persyaratan terkini bersama penasihat hukum untuk setiap tempat Anda merekrut.

  • Kota New York. Local Law 144 melarang pemberi kerja dan agen ketenagakerjaan memakai alat keputusan ketenagakerjaan otomatis kecuali alat itu telah menjalani audit bias dalam satu tahun sebelum digunakan, ringkasan audit dipublikasikan, dan kandidat menerima pemberitahuan 10 hari kerja sebelum penggunaan. Department of Consumer and Worker Protection mulai menegakkannya pada 5 Juli 2023 (NYC DCWP).
  • Uni Eropa. Sistem AI yang dipakai untuk ketenagakerjaan, seperti perangkat lunak pemilah CV, digolongkan berisiko tinggi, dengan aturan tersebut berlaku mulai 2 Desember 2027 (European Commission).
  • Negara bagian AS lainnya. Beberapa negara bagian telah mengesahkan atau menunda undang-undang AI di bidang ketenagakerjaan mereka sendiri, dan sebagian direvisi setelah disahkan. Perlakukan setiap tanggal yang Anda baca sebagai hal yang perlu diverifikasi pada pekan Anda mengandalkannya.
  • Hukum antidiskriminasi yang ada. Memakai perangkat lunak tidak memindahkan tanggung jawab. Prinsip dampak tidak proporsional (disparate impact) berlaku untuk alat seleksi pada umumnya, itulah sebabnya perbandingan empat perlima di atas menjadi pemeriksaan pertama yang standar.

Untuk struktur tata kelola yang berlaku lintas yurisdiksi, AI Risk Management Framework dari NIST (dirilis 26 Januari 2023, bersifat sukarela) menata pekerjaan ke dalam Govern, Map, Measure, dan Manage (NIST). Kerangka ini berguna sebagai kerangka dasar untuk kebijakan penyaringan internal.

Pengaman yang Benar-Benar Berhasil

Anggaplah pengaman sebagai lapisan, karena tidak ada satu pun yang cukup.

Pengaman penyaringan CV dengan AI: seorang peninjau mengambil berkas yang terlewat dari nampan bawah dan menaruhnya di permukaan tinjauan aktif.

  • Persempit cakupan. Saring berdasarkan kriteria yang terkait pekerjaan dan dapat diverifikasi. Buang kolom yang menjadi proksi sifat yang dilindungi, seperti nama, foto, tahun kelulusan, dan alamat, sebelum model melihatnya.
  • Pilih keluaran yang dapat dijelaskan. Jika perekrut tidak dapat melihat alasan di balik suatu peringkat, mereka tidak dapat menangkap kesalahan. Lihat AI yang dapat dijelaskan.
  • Audit sebelum peluncuran dan secara berkala. Tingkat seleksi per kelompok, pada setiap tahap, bukan hanya pada perekrutan akhir.
  • Ambil sampel dari penolakan. Bias bersembunyi di tumpukan yang tidak dibaca siapa pun.
  • Lindungi jalan keluar. Jalur banding dan jalur lamaran alternatif.
  • Miliki keputusan itu. Seorang yang ditunjuk menyetujui setiap hasil yang merugikan. Bias dalam AI menjelaskan sumber-sumber kecondongan bila Anda perlu memberi pengarahan kepada tim kepemimpinan.

Kesalahan Umum

  • Menganggap "lolos audit vendor" sama dengan "aman untuk kita". Audit mencakup suatu alat pada data tertentu. Rumpun jabatan dan kumpulan pelamar Anda berbeda.
  • Terlalu memercayai peringkat. Perekrut membaca sepuluh teratas dan mengabaikan sisanya, sehingga urutan dari algoritma menjadi keputusan.
  • Membiarkan satu perbaikan proksi menggantikan tinjauan bias. Menghapus satu istilah yang bias, seperti yang dilakukan Amazon, tidak menghentikan sinyal berkorelasi lain melakukan pekerjaan yang sama.
  • Melatih dengan riwayat Anda sendiri. Jika perekrutan masa lalu menguntungkan satu profil, model yang belajar darinya pun akan begitu.
  • Pertanyaan gugur tanpa tinjauan. Penolakan otomatis karena jeda kerja atau gelar adalah tempat orang-orang yang memenuhi syarat menghilang.
  • Melewatkan pemberitahuan kepada kandidat. Di beberapa yurisdiksi, itu merupakan pelanggaran tersendiri.
  • Tidak pernah menguji ulang. Penyaringan yang baik saat peluncuran dapat bergeser seiring berubahnya persyaratan.

About the author

Kevin Kim

Kevin Kim

Senior Customer Retention Strategist

Kevin Kim is Senior Customer Retention Strategist at Rework, writing for HR leaders and people managers on growing their people. Kevin covers job descriptions and role design, employee competencies, and organizational competency frameworks: the building blocks for hiring the right people and developing them once they join.