Pengawasan Manusia dalam AI untuk HR: Keputusan Mana yang Mesti Kekal di Tangan Manusia

Oleh Kevin Kim · Dikemas kini 11 Oktober 2026

Pengawasan manusia dalam AI untuk HR bermaksud seorang yang dinamakan, dengan kuasa, maklumat dan masa untuk mempersoalkan output AI dan mengubah hasilnya sebelum ia menjejaskan pekerja atau calon. Sekadar meminta seseorang menekan "lulus" tidak dikira. Pengawal selia dan penyelidik sama-sama berkata demikian, dan kajian tentang cara orang sebenarnya bertindak di sekitar cadangan AI menjelaskan sebabnya.

Halaman ini ditujukan kepada pengarah HR, pengurus orang dan ketua pematuhan yang sedang memutuskan di mana AI boleh mencadangkan, di mana ia boleh bertindak, dan di mana manusia mesti memiliki keputusan. Ia meliputi keputusan HR mana yang tergolong dalam peringkat mana, apa yang undang-undang maksudkan dengan penglibatan "bermakna", cara mereka bentuk semakan yang bukan lakonan, dan apa yang perlu didokumentasikan. Ia berpasangan dengan AI dalam HR untuk gambaran yang lebih luas dan dengan konsep human-in-the-loop untuk coraknya. Ini maklumat umum, bukan nasihat undang-undang.

Fakta Utama

• Di bawah GDPR Article 22, seseorang berhak untuk tidak tertakluk kepada keputusan yang berasaskan pemprosesan automatik semata-mata yang menghasilkan kesan undang-undang atau menjejaskannya secara ketara dengan cara yang setara (GDPR Article 22).
• Pengawal selia perlindungan data Eropah menyatakan penglibatan manusia hanya dikira jika pengawasan itu "bermakna, bukan sekadar isyarat simbolik," dan dilakukan oleh seseorang "yang mempunyai kuasa dan kecekapan untuk mengubah keputusan" (Article 29 Working Party, WP251).
• EU AI Act mengelaskan alat AI untuk pekerjaan dan pengurusan pekerja, seperti perisian pengisihan CV, sebagai berisiko tinggi, dengan kewajipan terpakai mulai 2 Disember 2027 (European Commission).
• Dalam kajian University of Washington terhadap 528 orang yang menyaring calon dengan cadangan AI simulasi, pilihan peserta mengikut pilihan AI yang sangat berat sebelah kira-kira 90% daripada masa (University of Washington, November 2025).
• Tinjauan faktor manusia yang kerap dipetik mendapati bias automasi berlaku pada orang baharu dan pakar, dan "tidak boleh dicegah melalui latihan atau arahan" (Parasuraman dan Manzey, Human Factors, 2010).

Apa yang Sebenarnya Dikehendaki oleh Undang-undang

Dua instrumen melakukan kebanyakan kerja bagi pasukan HR yang mengambil atau mengurus orang di Eropah, dan rangka kerja ketiga membantu di tempat lain.

GDPR Article 22

Article 22(1) memberi individu hak untuk tidak tertakluk kepada keputusan yang berasaskan pemprosesan automatik semata-mata, termasuk pemprofilan, yang menghasilkan kesan undang-undang atau menjejaskannya secara ketara dengan cara yang setara. Terdapat pengecualian jika keputusan itu perlu untuk kontrak, dibenarkan oleh undang-undang dengan perlindungan, atau berasaskan persetujuan nyata. Walaupun begitu, bagi kes kontrak dan persetujuan, pengawal mesti melaksanakan perlindungan yang sesuai, sekurang-kurangnya hak untuk mendapatkan campur tangan manusia, menyatakan pandangan dan mencabar keputusan (GDPR Article 22).

Garis panduan pengawal selia itu terus terang tentang helah yang semua orang tergoda untuk mencuba. Pengawal tidak boleh mengelak Article 22 dengan mereka-reka penglibatan manusia. Seseorang yang kerap menerapkan profil yang dijana secara automatik tanpa sebarang pengaruh sebenar terhadap hasilnya tetap menjadikan keputusan itu "automatik semata-mata." Garis panduan itu juga menyenaraikan "amalan pengambilan pekerja secara elektronik tanpa sebarang campur tangan manusia" sebagai contoh tipikal keputusan yang menjejaskan seseorang secara ketara (WP251).

Kemudian ada soalan tentang sejauh mana "semata-mata" meluas. Dalam kes SCHUFA, Mahkamah Keadilan EU memutuskan pada 7 Disember 2023 bahawa skor kebarangkalian automatik sebuah agensi kredit dikira sebagai keputusan individu automatik apabila pihak ketiga yang menerimanya "bergantung sangat" pada skor itu untuk memutuskan sesuatu kontrak dengan orang berkenaan (CJEU, C-634/21). Kes itu melibatkan kredit, bukan pekerjaan. Tetapi logiknya boleh dipakai: jika perekrut hampir sentiasa mengikut skor saringan, skor itu mungkin sebenarnya keputusan itu sendiri, dan langkah manusia tidak melindungi anda.

EU AI Act

Akta ini menganggap AI yang digunakan dalam pekerjaan dan pengurusan pekerja sebagai berisiko tinggi, dengan perisian pengisihan CV dinamakan sebagai contoh. Berikutan pindaan Digital Omnibus, kewajipan bagi sistem ini terpakai mulai 2 Disember 2027, dan Suruhanjaya menyenaraikan "langkah pengawasan manusia yang sewajarnya" antara keperluan, dengan deployer memastikan pengawasan dan pemantauan oleh manusia (European Commission). Pindaan itu berkuat kuasa pada 27 Julai 2026 (Lewis Silkin).

Dua artikel paling penting kepada HR:

• Article 14 menyatakan sistem berisiko tinggi mesti direka supaya orang dapat mengawasinya dengan berkesan. Orang yang ditugaskan mengawasi mesti dimampukan untuk memahami keupayaan dan had sistem, untuk sentiasa sedar tentang "kecenderungan yang mungkin untuk bergantung secara automatik atau terlalu bergantung pada output (bias automasi)," untuk mentafsir output dengan betul, dan untuk memutuskan supaya tidak menggunakan sistem atau untuk "mengabaikan, mengatasi atau membatalkan output" (AI Act Article 14).
• Article 26 meletakkan kewajipan ke atas majikan sebagai deployer. Anda mesti menugaskan pengawasan kepada orang yang mempunyai "kecekapan, latihan dan kuasa yang diperlukan," menyimpan log yang dijana secara automatik oleh sistem sekurang-kurangnya enam bulan melainkan undang-undang lain menetapkan sebaliknya, dan memaklumkan wakil pekerja serta pekerja yang terjejas sebelum sistem berisiko tinggi digunakan (AI Act Article 26).

Article 86 menambah hak kepada "penjelasan yang jelas dan bermakna tentang peranan sistem AI dalam prosedur membuat keputusan" bagi orang yang terjejas oleh keputusan yang berasaskan output berisiko tinggi Annex III (AI Act Article 86). Itu sebab praktikal untuk menyimpan rekod tentang apa yang AI sumbangkan. Lebih lanjut di bawah.

Di Luar EU

Di tempat lain peraturannya ialah tampalan, dan beberapa undang-undang negeri AS tentang keputusan automatik telah dipinda atau ditangguhkan, jadi semak setiap tempat anda mengambil pekerja. AI Risk Management Framework NIST, yang dikeluarkan pada 26 Januari 2023, ialah rangka kerja sukarela AS yang boleh anda gunakan sebagai kerangka tadbir urus di mana-mana bidang kuasa (NIST). Dan undang-undang diskriminasi pekerjaan terpakai sama ada perisian terlibat atau tidak. Pemantauan peringkat kumpulan, seperti perbandingan empat perlima dalam 29 CFR 1607.4, ialah semakan pertama yang piawai untuk mana-mana alat pemilihan.

Mengapa "Manusia Menyemaknya" Sering Tidak Mencukupi

Ujian undang-undang mengandaikan manusia yang benar-benar boleh tidak bersetuju dengan mesin. Kajian mencadangkan itu lebih sukar daripada bunyinya.

Tinjauan 2010 dalam Human Factors mendapati bias automasi menyebabkan orang membuat kedua-dua ralat peninggalan (terlepas sesuatu yang tidak ditandakan oleh alat) dan ralat komisen (mengikut nasihat yang salah). Ia berlaku pada orang baharu dan pakar, dan "tidak boleh dicegah melalui latihan atau arahan" (Parasuraman dan Manzey). Kursus sejam tentang had AI bukan kawalan.

Bukti khusus pengambilan pekerja menunjukkan arah yang sama. Dalam kajian University of Washington, 528 peserta menyaring calon untuk 16 jawatan dengan cadangan AI simulasi. Tanpa AI atau dengan AI neutral, mereka memilih pemohon kulit putih dan bukan kulit putih pada kadar yang sama. Dengan AI yang agak berat sebelah mereka meniru kumpulan mana pun yang disukainya, dan dengan AI yang sangat berat sebelah mereka mengikut pilihannya kira-kira 90% daripada masa (University of Washington). Cadangan itu disimulasikan, jadi ini menunjukkan cara orang bertindak balas terhadap cadangan yang condong, bukan prestasi mana-mana produk sebenar. Namun, ia amaran langsung: penyemak yang melihat pilihan AI dahulu cenderung mengesahkannya.

Maknanya pengawasan ialah masalah reka bentuk, bukan masalah kakitangan. Anda tidak boleh membetulkannya dengan menyuruh penyemak berhati-hati.

Jadual Peringkat Keputusan

Tiada senarai undang-undang tunggal tentang keputusan HR mana yang mesti kekal di tangan manusia, dan jawapannya bergantung pada bidang kuasa. Peringkat di bawah ialah cara praktikal untuk menerapkan ujian undang-undang di atas: semakin banyak sesuatu keputusan menjejaskan punca rezeki, hak atau maruah seseorang, semakin perlu seorang manusia memilikinya. Anggaplah ini sebagai dasar permulaan untuk diselaraskan oleh penasihat undang-undang anda, bukan pernyataan tentang apa yang dikehendaki oleh mana-mana undang-undang.

Dua prinsip berada di sebalik jadual ini. Pertama, semakin hampir sesuatu keputusan kepada menamatkan, menafikan atau mengurangkan sesuatu bagi seseorang, semakin kurang AI patut dapat bertindak tanpa manusia membaca sebab-sebabnya. Kedua, keputusan "semata-mata" bukan hanya yang berjalan tanpa manusia. Ia termasuk yang manusianya sentiasa mengikut output. Jika anda tidak dapat menunjukkan penyemak pernah tidak bersetuju, anda mungkin mempunyai masalah Article 22 walaupun manusia secara nominal berada dalam gelung.

Contoh Sebenar mengikut Fungsi HR

• Pengambilan pekerja. Sistem penjejakan pemohon menyusun kedudukan 800 pemohon untuk peranan sokongan secara automatik. Seorang perekrut membaca 40 teratas. Pemohon yang berada di bawah sempadan itu pada hakikatnya ditolak oleh algoritma. Pembaikannya ialah menyemak sampel rawak timbunan yang tidak dibaca setiap minggu dan mewajibkan seseorang melihat sebab yang dinyatakan sebelum sebarang penolakan penapis automatik. Lihat saringan resume AI.
• Prestasi dan kenaikan pangkat. Alat meringkaskan nota pengurus dan data projek serta mencadangkan bendera "bersedia untuk dinaikkan pangkat." Pengurus menganggap bendera itu sebagai jawapan. Amalan baik ialah meminta pengurus menulis penilaian sendiri dahulu, kemudian membandingkannya dengan alat, supaya mesin tidak menambat pertimbangan. Lebih lanjut tentang ini dalam AI dalam pengurusan prestasi.
• Pampasan. Model mencadangkan kenaikan gaji dalam bajet. Pengurus yang meluluskan 40 cadangan dalam sepuluh minit tidak sedang menyemak. Hadkan saiz kelompok, tunjukkan penaakulan untuk kes terpencil dahulu, dan minta HR menyemak corak peringkat kumpulan secara berasingan.

Cara Membina Pengawasan yang Bukan Cop Getah

1. Senaraikan setiap keputusan HR yang dibantu AI. Sertakan yang senyap: kedudukan, bendera, dorongan, penilaian yang dikarang. Anda tidak boleh mengaturkan peringkat apa yang belum anda temui. Inventori kecil sering menemui alat yang diguna pakai oleh pengurus tanpa memberitahu sesiapa.
2. Tetapkan setiap keputusan kepada satu peringkat dan pemilik yang dinamakan. Gunakan jadual di atas sebagai templat. Pemilik ialah peranan dengan kuasa sebenar, bukan "pasukan HR."
3. Beri penyemak kuasa. Article 14 dan Article 26 kedua-duanya bergantung pada keupayaan untuk mengabaikan, mengatasi atau membatalkan output, dan pada penugasan pengawasan kepada orang yang berkecekapan dan berkuasa (Article 14, Article 26). Jika mengatasi alat memerlukan tiga tandatangan dan satu permohonan maaf, tiada siapa akan melakukannya.
4. Beri penyemak maklumat. Tunjukkan input, sebab bagi output, dan tahap keyakinan jika sistem menyediakannya. Skor semata-mata mengundang kepatuhan. Di sinilah AI yang boleh dijelaskan membuktikan nilainya.
5. Beri penyemak masa. Tetapkan saiz kelompok yang munasabah. Jika sasaran daya pemprosesan menjadikan semakan sebenar mustahil, anda telah mereka bentuk cop getah.
6. Ubah urutan kerja untuk keputusan berisiko tinggi. Jika praktikal, minta orang itu memberi penilaian sendiri sebelum menunjukkan penilaian AI. Ini mengurangkan penambatan pada cadangan mesin.
7. Jejak kadar pengatasan dan kedalaman semakan. Jika penyemak bersetuju dengan AI 99% daripada masa, tanya sama ada mereka benar-benar bersetuju atau sekadar mengklik. Kadar pengatasan yang hampir sifar ialah tanda amaran, bukan metrik kejayaan (lihat mengukur AI dalam HR untuk cara menjejakinya bersama metrik keadilan lain). Bandingkan kadar pengatasan merentasi penyemak dan merentasi kumpulan calon atau pekerja.
8. Beri orang laluan kepada manusia. Untuk apa-apa yang penting, beritahu orang bahawa AI terlibat, benarkan mereka meminta seseorang melihat semula, dan benarkan mereka menambah pihak mereka. Itu mencerminkan perlindungan dalam Article 22(3) dan hak penjelasan dalam Article 86.
9. Tetapkan semula peringkat apabila keadaan berubah. Versi model baharu, sumber data baharu atau penggunaan baharu bagi skor lama boleh menaikkan keputusan satu peringkat.

Pemantauan alat itu sendiri juga termasuk di sini. Lihat bias pengambilan pekerja oleh AI untuk cara menguji hasil mengikut kumpulan.

Apa yang Perlu Didokumentasikan

Rekod ialah cara anda membuktikan pengawasan berlaku, dan itulah yang akan diminta oleh pengawal selia, juruaudit atau peguam pekerja. Garis panduan pengawal selia menyatakan pengawal harus mengenal pasti dan merekodkan tahap penglibatan manusia dalam proses membuat keputusan dan pada peringkat mana ia berlaku (WP251). Minimum yang boleh dilaksanakan:

• Keputusan itu, peringkatnya dan pemiliknya.
• Apa yang AI hasilkan, versi mana yang menghasilkannya, dan apa yang penyemak lihat.
• Keputusan penyemak, penaakulannya jika dia mengatasi output, dan masa yang diambil.
• Sebarang hubungan daripada orang yang terjejas, seperti permintaan untuk semakan manusia atau penjelasan, dan hasilnya.
• Log yang disimpan bagi tempoh yang dikehendaki oleh undang-undang anda. Bagi sistem berisiko tinggi EU, deployer menyimpan log yang dijana secara automatik sekurang-kurangnya enam bulan melainkan undang-undang lain memperuntukkan sebaliknya (Article 26).

Jejak audit AI yang berstruktur menjadikan ini jauh lebih mudah berbanding membina semula peristiwa daripada e-mel.

Kesilapan Lazim

• Menganggap satu klik sebagai pengawasan. Jika penyemak tidak boleh mengubah hasil, atau tidak pernah berbuat demikian, pengawal selia mungkin menganggap keputusan itu automatik.
• Menyembunyikan sebab. Penyemak yang hanya melihat skor akan akur kepadanya.
• Membebankan penyemak. Barisan 200 item sehari menjamin kelulusan secara lalai.
• Menganggap latihan sebagai penyelesaian. Kajian mengatakan kesedaran semata-mata tidak menghapuskan bias automasi, jadi bina struktur, bukan sekadar kursus.
• Menggunakan kadar pengatasan sebagai metrik prestasi terhadap penyemak. Jika orang dinilai rendah kerana tidak bersetuju dengan alat, mereka akan berhenti.
• Mengabaikan timbunan yang tiada siapa buka. Penolakan yang tiada siapa baca ialah tempat ralat dan bias bersembunyi.