Pengawasan Manusia dalam AI SDM: Keputusan Mana yang Harus Tetap di Tangan Manusia

Oleh Kevin Kim · Diperbarui 11 Oktober 2026

Pengawasan manusia dalam AI SDM berarti seseorang yang ditunjuk, dengan wewenang, informasi, dan waktu untuk mempertanyakan keluaran AI dan mengubah hasilnya sebelum memengaruhi karyawan atau kandidat. Membiarkan seseorang mengklik "setujui" tidak dihitung. Regulator dan peneliti sama-sama menyatakannya, dan riset tentang perilaku nyata orang terhadap rekomendasi AI menjelaskan alasannya.

Halaman ini ditujukan bagi direktur SDM, manajer orang, dan pemimpin kepatuhan yang sedang memutuskan di mana AI boleh merekomendasikan, di mana AI boleh bertindak, dan di mana manusia harus memegang keputusan. Isinya mencakup keputusan SDM mana yang masuk tingkat mana, apa arti keterlibatan yang "bermakna" menurut hukum, cara merancang peninjauan yang bukan formalitas belaka, dan apa yang perlu didokumentasikan. Halaman ini berpasangan dengan AI di bidang SDM untuk gambaran yang lebih luas dan dengan konsep human-in-the-loop untuk polanya sendiri. Ini adalah informasi umum, bukan nasihat hukum.

Fakta Utama

• Berdasarkan GDPR Article 22, seseorang berhak untuk tidak dikenai keputusan yang semata-mata didasarkan pada pemrosesan otomatis yang menimbulkan akibat hukum atau memengaruhinya secara signifikan dengan cara serupa (GDPR Article 22).
• Regulator pelindungan data Eropa menyatakan keterlibatan manusia hanya dihitung jika pengawasannya "bermakna, bukan sekadar gestur simbolis," dan dilakukan oleh orang "yang memiliki wewenang dan kompetensi untuk mengubah keputusan" (Article 29 Working Party, WP251).
• EU AI Act menggolongkan alat AI untuk ketenagakerjaan dan pengelolaan pekerja, seperti perangkat lunak penyortir CV, sebagai berisiko tinggi, dengan kewajiban yang berlaku mulai 2 Desember 2027 (European Commission).
• Dalam studi University of Washington terhadap 528 orang yang menyaring kandidat dengan rekomendasi AI simulasi, pilihan peserta mengikuti pilihan AI yang sangat bias sekitar 90% dari waktu (University of Washington, November 2025).
• Tinjauan human-factors yang banyak dikutip menemukan bahwa bias otomatisasi terjadi pada pemula maupun ahli dan "tidak dapat dicegah dengan pelatihan atau instruksi" (Parasuraman and Manzey, Human Factors, 2010).

Apa yang Sebenarnya Disyaratkan Hukum

Dua instrumen menjalankan sebagian besar peran bagi tim SDM yang merekrut atau mengelola orang di Eropa, dan kerangka ketiga membantu di tempat lain.

GDPR Article 22

Article 22(1) memberi individu hak untuk tidak dikenai keputusan yang semata-mata didasarkan pada pemrosesan otomatis, termasuk profiling, yang menimbulkan akibat hukum atau memengaruhinya secara signifikan dengan cara serupa. Pengecualian ada jika keputusan itu diperlukan untuk suatu kontrak, diizinkan oleh hukum dengan perlindungan tertentu, atau didasarkan pada persetujuan eksplisit. Bahkan dalam kasus itu, untuk kasus kontrak dan persetujuan, pengendali data wajib menerapkan perlindungan yang memadai, setidaknya hak untuk mendapatkan intervensi manusia, menyampaikan pandangan, dan menggugat keputusan (GDPR Article 22).

Panduan regulator sangat lugas soal trik yang menggoda semua orang. Pengendali data tidak dapat menghindari Article 22 dengan merekayasa keterlibatan manusia. Orang yang secara rutin menerapkan profil yang dihasilkan otomatis tanpa pengaruh nyata terhadap hasilnya tetap membuat keputusan itu "semata-mata otomatis." Panduan tersebut juga mencantumkan "praktik e-recruiting tanpa intervensi manusia sama sekali" sebagai contoh khas keputusan yang berdampak signifikan bagi seseorang (WP251).

Lalu ada pertanyaan seberapa jauh makna "semata-mata" itu. Dalam kasus SCHUFA, Court of Justice of the EU pada 7 Desember 2023 memutuskan bahwa skor probabilitas otomatis dari sebuah lembaga kredit dihitung sebagai keputusan individual otomatis ketika pihak ketiga yang menerimanya "sangat bergantung" pada skor itu untuk memutuskan suatu kontrak dengan orang tersebut (CJEU, C-634/21). Kasus itu menyangkut kredit, bukan ketenagakerjaan. Namun logikanya berlaku juga di sini: jika perekrut hampir selalu mengikuti skor penyaringan, skor itu bisa menjadi keputusan secara substansi, dan langkah manusia tidak melindungi Anda.

EU AI Act

Act tersebut memperlakukan AI yang dipakai dalam ketenagakerjaan dan pengelolaan pekerja sebagai berisiko tinggi, dengan perangkat lunak penyortir CV disebut sebagai contoh. Setelah amendemen Digital Omnibus, kewajiban untuk sistem ini berlaku mulai 2 Desember 2027, dan Commission mencantumkan "langkah pengawasan manusia yang tepat" di antara persyaratannya, dengan deployer memastikan pengawasan dan pemantauan oleh manusia (European Commission). Amendemen itu mulai berlaku pada 27 Juli 2026 (Lewis Silkin).

Dua pasal paling penting bagi SDM:

• Article 14 menyatakan sistem berisiko tinggi harus dirancang agar orang dapat mengawasinya secara efektif. Orang yang ditugaskan mengawasi harus dimampukan untuk memahami kemampuan dan batas sistem, tetap menyadari "kecenderungan yang mungkin untuk mengandalkan atau terlalu mengandalkan keluaran secara otomatis (bias otomatisasi)," menafsirkan keluaran dengan benar, dan memutuskan untuk tidak memakai sistem atau "mengabaikan, mengesampingkan, atau membalikkan keluaran" (AI Act Article 14).
• Article 26 membebankan kewajiban pada pemberi kerja sebagai deployer. Anda harus menugaskan pengawasan kepada orang yang memiliki "kompetensi, pelatihan, dan wewenang yang diperlukan," menyimpan log yang dihasilkan otomatis oleh sistem setidaknya enam bulan kecuali hukum lain menentukan berbeda, dan memberi tahu perwakilan pekerja serta pekerja yang terdampak sebelum sistem berisiko tinggi digunakan (AI Act Article 26).

Article 86 menambahkan hak atas "penjelasan yang jelas dan bermakna tentang peran sistem AI dalam prosedur pengambilan keputusan" bagi orang yang terdampak keputusan berdasarkan keluaran berisiko tinggi Annex III (AI Act Article 86). Itu alasan praktis untuk menyimpan catatan tentang apa yang disumbangkan AI. Selengkapnya di bawah.

Di Luar UE

Di tempat lain aturannya berupa tambal sulam, dan beberapa undang-undang negara bagian AS tentang keputusan otomatis telah diamendemen atau ditunda, jadi periksa setiap tempat Anda merekrut. AI Risk Management Framework dari NIST, dirilis pada 26 Januari 2023, adalah kerangka AS yang bersifat sukarela dan dapat Anda gunakan sebagai kerangka dasar tata kelola di yurisdiksi mana pun (NIST). Dan hukum antidiskriminasi ketenagakerjaan berlaku entah perangkat lunak terlibat atau tidak. Pemantauan tingkat kelompok, seperti perbandingan empat perlima dalam 29 CFR 1607.4, adalah pemeriksaan pertama yang standar untuk alat seleksi apa pun.

Mengapa "Manusia yang Meninjau" Sering Kali Tidak Cukup

Uji hukum mengandaikan manusia yang benar-benar bisa tidak setuju dengan mesin. Riset menunjukkan hal itu lebih sulit daripada kedengarannya.

Tinjauan tahun 2010 dalam Human Factors menemukan bahwa bias otomatisasi membuat orang melakukan kesalahan omisi (melewatkan sesuatu yang tidak ditandai alat) sekaligus kesalahan komisi (mengikuti saran yang keliru). Bias ini terjadi pada pemula dan ahli, dan "tidak dapat dicegah dengan pelatihan atau instruksi" (Parasuraman and Manzey). Kursus satu jam tentang batasan AI bukanlah kontrol.

Bukti khusus perekrutan mengarah ke hal yang sama. Dalam studi University of Washington, 528 peserta menyaring kandidat untuk 16 pekerjaan dengan rekomendasi AI simulasi. Tanpa AI atau dengan AI netral, mereka memilih pelamar kulit putih dan non-kulit putih dengan tingkat yang sama. Dengan AI yang cukup bias, mereka meniru kelompok mana pun yang diutamakannya, dan dengan AI yang sangat bias, mereka mengikuti pilihannya sekitar 90% dari waktu (University of Washington). Rekomendasinya hanya simulasi, jadi ini menunjukkan bagaimana orang menanggapi saran yang miring, bukan bagaimana produk nyata mana pun bekerja. Tetap saja, ini peringatan langsung: peninjau yang melihat pilihan AI lebih dulu cenderung mengonfirmasinya.

Artinya pengawasan adalah masalah desain, bukan masalah penempatan staf. Anda tidak bisa memperbaikinya dengan menyuruh peninjau berhati-hati.

Tabel Tingkat Keputusan

Tidak ada satu daftar hukum yang menyebut keputusan SDM mana yang harus tetap di tangan manusia, dan jawabannya bergantung pada yurisdiksi. Tingkat di bawah ini adalah cara praktis menerapkan uji hukum di atas: semakin besar dampak suatu keputusan terhadap penghidupan, hak, atau martabat seseorang, semakin besar keharusan manusia memegangnya. Perlakukan ini sebagai kebijakan awal untuk disesuaikan penasihat hukum Anda, bukan sebagai pernyataan tentang apa yang disyaratkan hukum mana pun.

Dua prinsip melandasi tabel ini. Pertama, semakin dekat suatu keputusan pada mengakhiri, menolak, atau mengurangi sesuatu bagi seseorang, semakin sedikit yang boleh dilakukan AI tanpa manusia membaca alasannya. Kedua, keputusan "semata-mata" otomatis bukan hanya yang berjalan tanpa orang. Termasuk di dalamnya keputusan yang orangnya selalu mengikuti keluaran AI. Jika Anda tidak bisa menunjukkan bahwa peninjau pernah tidak setuju, Anda mungkin punya masalah Article 22 meskipun secara nominal ada manusia dalam prosesnya.

Contoh Nyata menurut Fungsi

• Rekrutmen. Applicant tracking system meranking otomatis 800 pelamar untuk peran dukungan pelanggan. Seorang perekrut membaca 40 teratas. Pelamar di bawah batas itu praktis ditolak oleh algoritma. Perbaikannya adalah meninjau sampel acak dari tumpukan yang tidak terbaca setiap minggu dan mewajibkan seseorang melihat alasan yang dinyatakan sebelum penolakan knockout apa pun. Lihat penyaringan CV dengan AI.
• Kinerja dan promosi. Sebuah alat merangkum catatan manajer dan data proyek lalu menyarankan tanda "siap dipromosikan". Manajer memperlakukan tanda itu sebagai jawabannya. Praktik yang baik adalah meminta manajer menulis penilaiannya sendiri lebih dulu, lalu membandingkannya dengan alat, supaya mesin tidak menjangkar penilaian. Selengkapnya di AI dalam manajemen kinerja.
• Kompensasi. Sebuah model merekomendasikan kenaikan gaji dalam batas anggaran. Manajer yang menyetujui 40 rekomendasi dalam sepuluh menit tidak sedang meninjau. Batasi ukuran batch, tampilkan penalaran untuk pencilan lebih dulu, dan minta SDM memeriksa pola tingkat kelompok secara terpisah.

Cara Membangun Pengawasan yang Bukan Sekadar Stempel

1. Daftar setiap keputusan SDM yang dibantu AI. Sertakan yang tidak mencolok: peringkat, tanda, dorongan, draf penilaian. Anda tidak bisa menjenjang apa yang belum Anda temukan. Inventarisasi kecil sering menemukan alat yang dipakai manajer tanpa memberi tahu siapa pun.
2. Tetapkan setiap keputusan ke satu tingkat dan satu pemilik yang ditunjuk. Gunakan tabel di atas sebagai templat. Pemiliknya adalah peran dengan wewenang nyata, bukan "tim SDM."
3. Beri peninjau wewenang. Article 14 dan Article 26 sama-sama bertumpu pada kemampuan untuk mengabaikan, mengesampingkan, atau membalikkan keluaran, dan pada penugasan pengawasan kepada orang yang berkompetensi dan berwenang (Article 14, Article 26). Jika mengesampingkan alat butuh tiga tanda tangan dan permintaan maaf, tidak akan ada yang melakukannya.
4. Beri peninjau informasi. Tampilkan masukan, alasan di balik keluaran, dan tingkat keyakinan bila sistem menyediakannya. Skor polos mengundang kepatuhan. Di sinilah explainable AI membuktikan manfaatnya.
5. Beri peninjau waktu. Tetapkan ukuran batch yang masuk akal. Jika target throughput membuat peninjauan nyata mustahil, Anda telah merancang stempel.
6. Ubah urutan kerja untuk keputusan berisiko tinggi. Bila memungkinkan, minta penilaian orang itu sendiri sebelum menampilkan penilaian AI. Ini mengurangi penjangkaran pada saran mesin.
7. Lacak tingkat override dan kedalaman peninjauan. Jika peninjau setuju dengan AI 99% dari waktu, tanyakan apakah mereka benar-benar setuju atau hanya mengklik. Tingkat override yang mendekati nol adalah tanda bahaya, bukan metrik keberhasilan (lihat mengukur AI di SDM untuk cara melacaknya bersama metrik keadilan lain). Bandingkan tingkat override antarpeninjau dan antarkelompok kandidat atau karyawan.
8. Beri orang jalur menuju manusia. Untuk hal yang signifikan, beri tahu orang bahwa AI terlibat, izinkan mereka meminta seseorang meninjau ulang, dan izinkan mereka menambahkan sisi mereka. Itu mencerminkan perlindungan dalam Article 22(3) dan hak penjelasan dalam Article 86.
9. Jenjangkan ulang saat keadaan berubah. Versi model baru, sumber data baru, atau penggunaan baru dari skor lama dapat menaikkan sebuah keputusan satu tingkat.

Pemantauan terhadap alat itu sendiri juga termasuk di sini. Lihat bias perekrutan AI untuk cara menguji hasil menurut kelompok.

Apa yang Perlu Didokumentasikan

Catatan adalah cara Anda membuktikan pengawasan terjadi, dan itulah yang akan diminta regulator, auditor, atau pengacara karyawan. Panduan regulator menyatakan pengendali data harus mengidentifikasi dan mencatat tingkat keterlibatan manusia dalam proses pengambilan keputusan serta pada tahap mana hal itu terjadi (WP251). Minimum yang dapat dijalankan:

• Keputusannya, tingkatnya, dan pemiliknya.
• Apa yang dihasilkan AI, versi mana yang menghasilkannya, dan apa yang dilihat peninjau.
• Keputusan peninjau, penalarannya jika ia mengesampingkan keluaran, dan waktu yang dibutuhkan.
• Setiap kontak dari orang yang terdampak, seperti permintaan peninjauan manusia atau penjelasan, beserta hasilnya.
• Log yang disimpan selama periode yang diwajibkan hukum Anda. Untuk sistem berisiko tinggi di UE, deployer menyimpan log yang dihasilkan otomatis setidaknya enam bulan kecuali hukum lain menentukan berbeda (Article 26).

Jejak audit AI yang terstruktur membuat ini jauh lebih mudah daripada merekonstruksi kejadian dari email.

Kesalahan Umum

• Menganggap satu klik sebagai pengawasan. Jika peninjau tidak dapat mengubah hasil, atau tidak pernah melakukannya, regulator dapat menganggap keputusan itu otomatis.
• Menyembunyikan alasan. Peninjau yang hanya melihat skor akan tunduk padanya.
• Membebani peninjau secara berlebihan. Antrean 200 item per hari menjamin persetujuan secara default.
• Menganggap pelatihan sebagai solusi. Riset menyatakan kesadaran saja tidak menghilangkan bias otomatisasi, jadi bangunlah struktur, bukan hanya kursus.
• Memakai tingkat override sebagai metrik kinerja yang merugikan peninjau. Jika orang dinilai buruk karena berbeda pendapat dengan alat, mereka akan berhenti.
• Mengabaikan tumpukan yang tidak pernah dibuka siapa pun. Penolakan yang tidak dibaca siapa pun adalah tempat kesalahan dan bias bersembunyi.