Jurang Tadbir Urus: Apa yang Pemimpin Silap Faham tentang AI di Tempat Kerja

Kebanyakan perbualan tadbir urus AI berlaku pada tahap yang salah. Lembaga mahukan dasar. Undang-undang mahukan proses semakan. Tetapi kegagalan tadbir urus yang sebenar dalam AI-di-tempat-kerja tidak berlaku di bilik lembaga. Ia berlaku apabila rep menampal sejarah tawaran pelanggan ke dalam ChatGPT, apabila pengurus menggunakan analisis prestasi yang dijana AI tanpa memberitahu orang yang sedang dinilai, dan apabila tidak ada yang memutuskan keputusan AI mana yang memerlukan seseorang untuk menandatangani.

Jurangnya bukan jurang dasar. Ia adalah jurang tingkah laku dan struktural. Dan syarikat yang membina sistem tadbir urus sebenar telah memahami sesuatu yang tidak difahami oleh pihak yang mengutamakan dasar: anda tidak boleh mengawal tingkah laku yang anda buat-buat tidak berlaku.

Tiga Kegagalan yang Sudah Berlaku di Syarikat Anda

Sebelum membina sebarang struktur tadbir urus, adalah berguna untuk bersikap jujur tentang kegagalan yang sudah pun berlaku. Dalam syarikat yang belum menangani tadbir urus AI secara eksplisit, ketiga-tiga ini hampir sentiasa muncul.

Kegagalan 1: Kebocoran data melalui alat AI pengguna. Masalah paling biasa dan paling kurang dibincangkan. Pekerja menggunakan ChatGPT, Claude, Gemini, dan sedozen alat AI gred pengguna yang lain untuk melakukan kerja mereka. Sesetengahnya adalah produktiviti yang tidak berbahaya. Sesetengahnya melibatkan penampal data pelanggan, unjuran kewangan dalaman, terma kontrak, atau maklumat pekerja ke dalam alat yang dasar pengendalian dan pengekalan datanya diatur oleh terma perkhidmatan pengguna, bukan perjanjian data enterprise. Work Trend Index Microsoft 2024 mendapati bahawa 78% pengguna AI di tempat kerja membawa alat AI mereka sendiri, alat yang tidak pernah diluluskan atau dinilai oleh syarikat untuk risiko data.

Rep yang menampal tiga tahun sejarah tawaran pelanggan ke dalam ChatGPT untuk mendapatkan strategi perundingan bukanlah tidak berhati-hati dengan sengaja. Mereka menyelesaikan masalah sebenar dengan alat yang paling mudah tersedia. Kegagalannya adalah struktural: syarikat tidak pernah memberitahu mereka apa yang boleh diterima, tidak pernah menyediakan alternatif yang diluluskan, dan tidak pernah mencipta alasan untuk berfikir dua kali. Risikonya melangkaui reputasi, etika AI dan privasi data menerangkan sebab alat gred pengguna mewujudkan pendedahan undang-undang yang nyata apabila digunakan dengan data pelanggan enterprise.

Salesforce Einstein dan HubSpot AI beroperasi di bawah perjanjian data enterprise yang tidak diketahui oleh kebanyakan pekerja. Perbezaan antara "ciri AI dalam CRM yang dikontrakkan" dan "alat AI dalam tab penyemak imbas pengguna" adalah nyata, tetapi ia tidak kelihatan kepada orang yang melakukan kerja kecuali seseorang membuatnya kelihatan.

Kegagalan 2: Kekeliruan autoriti antara output AI dan keputusan AI. Ini yang mencipta masalah hiliran yang paling mahal. Output AI adalah maklumat. Keputusan AI adalah tindakan yang diambil atau cadangan yang diterima tanpa semakan bebas. Kebanyakan organisasi belum menentukan keputusan mana yang memerlukan pertimbangan manusia, mana yang boleh dipercepat oleh output AI, dan mana yang boleh dibuat secara autonomi oleh AI dalam parameter yang ditakrifkan.

Apabila pengurus menggunakan skor prestasi yang dijana AI daripada alat produktiviti untuk membuat keputusan pampasan atau kenaikan pangkat tanpa mendedahkan bahawa AI menyumbang kepada penilaian, itu bukan sahaja jurang dasar. Ia adalah pendedahan undang-undang pekerjaan yang berpotensi dalam beberapa bidang kuasa dan masalah kepercayaan dengan pasukan anda apabila ia terdedah. Penyelidikan Stanford HAI mengenai AI di tempat kerja mendokumenkan jurang yang semakin melebar antara betapa pantasnya pekerja menerima alat AI dengan betapa perlahannya organisasi mewujudkan rangka kerja tadbir urus untuk mengurus penerimaan itu. Peraturan seperti EU AI Act sudah pun mengenakan keperluan pendedahan dan audit ke atas keputusan AI berisiko tinggi seperti ini, implikasi strategi CEO terhadap EU AI Act wajar disemak sebelum kitaran prestasi anda yang seterusnya. Dan ia pasti akan terdedah.

Masalah kekeliruan autoriti ini diburukkan lagi oleh cara ciri AI ditanam dalam alat sedia ada. HubSpot AI boleh menilai kesediaan prospek tanpa rep menyedari skor itu dijana AI. Apabila rep bertindak berdasarkan skor tersebut seolah-olah ia fakta, mereka telah menyerahkan sesuatu pertimbangan kepada model yang tidak pernah mereka nilai. Itu keputusan, bukan sekadar bantuan.

Kegagalan 3: Masalah penggunaan yang tidak kelihatan. Pasukan kepimpinan secara konsisten meremehkan betapa luasnya AI sudah tertanam dalam workflow harian. Dalam kebanyakan syarikat, pada masa perbincangan dasar AI formal berlaku di peringkat eksekutif, 40–60% pekerja sudah menggunakan alat AI setiap hari, ramai daripada mereka alat yang tidak diluluskan atau bahkan tidak dikatalog oleh syarikat.

Ini mewujudkan dilema tadbir urus: anda tidak boleh membina pagar pelindung yang berkesan di sekitar tingkah laku yang tidak anda ketahui wujudnya. Dan dasar yang tiba selepas fakta, melarang atau menyekat alat yang telah dibina orang ke dalam workflow mereka, mencipta kebencian bukannya pematuhan.

Versi produktif bagi audit penggunaan yang tidak kelihatan bukanlah ancaman. Ia ialah tinjauan dan perbualan. "Alat AI apa yang anda gunakan, untuk apa anda menggunakannya, dan apa yang anda perlukan daripada syarikat untuk berasa yakin menggunakannya dengan sewajarnya?" Perbualan itu menghasilkan peta sebenar bagi cabaran tadbir urus anda.

Mengapa Dasar AI Gagal

Respons organisasi standard kepada cabaran tadbir urus AI adalah dengan menulis dasar. Dasar mendapat semakan undang-undang, diluluskan oleh pasukan eksekutif, disiarkan ke intranet, dan kemudian tidak memberi kesan yang boleh diukur terhadap tingkah laku.

Dasar gagal kerana ia menerangkan tingkah laku yang boleh diterima dan tidak boleh diterima dalam istilah abstrak tetapi tidak mengubah keadaan yang menghasilkan tingkah laku tersebut. Dasar yang mengatakan "jangan tampal data pelanggan ke dalam alat AI luaran" tidak menyelesaikan masalah jika tiada alat AI dalaman yang diluluskan untuk tugas yang cuba diselesaikan oleh pekerja. Pekerja akan tetap menampal data itu, cuma kini dengan peluang yang sedikit lebih rendah untuk melakukannya di hadapan pengurus.

Sistem tadbir urus berbeza daripada dokumen dasar dalam empat cara:

Ia menyediakan alternatif yang diluluskan, bukan hanya larangan. Jika menampal data pelanggan ke dalam ChatGPT dilarang, perlu ada cara yang diluluskan untuk menyelesaikan tugas yang mendasari. Jika tidak, larangan itu hanya menambah geseran, bukan menyelesaikan masalah.

Ia mentakrifkan hak keputusan secara eksplisit. Siapa yang boleh meluluskan alat AI baru untuk kegunaan pasukan? Siapa yang memutuskan keputusan AI mana yang memerlukan semakan manusia? Siapa yang memiliki fungsi tadbir urus AI? Tanpa hak keputusan yang jelas, tadbir urus hanyalah nasihat.

Ia mencipta akauntabiliti ringan tanpa birokrasi. Sistem tadbir urus yang baik mempunyai cara untuk menanda kebimbangan dan melaporkan situasi yang samar-samar tanpa memerlukan laporan insiden formal. Saluran Slack yang dipantau oleh orang yang ditetapkan lebih berkesan daripada portal pematuhan.

Ia berkembang seiring dengan perkembangan alat. Dokumen tadbir urus AI dari 18 bulan lalu hampir pasti tidak meliputi keupayaan yang kini wujud dalam alat yang digunakan oleh pasukan anda. Semakan suku tahunan ialah kadar minimum.

Soalan Manusia-dalam-Gelung

Soalan tadbir urus yang paling kompleks secara teknikal bukan tentang data. Ia tentang autoriti keputusan: keputusan AI mana yang memerlukan manusia untuk menyemak, meluluskan, atau mengatasi?

Jawapan jujur bergantung pada taruhan dan kebolehbalikan. Sesuatu keputusan berisiko tinggi jika kesilapan menyebabkan kemudaratan material: kerugian kewangan, pendedahan undang-undang, kerosakan hubungan, kesan keselamatan. Sesuatu keputusan tidak boleh dipulihkan jika membetulkannya selepas kejadian adalah mahal atau mustahil.

Keputusan yang berisiko tinggi dan tidak dapat dipulihkan harus sentiasa mempunyai manusia dalam gelung. Menolak permohonan kredit secara automatik, menamatkan kontrak pelanggan, menghantar kempen outreach berskala besar, memecat pekerja berdasarkan data produktiviti yang dijana AI: semua ini memerlukan semakan manusia sebelum tindakan, bukan selepasnya. Panduan Anthropic mengenai penggunaan AI yang bertanggungjawab menggariskan ini sebagai prinsip teras: sistem AI yang beroperasi dalam domain berisiko tinggi memerlukan seni bina pengawasan manusia yang setimpal dengan keterukan ralat yang mungkin berlaku.

Tetapi di sinilah kebanyakan rangka kerja tadbir urus gagal: ia mentakrifkan keperluan semakan manusia tanpa menjadikan semakan itu mudah dilakukan. Jika menyemak satu cadangan AI mengambil masa 15 minit dan memerlukan navigasi tiga sistem, orang akan melangkau semakan dan sekadar meluluskan output. Reka bentuk tadbir urus yang berkesan menjadikan override oleh manusia sebagai laluan paling mudah, bukan lencongan birokratik.

Untuk AI yang tertanam dalam CRM khususnya (pemarkahan tawaran Salesforce Einstein, ciri kenalan ramalan HubSpot, cadangan pipeline Zoho Zia), soalan tadbir urus adalah: adakah pemimpin jualan anda memperlakukan output ini sebagai titik data atau keputusan? Membina budaya kebersihan pipeline di mana rep dan pengurus melayan output model dengan sikap skeptikal ialah asas tingkah laku yang menjadikan lapisan tadbir urus benar-benar berfungsi. Jawapannya harus sentiasa "titik data," tetapi jawapan dalam amalan bergantung pada sama ada perbezaan itu telah dibuat eksplisit kepada orang yang menggunakan alat setiap hari.

Lapisan Tadbir Urus Minimum yang Berdaya Maju

Syarikat SaaS 200 orang tidak memerlukan jawatankuasa tadbir urus, lembaga semakan etika, atau pegawai dasar AI yang berdedikasi. Yang diperlukannya adalah satu set perjanjian operasi, pemilik yang jelas, dan struktur akauntabiliti yang ringan.

Berikut rupa sebenarnya:

Daftar alat AI. Senarai mudah alat AI yang diluluskan, kes penggunaan yang diluluskan, dan tahap pengendalian data mereka (boleh mengendalikan data pelanggan / tidak boleh mengendalikan data pelanggan / memerlukan kelulusan kes demi kes). Ini mengambil kira-kira dua jam untuk dibina dan mengurangkan masalah penggunaan yang tidak kelihatan dengan ketara. Apabila pekerja tahu alat mana yang diluluskan dan untuk tujuan apa, mereka membuat keputusan yang lebih baik. Rujukan keselamatan dan pematuhan AI berguna sebagai input semasa mengklasifikasikan alat mengikut tahap data; ia menerangkan soalan yang perlu ditanya kepada vendor tentang residensi dan pengekalan data sebelum menambah alat ke dalam daftar anda.

Pemetaan hak keputusan. Satu halaman yang menjawab: output AI mana yang memerlukan semakan manusia sebelum tindakan? Siapa yang meluluskan alat AI baru untuk kegunaan pasukan? Siapa yang memiliki proses tadbir urus? Ini tidak perlu menyeluruh pada hari pertama. Ia perlu cukup spesifik supaya situasi samar-samar yang paling biasa dapat diselesaikan tanpa eskalasi.

Norma pendedahan. Perjanjian bahawa apabila AI menyumbang secara bermakna kepada keputusan (cadangan pengambilan, penilaian prestasi, cadangan besar), sumbangan tersebut didedahkan. Bukan kerana ia membatalkan keputusan, tetapi kerana ia mengubah cara penerima boleh menilainya. Ini adalah perjanjian tingkah laku, bukan dokumen dasar, dan ia harus dimodelkan oleh kepimpinan terlebih dahulu.

Laluan eskalasi yang ringan. Satu orang (biasanya pemimpin operasi atau pemimpin people) yang merupakan titik hubungan yang ditetapkan untuk soalan tadbir urus AI. Bukan jawatankuasa formal. Hanya seseorang dengan autoriti untuk membuat keputusan apabila sesuatu yang samar-samar timbul, dan jangkaan bahawa mereka akan melakukannya dengan cepat.

Kad Skor Kesediaan Tadbir Urus AI

Nilai organisasi anda 1–5 pada setiap daripada lima dimensi operasi ini untuk mengenal pasti di mana jurang tadbir urus paling besar:

Kejelasan pengendalian data (1–5). Adakah pekerja tahu kategori data mana yang boleh digunakan dengan alat AI luaran? Adakah terdapat senarai alat yang diluluskan beserta tahap datanya yang didokumenkan?

Akauntabiliti keputusan (1–5). Adakah anda telah memetakan keputusan berbantu AI mana yang memerlukan semakan manusia? Adakah hak keputusan didokumenkan dan diketahui oleh orang yang membuat keputusan tersebut?

Kesedaran pekerja (1–5). Adakah pekerja tahu apa norma tadbir urus AI itu? Adakah mereka dilatih, bukan hanya diberitahu?

Reka bentuk override (1–5). Adakah mudah bagi pekerja untuk mencabar atau mengatasi output AI? Adakah workflow menjadikan semakan sebagai lalai, bukan pengecualian?

Jejak audit (1–5). Bolehkah anda membina semula alat AI mana yang digunakan dalam keputusan jika perlu? Adakah pencatatan cukup untuk menangani siasatan pematuhan?

Skor 20–25 menunjukkan asas tadbir urus yang matang. 10–15 menunjukkan jurang yang paling berkemungkinan menyebabkan masalah material dalam 12 bulan akan datang. Di bawah 10 bermakna masalah penggunaan yang tidak kelihatan hampir pasti lebih besar daripada yang dipercayai oleh kepimpinan.

Agenda Bengkel 90 Minit

Jika anda ingin menghasilkan perjanjian operasi tadbir urus AI yang sebenar dengan pasukan kepimpinan anda dan bukannya dokumen dasar lain, berikut adalah struktur bengkel yang berfungsi:

Minit 0–20: Tampilkan penggunaan sebenar. Mulakan dengan apa yang sedang berlaku, bukan apa yang patut berlaku. Setiap pemimpin berkongsi dua alat AI yang digunakan oleh pasukan mereka dan untuk apa. Tanpa penghakiman, hanya pemetaan. Inilah audit penggunaan yang tidak kelihatan dalam tindakan.

Minit 20–40: Petakan taruhan. Kerjakan soalan hak keputusan. Keputusan AI mana dalam organisasi anda yang berisiko tinggi dan tidak dapat dipulihkan? Gunakan rangka kerja taruhan/kebolehbalikan untuk mengkategorikannya. Perbualan ini menghasilkan keperluan manusia-dalam-gelung tanpa memerlukan perunding tadbir urus.

Minit 40–60: Bina daftar alat. Sebagai kumpulan, klasifikasikan alat yang timbul dalam segmen pertama: diluluskan, perlu semakan, tidak diluluskan. Tugaskan tahap data. Ini mengambil masa lebih daripada 20 minit jika senarainya panjang, tetapi hasilnya (daftar yang sebenar) berbaloi dengan masa itu.

Minit 60–80: Tugaskan hak keputusan. Siapa yang memiliki fungsi tadbir urus? Siapa yang meluluskan alat baru? Siapa yang mengendalikan eskalasi? Dapatkan nama khusus, bukan hanya peranan. Perjanjian yang disertakan nama akan diikuti.

Minit 80–90: Takrifkan norma pendedahan. Bersetuju tentang bila sumbangan AI kepada keputusan perlu didedahkan dan kepada siapa. Ini sering menjadi 10 minit paling berguna dalam bengkel kerana ia memaksa pasukan kepimpinan bersikap eksplisit tentang sesuatu yang selama ini berubah-ubah secara tersirat.

Outputnya adalah perjanjian operasi satu halaman, bukan dokumen dasar 20 halaman. Ia menjawab soalan yang benar-benar dihadapi pekerja. Dan kerana ia dibina melalui perbualan dan bukannya dirangka oleh pihak undang-undang, ia mencerminkan realiti operasi sebenar tentang cara AI digunakan.

Itulah perbezaan antara tadbir urus sebagai teater dan tadbir urus sebagai sistem.

Ketahui Lebih Lanjut

• AI Agents dalam Sales Pipeline: Hype, Realiti, dan Apa yang Sebenarnya Berkesan
• AI Copilots vs. AI Agents: Memahami Perbezaannya Penting
• Mengukur ROI AI Melebihi 'Masa yang Dijimat'