AI at Work Insights
Jurang Tadbir Urus: Apa yang Pemimpin Silap Faham tentang AI di Tempat Kerja
Kebanyakan perbualan tadbir urus AI berlaku pada tahap yang salah. Lembaga mahukan dasar. Undang-undang mahukan proses semakan. Tetapi kegagalan tadbir urus yang sebenar dalam AI-di-tempat-kerja tidak berlaku di bilik lembaga. Ia berlaku apabila rep menampal sejarah tawaran pelanggan ke dalam ChatGPT, apabila pengurus menggunakan analisis prestasi yang dijana AI tanpa memberitahu orang yang sedang dinilai, dan apabila tidak ada yang memutuskan keputusan AI mana yang memerlukan seseorang untuk menandatangani.
Jurangnya bukan jurang dasar. Ia adalah jurang tingkah laku dan struktural. Dan syarikat yang membina sistem tadbir urus sebenar telah memahami sesuatu yang tidak difahami oleh pihak yang mengutamakan dasar: anda tidak boleh mengawal tingkah laku yang anda buat-buat tidak berlaku.
Tiga Kegagalan yang Sudah Berlaku di Syarikat Anda
Kegagalan 1: Kebocoran data melalui alat AI pengguna. Masalah paling biasa dan paling kurang dibincangkan. Pekerja menggunakan ChatGPT, Claude, Gemini, dan sedozen alat AI gred pengguna yang lain untuk melakukan kerja mereka. Sesetengahnya adalah produktiviti yang tidak berbahaya. Sesetengahnya melibatkan penampal data pelanggan, unjuran kewangan dalaman, terma kontrak, atau maklumat pekerja ke dalam alat yang dasar pengendalian dan pengekalan datanya diatur oleh terma perkhidmatan pengguna, bukan perjanjian data enterprise. Work Trend Index Microsoft 2024 mendapati bahawa 78% pengguna AI di tempat kerja membawa alat AI mereka sendiri — alat yang tidak pernah diluluskan atau dinilai oleh syarikat untuk risiko data.
Rep yang menampal tiga tahun sejarah tawaran pelanggan ke dalam ChatGPT untuk mendapatkan strategi perundingan bukanlah tidak berhati-hati dengan sengaja. Mereka menyelesaikan masalah sebenar dengan alat yang paling mudah tersedia. Kegagalannya adalah struktural: syarikat tidak pernah memberitahu mereka apa yang boleh diterima, tidak pernah menyediakan alternatif yang diluluskan, dan tidak pernah mencipta alasan untuk berfikir dua kali.
Salesforce Einstein dan HubSpot AI beroperasi di bawah perjanjian data enterprise yang tidak diketahui oleh kebanyakan pekerja. Perbezaan antara "ciri AI dalam CRM yang dikontrakkan" dan "alat AI dalam tab penyemak imbas pengguna" adalah nyata, tetapi ia tidak kelihatan kepada orang yang melakukan kerja kecuali seseorang membuatnya kelihatan.
Kegagalan 2: Kekeliruan autoriti antara output AI dan keputusan AI. Ini yang mencipta masalah hiliran yang paling mahal. Output AI adalah maklumat. Keputusan AI adalah tindakan yang diambil atau cadangan yang diterima tanpa semakan bebas. Kebanyakan organisasi belum menentukan keputusan mana yang memerlukan pertimbangan manusia, mana yang boleh dipercepat oleh output AI, dan mana yang boleh dibuat secara autonomi oleh AI dalam parameter yang ditakrifkan.
Apabila pengurus menggunakan skor prestasi yang dijana AI daripada alat produktiviti untuk membuat keputusan pampasan atau kenaikan pangkat tanpa mendedahkan bahawa AI menyumbang kepada penilaian, itu bukan sahaja jurang dasar. Ia adalah pendedahan undang-undang pekerjaan yang berpotensi dalam beberapa bidang kuasa dan masalah kepercayaan dengan pasukan anda apabila ia terdedah.
Kegagalan 3: Masalah penggunaan yang tidak kelihatan. Pasukan kepimpinan secara konsisten meremehkan betapa luasnya AI sudah tertanam dalam workflow harian. Dalam kebanyakan syarikat, pada masa perbincangan dasar AI formal berlaku di peringkat eksekutif, 40–60% pekerja sudah menggunakan alat AI setiap hari, ramai daripada mereka alat yang tidak diluluskan atau bahkan tidak dikatalog oleh syarikat.
Ini mencipta ikatan tadbir urus: anda tidak boleh membina pagar pelindung yang berkesan di sekitar tingkah laku yang tidak anda ketahui wujudnya. Dan dasar yang tiba selepas fakta, melarang atau menyekat alat yang telah dibina orang ke dalam workflow mereka, mencipta kebencian bukannya pematuhan.
Mengapa Dasar AI Gagal
Respons organisasi standard kepada cabaran tadbir urus AI adalah dengan menulis dasar. Dasar mendapat semakan undang-undang, diluluskan oleh pasukan eksekutif, disiarkan ke intranet, dan kemudian tidak memberi kesan yang boleh diukur terhadap tingkah laku.
Dasar gagal kerana ia menerangkan tingkah laku yang boleh diterima dan tidak boleh diterima dalam istilah abstrak tetapi tidak mengubah keadaan yang menghasilkan tingkah laku tersebut. Dasar yang mengatakan "jangan tampal data pelanggan ke dalam alat AI luaran" tidak menyelesaikan masalah jika tiada alat AI dalaman yang diluluskan untuk tugas yang cuba diselesaikan oleh pekerja.
Sistem tadbir urus berbeza daripada dokumen dasar dalam empat cara:
Ia menyediakan alternatif yang diluluskan, bukan hanya larangan. Jika menampal data pelanggan ke dalam ChatGPT dilarang, perlu ada cara yang diluluskan untuk menyelesaikan tugas yang mendasari.
Ia mentakrifkan hak keputusan secara eksplisit. Siapa yang boleh meluluskan alat AI baru untuk kegunaan pasukan? Siapa yang memutuskan keputusan AI mana yang memerlukan semakan manusia? Siapa yang memiliki fungsi tadbir urus AI?
Ia mencipta akauntabiliti ringan tanpa birokrasi. Sistem tadbir urus yang baik mempunyai cara untuk menanda kebimbangan dan melaporkan situasi yang samar-samar tanpa memerlukan laporan insiden formal.
Ia berkembang seiring dengan perkembangan alat. Dokumen tadbir urus AI dari 18 bulan lalu hampir pasti tidak meliputi keupayaan yang kini wujud dalam alat yang digunakan oleh pasukan anda.
Soalan Manusia-dalam-Gelung
Soalan tadbir urus yang paling kompleks secara teknikal bukan tentang data. Ia tentang autoriti keputusan: keputusan AI mana yang memerlukan manusia untuk menyemak, meluluskan, atau mengatasi?
Jawapan jujur bergantung pada taruhan dan kebolehan reversibel. Keputusan yang berisiko tinggi dan tidak dapat dipulihkan harus sentiasa mempunyai manusia dalam gelung. Menolak permohonan kredit secara automatik, menamatkan kontrak pelanggan, menghantar kempen outreach berskala besar, memecat pekerja berdasarkan data produktiviti yang dijana AI: semua ini memerlukan semakan manusia sebelum tindakan, bukan selepasnya.
Untuk AI yang tertanam dalam CRM khususnya (pemarkahan tawaran Salesforce Einstein, ciri kenalan ramalan HubSpot, cadangan pipeline Zoho Zia), soalan tadbir urus adalah: adakah pemimpin jualan anda memperlakukan output ini sebagai titik data atau keputusan? Jawapannya harus sentiasa "titik data," tetapi jawapan dalam amalan bergantung pada sama ada perbezaan itu telah dibuat eksplisit kepada orang yang menggunakan alat setiap hari.
Lapisan Tadbir Urus Minimum yang Berdaya Maju
Syarikat SaaS 200 orang tidak memerlukan jawatankuasa tadbir urus, lembaga semakan etika, atau pegawai dasar AI yang berdedikasi. Yang diperlukannya adalah satu set perjanjian operasi, pemilik yang jelas, dan struktur akauntabiliti yang ringan.
Daftar alat AI. Senarai mudah alat AI yang diluluskan, kes penggunaan yang diluluskan, dan tahap pengendalian data mereka (boleh mengendalikan data pelanggan / tidak boleh mengendalikan data pelanggan / memerlukan kelulusan kes demi kes). Ini mengambil kira-kira dua jam untuk dibina dan mengurangkan masalah penggunaan yang tidak kelihatan dengan ketara.
Pemetaan hak keputusan. Satu halaman yang menjawab: output AI mana yang memerlukan semakan manusia sebelum tindakan? Siapa yang meluluskan alat AI baru untuk kegunaan pasukan? Siapa yang memiliki proses tadbir urus? Dapatkan nama khusus, bukan hanya peranan.
Norma pendedahan. Perjanjian bahawa apabila AI menyumbang secara bermakna kepada keputusan (cadangan pengambilan, penilaian prestasi, cadangan besar), sumbangan tersebut didedahkan. Bukan kerana ia membatalkan keputusan, tetapi kerana ia mengubah cara penerima boleh menilainya. Ini adalah perjanjian tingkah laku, bukan dokumen dasar, dan ia harus dimodelkan oleh kepimpinan terlebih dahulu.
Laluan eskalasi yang ringan. Satu orang (biasanya pemimpin operasi atau orang) yang merupakan titik hubungan yang ditetapkan untuk soalan tadbir urus AI. Bukan jawatankuasa formal. Hanya seseorang dengan autoriti untuk membuat keputusan apabila sesuatu yang samar-samar timbul.
Kad Skor Kesediaan Tadbir Urus AI
Nilai organisasi anda 1–5 pada setiap dimensi operasi ini:
Kejelasan pengendalian data (1–5). Adakah pekerja tahu kategori data mana yang boleh digunakan dengan alat AI luaran?
Akauntabiliti keputusan (1–5). Adakah anda telah memetakan keputusan berbantu AI mana yang memerlukan semakan manusia?
Kesedaran pekerja (1–5). Adakah pekerja tahu apa norma tadbir urus AI itu? Adakah mereka dilatih, bukan hanya diberitahu?
Reka bentuk override (1–5). Adakah mudah bagi pekerja untuk mencabar atau mengatasi output AI?
Jejak audit (1–5). Bolehkah anda membina semula alat AI mana yang digunakan dalam keputusan jika perlu?
Skor 20–25 menunjukkan asas tadbir urus yang matang. 10–15 menunjukkan jurang yang paling berkemungkinan menyebabkan masalah material dalam 12 bulan akan datang. Di bawah 10 bermakna masalah penggunaan yang tidak kelihatan hampir pasti lebih besar daripada yang dipercayai oleh kepimpinan.
Agenda Bengkel 90 Minit
Jika anda ingin menghasilkan perjanjian operasi tadbir urus AI yang sebenar dengan pasukan kepimpinan anda dan bukannya dokumen dasar lain, berikut adalah struktur bengkel yang berfungsi:
Minit 0–20: Tampilkan penggunaan sebenar. Mulakan dengan apa yang sedang berlaku, bukan apa yang patut berlaku. Setiap pemimpin berkongsi dua alat AI yang digunakan oleh pasukan mereka dan untuk apa. Tanpa penghakiman, hanya pemetaan.
Minit 20–40: Petakan taruhan. Kerjakan soalan hak keputusan. Keputusan AI mana dalam organisasi anda yang berisiko tinggi dan tidak dapat dipulihkan?
Minit 40–60: Bina daftar alat. Sebagai kumpulan, klasifikasikan alat yang timbul dalam segmen pertama: diluluskan, perlu semakan, tidak diluluskan. Tugaskan tahap data.
Minit 60–80: Tugaskan hak keputusan. Siapa yang memiliki fungsi tadbir urus? Siapa yang meluluskan alat baru? Siapa yang mengendalikan eskalasi? Dapatkan nama khusus, bukan hanya peranan.
Minit 80–90: Takrifkan norma pendedahan. Bersetuju tentang bila sumbangan AI kepada keputusan perlu didedahkan dan kepada siapa.
Outputnya adalah perjanjian operasi satu halaman, bukan dokumen dasar 20 halaman. Itulah perbezaan antara tadbir urus sebagai teater dan tadbir urus sebagai sistem.
