86% Ketua Eksekutif Meningkatkan Bajet AI — Tetapi Hanya 1 dalam 5 Memiliki Tata Kelola yang Mencukupi

Ada dua gambaran yang terjadi serentak di kebanyakan bilik lembaga korporat masa kini. Di satu skrin: bajet AI terus meningkat. Di skrin lain: papan pemuka tata kelola yang hampir kosong.

Angka-angka ini menceritakan kisahnya dengan jelas. Menurut data analis yang dikumpulkan oleh Joget, berdasarkan penyelidikan Gartner dan IDC yang tersedia untuk umum, 40% aplikasi perusahaan akan menggabungkan ejen AI khusus tugasan menjelang akhir 2026. Laporan Deloitte State of AI in the Enterprise mendapati bahawa 86% organisasi yang disurvei menjangka pelaburan AI mereka akan meningkat tahun ini, dengan 64% sudah menggunakan AI secara aktif dalam operasi. Itulah penerimaan sebenar pada skala sebenar.

Tetapi inilah bahagian yang sepatutnya ada dalam agenda lembaga pengarah anda yang seterusnya: hanya satu dalam lima syarikat memiliki kerangka tata kelola yang matang untuk mengawasi apa yang sebenarnya dilakukan oleh ejen autonomi tersebut. Jurang antara perbelanjaan dan pengawasan bukan masalah CTO. Ia adalah masalah akauntabiliti CEO, dan ia semakin melebar setiap suku tahun.

Mengapa Tata Kelola Ketinggalan di Belakang Penerimaan

Polanya sudah biasa. Kemampuan baru tiba yang menjanjikan peningkatan produktiviti yang boleh diukur. Pasukan perintis menunjukkan keputusan. Unit perniagaan mula membeli alat. IT ketinggalan. Dan pada masa seseorang bertanya "tapi siapa yang memantau apa yang dilakukan sistem ini?", ejen-ejen itu sudah pun menyentuh logik gaji, komunikasi pelanggan, dan ramalan pendapatan.

Ejen AI bukan sahaja mengautomatikkan tugas. Mereka mengambil tindakan autonomi. Itu adalah perbezaan yang bermakna. Bot penjadualan yang menghantar jemputan mesyuarat bukanlah binatang yang sama dengan ejen yang menyelesaikan bayaran balik pelanggan, mengemas kini rekod CRM, menyusun semula petunjuk, atau menyesuaikan logik harga berdasarkan isyarat masa nyata. Kelas ejen yang terakhir itu boleh mewujudkan akibat hiliran yang berganda sebelum sesiapa pun menyedarinya.

Syarikat telekomunikasi mendahului penerimaan agentic pada 48%, diikuti oleh runcit dan CPG pada 47%, menurut pengumpulan analis yang sama. Ini adalah sektor di mana kesilapan ejen bukan sekadar memalukan. Ia adalah peristiwa kawal selia.

Jurang tata kelola wujud bukan kerana syarikat tidak mengambil berat tentang risiko, tetapi kerana kerangka tata kelola untuk ejen autonomi memang baru. Kebanyakan fungsi risiko korporat membina panduan mereka berdasarkan perisian yang menunggu arahan manusia. Ejen tidak menunggu.

Perubahan Akauntabiliti Terletak pada CEO

Ada kecenderungan untuk merangka tata kelola AI sebagai fungsi IT atau undang-undang. Rangka kerja itu terlepas pandang risiko sebenar. Jurang tata kelola dalam AI di tempat kerja sudah pun muncul dalam operasi pendapatan dan aliran kerja yang berhadapan dengan pelanggan — bukan hanya dalam automasi back-office.

Apabila ejen AI mengambil tindakan yang membawa akibat (dan akhirnya ia akan mengambil satu tindakan yang salah), lembaga pengarah akan bertanya: "Adakah CEO tahu kawalan apa yang ada?" Bukan CTO. Bukan CRO. CEO.

Itu bukan andaian semata-mata. Insiden tata kelola yang berkaitan dengan sistem automatik sudah pun menghasilkan penelitian kawal selia dalam perkhidmatan kewangan dan penjagaan kesihatan. Apabila ejen AI berkembang ke dalam operasi pendapatan, perkhidmatan pelanggan, dan pengadaan, jejari letupan jurang tata kelola membesar secara berkadar.

80% syarikat tanpa pengawasan matang tidak mengambil risiko yang dikira. Mereka mengambil risiko yang tidak dikira.

Kerangka Tata Kelola 4 Langkah yang Perlu Dituntut CEO

Tidak ada satu pun daripada ini yang memerlukan penghentian penggunaan AI. Intinya adalah membina pengawasan seiring dengan penerimaan, bukan sebagai rem padanya. Berikut adalah struktur praktikal yang memetakan kepada cara kebanyakan perusahaan pasaran menengah diatur.

Langkah 1: Senaraikan apa yang sebenarnya sedang berjalan. Sebelum anda boleh mengawal ejen AI, anda perlu tahu apa yang telah digunakan. Kebanyakan CEO mendapati melalui latihan ini bahawa bilangan sebenar adalah 3-5 kali ganda lebih daripada yang diberitahu kepada mereka. Titik permulaan yang berguna adalah memahami perbezaan antara AI copilot dan ejen — kerana keperluan tata kelola berbeza ketara antara kedua-duanya. Pengadaan AI bayangan sama nyatanya dengan IT bayangan satu dekad lalu. CTO, CIO, dan ketua fungsional masing-masing memiliki sebahagian daripada gambaran ini. Jadikan ia hasil suku tahunan bersama.

Langkah 2: Klasifikasikan mengikut akibat. Tidak semua ejen membawa risiko yang sama. Kumpulkan mereka mengikut skop tindakan autonomi yang boleh mereka ambil. Ejen yang merangka e-mel keluar untuk semakan adalah akibat rendah. Ejen yang meluluskan perubahan harga secara sendiri atau menandakan petunjuk sebagai tidak layak tanpa semakan manusia adalah akibat tinggi. Overhead tata kelola anda harus berskala dengan klasifikasi tersebut.

Langkah 3: Tentukan sempadan keputusan secara eksplisit. Untuk mana-mana ejen berakibat tinggi, dokumentasikan apa yang boleh dan tidak boleh dilakukannya tanpa kelulusan manusia. Ini adalah "sampul autoriti" ejen. Kedengarannya asas, tetapi kebanyakan penggunaan tidak mempunyai ini secara bertulis. Itulah jurang yang akan diusik oleh pengawal selia terlebih dahulu.

Langkah 4: Wujudkan laluan laporan kepada lembaga pengarah. Tata kelola yang matang bermakna lembaga pengarah menerima ringkasan berkala tentang: ejen yang berjalan, klasifikasinya, insiden yang diketahui, dan pengecualian yang diberikan. Ini tidak perlu menjadi laporan yang panjang. Kemas kini satu halaman suku tahunan sudah mencukupi untuk menunjukkan bahawa pengawasan berfungsi.

Kes Produktiviti untuk Melakukan Ini dengan Betul

Ada baiknya mengakui apa yang ada di sisi lain persamaan ini. Syarikat yang menggunakan ejen dalam fungsi sokongan melaporkan penjimatan masa sebanyak 40 jam atau lebih sebulan untuk pasukan kecil, menurut kajian kes perusahaan yang disebutkan dalam penyelidikan. Kes produktiviti itu nyata.

Tetapi keuntungan produktiviti hanya bertahan jika struktur tata kelola di bawahnya kukuh. Ejen yang menjimatkan 40 jam sebulan dan kemudian mencetuskan insiden pematuhan pada bulan lapan bukan kemenangan produktiviti. Ia adalah liabiliti tertangguh. Mengukur ROI AI dengan betul bermakna mengambil kira risiko tersebut, bukan hanya melaporkan penjimatan masa.

CEO yang membina tata kelola sekarang dapat menangkap kedua-duanya: keuntungan kecekapan dan keyakinan yang datang dari mengetahui apa yang dilakukan oleh sistem AI mereka.

Apa yang Perlu Diletakkan dalam Agenda Lembaga Pengarah Seterusnya

Perbincangan lembaga pengarah tentang AI biasanya tersangkut dalam dua perangkap: sama ada ia adalah perbincangan "strategi AI" peringkat tinggi tanpa asas operasi, atau ia bertukar menjadi taklimat perolehan alat. Sudut RevOps tentang masalah yang sama — apa yang ejen AI sedang lakukan dalam aliran kerja pendapatan — patut dikaji bersama gambaran peringkat lembaga pengarah. Tidak satu pun yang berguna.

Apa yang sebenarnya perlu didengar oleh lembaga pengarah adalah lebih mudah:

• Berapa banyak ejen AI autonomi yang beroperasi dalam aliran kerja material?
• Apakah klasifikasi akibat bagi setiap satunya?
• Apakah sempadan keputusan untuk setiap ejen berakibat tinggi?
• Siapa yang memiliki fungsi tata kelola dan apakah laluan eskalasi mereka?
• Insiden apa yang telah berlaku, dan apakah penyelesaiannya?

Jika pasukan anda tidak dapat menjawab soalan-soalan ini dengan spesifik, itulah perkara yang perlu dilaporkan kepada lembaga pengarah, bukan peta jalan untuk memperbaikinya kemudian. Jurang antara perbelanjaan AI dan tata kelola AI ditutup apabila CEO memperlakukannya sebagai isu akauntabiliti peringkat lembaga pengarah, bukan tugas teknologi hiliran.

Lapan puluh enam peratus organisasi meningkatkan bajet AI. Mereka yang akan melihat ke belakang pada 2026 sebagai kelebihan daya saing — bukan insiden tata kelola — adalah mereka yang membina pengawasan pada kadar yang sama.

Data dalam artikel ini berdasarkan penyelidikan yang dikumpulkan oleh Joget daripada ringkasan awam Gartner dan IDC dan laporan Deloitte State of AI in the Enterprise.