Kepercayaan Apabila Rakan Sepasukan Anda Ialah AI

Oleh Victor Hoang · Dikemas kini 26 Ogos 2026

Mempercayai rakan sepasukan AI bermakna menyelaraskan tahap pergantungan anda pada outputnya dengan bukti tentang betapa boleh dipercayainya ia sebenarnya bagi sesuatu tugas, bukan dengan betapa yakin bunyinya. Itu kemahiran yang berbeza daripada mempercayai rakan sekerja, kerana AI tidak berniat menipu dan tiada kerjaya yang dipertaruhkan jika ia silap, yang menghilangkan dua isyarat yang biasanya digunakan orang untuk menentukan siapa yang patut dipercayai.

Kebanyakan nasihat tentang "mempercayai AI" terus melompat kepada dasar: tulis garis panduan penggunaan, tambah peraturan pendedahan, selesai. Itu perlu tetapi bukan bahagian yang sukar. Kepercayaan dengan rakan sepasukan manusia dan dengan rakan sepasukan AI berjalan atas mekanik yang hampir sepenuhnya berbeza, dan pasukan yang terlepas pandang perbezaan itu berakhir tersekat dalam salah satu daripada dua mod kegagalan yang mahal: diam-diam mengerjakan semula segala yang disentuh AI, atau meluluskan secara membuta tuli output yang ternyata salah dengan penuh keyakinan. Artikel ini membincangkan mengapa mekaniknya berbeza, kedua-dua mod kegagalan beserta kajian di belakangnya, rupa kepercayaan terkalibrasi dalam praktik, apa yang sebenarnya membinanya, dan norma pasukan yang menjadikannya tahan lama.

Mengapa Mempercayai AI Ialah Masalah Berbeza daripada Mempercayai Seseorang

Kepercayaan manusia dibina atas asas yang mudah dan telah dikaji dengan baik: anda memerhatikan kebolehan seseorang, integritinya, dan sama ada dia kelihatan mengambil berat tentang kepentingan anda (kebajikan), merentas cukup banyak situasi sehingga satu corak muncul. Kami membincangkan model itu secara mendalam dalam cara membina kepercayaan di tempat kerja. Mekanisme itu berfungsi kerana seseorang manusia mempunyai niat: dia boleh memilih untuk menipu anda, dan kemungkinan tertangkap, kos kepada reputasi, sebahagian daripada apa yang menjaga kejujuran kebanyakan orang.

Sistem AI tidak mempunyai kedua-dua bahagian mekanisme itu. Ia tidak berniat menyesatkan anda apabila ia silap, dan ia tiada reputasi untuk dilindungi, tiada kerjaya yang dipertaruhkan. Itu bukan kegagalan moral, ia sekadar jenis sistem yang berbeza, tetapi ia bermakna jalan pintas yang biasa digunakan orang untuk menentukan siapa yang patut dipercayai (adakah orang ini berniat baik, adakah dia kehilangan sesuatu jika tidak menyampaikan hasil) tidak terpakai langsung. Anda dibiarkan menilai sesuatu yang lebih hampir dengan alat pengukur daripada rakan sekerja: betapa tepatnya ia, dalam keadaan apa, dan bagaimana anda tahu bila ia sudah menyimpang.

Yakin dan Salah Kelihatan Serupa dengan Yakin dan Betul

Masalah yang lebih tajam ialah cara penyampaian. Orang yang tidak pasti tentang jawapannya biasanya menunjukkannya melalui kata-kata berlapik, nada atau bahasa badan. Model bahasa besar menghasilkan petikan rujukan rekaan, nombor yang salah atau petikan ciptaan dalam daftar yang sama lancar dan meyakinkan seperti yang betul. Ini mekanik teras di sebalik halusinasi AI: sistem itu tidak berbohong, ia menjana teks yang munasabah, dan munasabah serta benar bukan ciri yang sama. Tiada apa-apa tentang betapa yakin bunyi output itu yang memberitahu anda yang mana satu yang anda lihat.

Satu fakta itulah sebabnya kepercayaan terhadap AI tidak boleh sekadar melanjutkan kepercayaan terhadap manusia. Anda memerlukan isyarat luaran, bukti daripada ujian, rekod prestasi pada tugas tertentu, sumber yang boleh anda semak, kerana isyarat dalaman yang dibaca manusia secara naluri sebagai keyakinan telah dipisahkan daripada kebolehpercayaan sebenar.

Dua Mod Kegagalan: Kurang Percaya dan Terlalu Percaya

Pasukan tanpa pendekatan yang disengajakan tidak mendarat di tengah-tengah. Mereka terumbang-ambing ke salah satu daripada dua ekstrem, dan kedua-duanya mahal dengan cara berbeza.

Kurang Percaya: Mengerjakan Semula Kerja Ejen dengan Tangan

Kurang percaya kelihatan bertanggungjawab di permukaan. Pengurus menyemak setiap baris yang dihasilkan ejen dengan ketelitian yang sama seperti jika dia langsung tidak mempercayai sistem itu, pada hakikatnya melakukan kerja dua kali. Itu menghapuskan keuntungan produktiviti yang sepatutnya disampaikan AI. Jika menyemak draf mengambil masa selama menulisnya dari awal, organisasi telah menambah alat tanpa mengubah outputnya, dan sesiapa yang melakukan semakan berganda itu akhirnya letih atau diam-diam berhenti, yang sekadar melewatkan masalah terlalu percaya dan bukannya menyelesaikannya.

Kurang percaya paling ketara dalam pasukan yang pernah mengalami satu pengalaman buruk awal dengan alat AI dan tidak pernah menilainya semula. Satu fakta halusinasi yang memalukan dalam dek pelanggan boleh membekukan kesediaan pasukan bergantung pada output AI selama setahun, walaupun alat itu sudah bertambah baik.

Terlalu Percaya: Bias Automasi dan Kos Melangkau Semakan

Terlalu percaya, atau bias automasi, ialah kecenderungan memberi berat lebih kepada output sistem automatik daripada yang disokong bukti, dan berhenti mengesahkan sebaik sahaja sistem itu betul beberapa kali. Ia salah satu mod kegagalan yang paling terdokumen dalam penyelidikan manusia-automasi, merentasi beberapa dekad kajian penerbangan dan keselamatan, dan ia bertambah buruk, bukan baik, apabila sistem AI bertambah baik, kerana sistem yang betul 95% daripada masa cukup meyakinkan untuk membuat orang berhenti menyemak 5% yang lain.

Kajian 2023 dalam jurnal Radiology meletakkan angka pada betapa teruknya ini boleh jadi. Penyelidik meminta 27 pakar radiologi membaca 50 mamogram, sebahagiannya dipasangkan dengan cadangan klasifikasi BI-RADS daripada sistem AI. Apabila cadangan AI salah, ketepatan pakar radiologi yang kurang berpengalaman jatuh daripada kira-kira 80% kepada bawah 20%. Pakar radiologi dengan pengalaman lebih 15 tahun juga tidak terkecuali: ketepatan mereka jatuh daripada 82% kepada 45.5%. Pengalaman mengurangkan kerosakan. Ia tidak menghampiri menghapuskannya.

Itu persekitaran klinikal, tetapi mekanismenya muncul juga dalam kerja pengetahuan biasa, dengan nama berpertaruhan lebih rendah: workslop. Tinjauan September 2025 terhadap 1,150 pekerja sepenuh masa AS oleh BetterUp Labs dan Social Media Lab Stanford mendapati 40% telah menerima "workslop," kandungan janaan AI yang kelihatan digilap tetapi tidak mempunyai isi untuk memajukan tugas, dalam bulan sebelumnya. Setiap kejadian mengambil purata dua jam untuk diselesaikan, pada anggaran kos $186 setiap pekerja sebulan, atau kira-kira $9 juta setahun bagi syarikat 10,000 orang. Workslop ialah terlalu percaya dalam praktik: seseorang menerima draf ejen seadanya, menyampaikannya, dan membiarkan pengesahan sebenar kepada sesiapa yang menerimanya seterusnya.

Fakta Utama

• Ketepatan pakar radiologi membaca mamogram jatuh daripada kira-kira 80% kepada bawah 20% bagi pembaca yang kurang berpengalaman, dan daripada 82% kepada 45.5% bagi pembaca dengan pengalaman 15+ tahun, apabila cadangan sistem AI tidak betul, dalam kajian 27 pakar radiologi yang membaca 50 mamogram. Sumber: Automation Bias in Mammography, Radiology (RSNA), melalui EurekAlert
• 40% daripada 1,150 pekerja sepenuh masa AS yang ditinjau menerima "workslop" janaan AI dalam bulan sebelumnya, setiap kejadian menelan kos purata dua jam untuk dibaiki, anggaran $186 setiap pekerja sebulan, atau kira-kira $9 juta setahun bagi syarikat 10,000 orang. Sumber: BetterUp Labs, "Workslop"
• 60% eksekutif sudah menggunakan AI dalam membuat keputusan, tetapi hanya 5% berkata mereka mengurusnya dengan baik, jurang yang dinamakan Deloitte sebagai pendorong "hutang budaya" organisasi. Sumber: Deloitte 2026 Global Human Capital Trends
• 56% pemimpin mereka bentuk AI semata-mata untuk hasil perniagaan; hanya 40% mereka bentuk untuk hasil perniagaan dan manusia, dan 42% pekerja berkata organisasi mereka tidak menilai kesan AI terhadap manusia langsung. Sumber: Deloitte 2026 Global Human Capital Trends
• Apabila pengurus secara terbuka mencontohi penggunaan AI mereka sendiri, pekerja melaporkan peningkatan 30 mata dalam kepercayaan terhadap AI berkeejenan dan 1.4 kali lebih berkemungkinan menjadi pengguna kerap yang disokong jaring keselamatan. Sumber: Microsoft Work Trend Index 2026

Kepercayaan Terkalibrasi: Percaya tetapi Sahkan, dengan Perincian

Penyelidik yang mengkaji interaksi manusia-automasi menggunakan istilah kepercayaan terkalibrasi (juga dipanggil pergantungan yang sesuai) untuk keadaan sasaran antara dua mod kegagalan: menerima output sistem apabila bukti mengatakan ia boleh dipercayai, dan membantah apabila bukti mengatakan sebaliknya, tugas demi tugas dan bukannya sebagai dasar menyeluruh. Perbezaan yang penting di sini ialah antara kepercayaan dengan pergantungan. Kepercayaan ialah apa yang dikatakan seseorang tentang apa yang dipercayainya mengenai sesuatu sistem; pergantungan ialah apa yang sebenarnya dilakukannya dengan output sistem itu. Kajian secara konsisten mendapati kedua-duanya menjauh: seseorang boleh mengatakan dia tidak sepenuhnya mempercayai alat AI dan masih bertindak atas outputnya tanpa menyemak, kerana pengesahan memerlukan usaha dan laluan paling mudah ialah menerima.

Kalibrasi hanya berfungsi apabila ia khusus kepada tugas, bukan kepada alat secara keseluruhan. Ejen yang boleh diharap merangka ringkasan mesyuarat peringkat pertama mempunyai profil kebolehpercayaan yang sama sekali berbeza daripada model yang sama apabila diminta mengira unjuran kewangan atau memetik duluan undang-undang. "Adakah kita mempercayai AI" ialah soalan yang salah. "Adakah kita mempercayai ejen ini, pada tugas ini, berdasarkan apa yang sebenarnya kita lihat ia betul dan salah" ialah soalan yang berguna.

Ketahui Di Mana Ejen Boleh Dipercayai dan Di Mana Tidak

Membina gambaran peringkat tugas itu memerlukan penjejakan yang disengajakan, bukan intuisi. Pasukan yang diam-diam perasan bahawa ejen cemerlang dalam draf pertama e-mel rutin tetapi kerap mereka statistik dalam ringkasan penyelidikan telah melakukan kerja kalibrasi sebenar, walaupun tiada sesiapa menuliskannya. Jurang yang dimiliki kebanyakan pasukan bukan pada memerhatikannya, tetapi pada menjadikan pengetahuan itu jelas dan dikongsi dan bukannya tinggal dalam kepala seorang, supaya pekerja baharu tidak mengulang kesilapan terlalu percaya yang sudah dipelajari pasukan lain untuk dielakkan.

Rupa Pengesahan yang Sebenar dalam Kehidupan Seharian

Secara konkrit, ini bermakna menyemak secara rawak dakwaan yang bersumber sebelum dokumen dihantar ke luar, menyemak kewarasan mana-mana nombor yang dihasilkan ejen berbanding garis dasar yang diketahui, dan menganggap draf pertama sebagai draf untuk disunting, bukan sesuatu untuk dikemukakan seadanya. Tiada satu pun daripada itu memerlukan kerja diulang dari awal, yang memisahkan kepercayaan terkalibrasi daripada kurang percaya: semakan yang disasarkan di tempat ejen diketahui lemah, dan penerimaan yakin di tempat ia diketahui kuat.

Apa yang Membina Kepercayaan AI yang Sesuai

Empat perkara yang terbukti menggerakkan pasukan daripada meneka kepada terkalibrasi, dan tiada satu pun ialah sesi latihan sekali sahaja.

Ketelusan. Ejen yang menunjukkan sumbernya, menandakan tahap keyakinannya atau menerangkan langkah yang diambilnya memberi seseorang sesuatu yang nyata untuk dinilai, bukannya jawapan akhir yang digilap untuk diterima atau ditolak atas dasar kepercayaan. Pasukan yang bekerja dengan alat yang memaparkan penaakulan atau petikan yang kelihatan cenderung mengalibrasi lebih pantas berbanding pasukan yang terperangkap dengan kotak hitam yang hanya memulangkan hasil yang kelihatan bersih.

Rekod prestasi. Kepercayaan terhadap pekerja baharu dibina dengan memerhatikan mereka menangani situasi sebenar selama berminggu-minggu. Kepercayaan terhadap ejen harus dibina dengan cara yang sama, dengan menyimpan catatan jujur tentang apa yang betul dan salah pada jenis tugas tertentu, bukan dengan menganggap prestasi minggu pertama meramalkan minggu kedua belas.

Pagar pelindung. Kepercayaan lebih mudah dihulurkan apabila kos kesilapan terhad. Ejen yang diskopkan untuk merangka, bukan menghantar; mengesyorkan, bukan melaksanakan pembayaran; menandakan, bukan menutup tiket secara automatik, memberi orang ruang untuk mengesahkan sebelum sebarang perkara yang tidak boleh dipulihkan berlaku. Kami membincangkan lebih mendalam tentang pengskopan kuasa itu dalam pagar pelindung ejen AI.

Human-in-the-loop secara reka bentuk, bukan secara lalai. Terdapat perbezaan sebenar antara aliran kerja dengan titik semak yang diletakkan dengan sengaja di tempat kesilapan paling penting, dengan aliran kerja di mana seorang manusia kebetulan menjeling output kerana begitulah ia sentiasa dilakukan. Human-in-the-loop yang dilakukan dengan baik meletakkan titik semak pada titik dengan daya ungkit tertinggi, bukan di merata tempat, yang merupakan punca mod kegagalan kurang percaya pada mulanya.

Sudut Pasukan dan Budaya: Norma Bersama untuk Bila Perlu Menyemak

Tiada satu pun yang di atas berfungsi jika ia hanya tinggal dalam kepala seorang yang berhati-hati. Titik kegagalan sebenar pada kebanyakan pasukan bukan kerana tiada sesiapa tahu untuk mengesahkan output ejen, tetapi kerana tiada jawapan bersama yang jelas kepada "siapa menyemak apa, dan bila," jadi semua orang bergantung pada naluri masing-masing, dan naluri sangat berbeza. Seorang menyemak segala-galanya dengan teliti; seorang lagi mengemukakan draf ejen tanpa menjeling kali kedua; tiada seorang pun mengikut norma bertulis, kerana tiada norma sedemikian.

Ini sepenuhnya masalah budaya, bukan perkakas. Etika AI dan norma tempat kerja membincangkan set peraturan tidak bertulis yang lebih luas yang sedang dirundingkan pasukan sekitar pendedahan dan penggunaan yang sesuai; versi khusus kepercayaan bermakna bersetuju, secara lantang, kategori kerja mana yang sentiasa mendapat semakan manusia sebelum apa-apa berlaku ke luar (angka yang dihadapkan kepada pelanggan, bahasa undang-undang, apa sahaja yang tidak boleh dipulihkan) dan kategori mana yang cukup berpertaruhan rendah untuk sentuhan ringan. Tersilap dalam pembahagian itu ke mana-mana arah menghasilkan semula salah satu daripada dua mod kegagalan di atas pada peringkat pasukan dan bukannya individu.

Norma yang sama lebih penting, bukan kurang, apabila ejen berhenti menjadi alat yang dikendalikan seorang dan mula bertindak sebagai sebahagian daripada output sebenar pasukan, peralihan yang dibincangkan dalam pasukan manusia-ejen. Pasukan tanpa norma kepercayaan bersama tidak gagal dengan kuat. Ia mengumpul jenis jurang yang dipanggil Deloitte hutang budaya AI: terlalu bergantung secara senyap di sesetengah sudut, semakan berganda yang berlebihan secara senyap di sudut lain, tiada sesiapa mempunyai gambaran jelas yang mana berlaku di mana sehingga kesilapan yang kelihatan memaksa perbualan itu. Mendapatkan ini dengan betul ialah satu bahagian peralihan lebih besar yang dibincangkan dalam rupa sebenar budaya AI-native, di mana kepercayaan, pemilikan dan akauntabiliti semuanya perlu dibina semula dengan sengaja.

Tiada satu pun daripada ini unik kepada syarikat yang mempunyai pasukan AI khusus. Kedai lima orang yang menggunakan ejen untuk merangka e-mel jangkauan memerlukan jawapan jelas yang sama kepada "siapa menyemak ini sebelum ia dihantar" seperti perusahaan seribu orang. Pertaruhannya berskala mengikut saiz syarikat; masalah kalibrasi tidak.

Langkah Seterusnya

• Cara membina kepercayaan di tempat kerja, model kepercayaan sesama manusia yang dijadikan perbandingan oleh artikel ini
• Pasukan manusia-ejen, apa yang berubah apabila ejen menjadi sebahagian daripada output sebenar, bukan sekadar alat
• Hutang budaya AI, apa yang berlaku apabila norma kepercayaan tidak pernah dibina dan jurang bertambah
• Etika AI dan norma tempat kerja, set peraturan tidak bertulis yang lebih luas yang sedang dirundingkan pasukan sekitar penggunaan AI
• Apa itu budaya AI-native?, gambaran penuh bagaimana kepercayaan dan akauntabiliti beralih sebaik sahaja ejen menjadi rakan sepasukan
• Apa itu AI berkeejenan?, bagaimana sistem ini merancang dan bertindak, sebahagian sebab ralatnya kelihatan berbeza daripada alat ringkas
• Halusinasi AI, mekanisme khusus di sebalik output yang yakin, lancar dan salah
• Human-in-the-loop, cara mereka bentuk titik semak dan bukannya menyerahkannya kepada tabiat

Kepercayaan terhadap rakan sepasukan AI tidak sepatutnya menjadi perasaan peribadi yang dipikul oleh sesiapa yang kebetulan paling rapat memerhatikannya. Jadikannya pengukuran: jejaki di mana ejen boleh dipercayai, di mana tidak, dan kongsi bacaan itu merentas pasukan supaya kepercayaan terkalibrasi dan bukannya dianggap. Pasukan yang melakukannya berhenti terumbang-ambing antara kepercayaan buta dengan syak wasangka menyeluruh, dan mula menggunakan ejen untuk tepat apa yang telah dibuktikannya, tidak lebih dan tidak kurang.