Apakah itu Pengesan AI?

Pengesan AI ialah alat yang menganalisis teks, imej, atau audio dan menganggarkan kebarangkalian bahawa kandungan itu dijana oleh kecerdasan buatan berbanding manusia. Ia berfungsi dengan menilai corak seperti kebolehjangkaan perkataan dan variasi ayat, kemudian memberikan peratusan atau keputusan manusia-lawan-AI. Ia adalah anggaran kebarangkalian, bukan semakan yang pasti.

Bahagian terakhir itu penting lebih daripada yang disedari kebanyakan orang. Guru menggunakan pengesan AI untuk menyaring esei pelajar. Pasukan HR menjalankannya ke atas surat permohonan kerja. Penerbit mengimbas manuskrip sebelum sampai ke meja editor. Dalam setiap kes, alat itu mengeluarkan angka yang kelihatan meyakinkan, 12% AI, 87% AI, dan pembaca melayan angka itu seperti fakta. Ia bukan fakta. Ia adalah anggaran statistik yang dibina atas corak yang boleh tersilap dalam kedua-dua arah: menandakan penulisan manusia sebenar sebagai buatan mesin, dan terlepas pandang teks AI yang telah disunting sedikit.

Cara Pengesan AI Berfungsi

Kebanyakan pengesan AI berasaskan teks bergantung pada dua isyarat utama, kadangkala digabungkan dengan model classifier yang dilatih.

Perplexity mengukur sejauh mana sesuatu teks boleh dijangka oleh model bahasa. Teks yang dijana AI cenderung memilih perkataan seterusnya yang paling "selamat" secara statistik pada kebanyakan masa, jadi ia dibaca sebagai perplexity rendah, lancar dan dijangka. Penulisan manusia lebih bercelaru. Manusia menggunakan pilihan perkataan yang luar biasa, gaya bahasa yang janggal, dan struktur tersendiri, yang meningkatkan perplexity. Pengesan yang mengesan perplexity rendah secara konsisten sepanjang dokumen akan menandakannya sebagai kemungkinan ditulis AI.

Burstiness melihat variasi panjang dan struktur ayat sepanjang dokumen. Penulis manusia secara semula jadi berselang-seli antara ayat pendek yang padat dan ayat panjang yang berliku-liku. Output AI, terutamanya daripada model terdahulu, cenderung ke arah rentak ayat yang lebih seragam. Burstiness rendah (semuanya terasa panjang dan bentuk yang sama) dianggap sebagai satu lagi isyarat AI.

Selain kedua-dua isyarat ini, kebanyakan alat komersial (Turnitin, GPTZero, Originality.ai, Copyleaks) meletakkan model classifier yang dilatih di atasnya: rangkaian neural yang ditala halus atas set besar teks manusia yang diketahui dan teks AI yang diketahui, yang belajar membezakan kedua-duanya berdasarkan ratusan ciri halus yang tidak akan pernah disedari secara sedar oleh pembaca manusia. Pengesan imej dan video berfungsi secara berbeza, mencari artifak mampatan, pencahayaan atau pantulan yang tidak konsisten, dan kesan metadata yang ditinggalkan oleh alat penjanaan, walaupun kebanyakan isyarat itu hilang sebaik sahaja sesuatu imej disimpan semula atau disunting sedikit.

Tiada satu pun kaedah ini membaca niat, mengesahkan pengarangan, atau menyemak sejarah semakan. Ia menganggarkan kebarangkalian daripada cap jari statistik, dan itulah punca masalah kebolehpercayaan.

Sebab Pengesan AI Tidak Boleh Dipercayai Sepenuhnya

Isu utamanya ialah perplexity dan burstiness bukan unik kepada AI. Ia adalah proksi, dan proksi gagal berfungsi pada keadaan sempadan. Dua kumpulan paling teruk terkena false positive, dan satu tabiat penyuntingan mengalahkan pengesanan hampir sepenuhnya.

Fakta Penting: Ketepatan Pengesan AI

• Satu kajian Stanford yang dijalankan ke atas 91 esei TOEFL daripada penutur bukan asli bahasa Inggeris mendapati 7 pengesan komersial menandakannya sebagai ditulis AI sebanyak 61.3% pada purata, berbanding kira-kira 5.1% untuk esei daripada penutur asli bahasa Inggeris (arXiv, Liang et al., 2023)
• Satu ujian yang disemak rakan sebaya ke atas 14 pengesan teks AI, termasuk Turnitin, mendapati tiada satu pun mencapai ketepatan 80% dan hanya 5 melepasi 70%, dengan bias sistematik ke arah melabelkan teks AI sebagai "ditulis manusia" (Weber-Wulff et al., International Journal for Educational Integrity, 2023)
• Parafrasa automatik yang ringkas menurunkan ketepatan satu pengesan daripada 70.3% kepada 4.6% dan turut mengelak GPTZero serta classifier milik OpenAI sendiri (Krishna et al., NeurIPS 2023)

False positive menjejaskan penulis bukan penutur asli bahasa Inggeris secara tidak seimbang. Kerana penulis bukan penutur asli sering menggunakan kosa kata yang lebih ringkas dan struktur ayat yang lebih berulang (ciri yang sama yang menghasilkan perplexity rendah dan burstiness rendah), pengesan tersilap menganggap bahasa Inggeris yang berhati-hati dan mudah sebagai output mesin. Ini bukan kes terpencil. Ia adalah bias struktur yang didokumentasikan, terbina dalam cara penilaian itu berfungsi.

False positive turut menjejaskan penulisan berformula secara lebih meluas. Penafian undang-undang, dokumentasi teknikal, resume, dan apa sahaja yang ditulis mengikut templat secara semula jadi dibaca sebagai lebih boleh dijangka dan seragam, iaitu corak tepat yang dilatih untuk dikenal pasti oleh pengesan.

Mengelak pengesanan adalah mudah dan semakin senang. Menjalankan teks yang dijana AI melalui alat parafrasa, atau meminta model AI kedua untuk "tulis semula ini dengan lebih santai," secara konsisten memusnahkan pengesanan berasaskan perplexity dan burstiness. Penyelidik membina model parafrasa khusus untuk menguji perkara ini dan mendapati ia meruntuhkan ketepatan pengesanan merentasi pelbagai alat sekali gus, termasuk watermarking. Sesiapa yang bermotivasi untuk menyembunyikan penggunaan AI boleh melakukannya dalam masa kurang seminit dengan alat percuma.

Secara keseluruhan, pengesan AI boleh menjadi terlalu agresif (menandakan penulis manusia yang jujur) dan pada masa yang sama terlalu mudah diperdaya (terlepas pandang teks AI yang telah disunting sedikit). Kedua-duanya bukan dua masalah berasingan; ia adalah dua gejala daripada kelemahan asas yang sama: alat ini mengukur gaya, bukan pengarangan.

Semakan Realiti Ketepatan

Halaman pemasaran vendor dan ujian bebas menceritakan dua kisah yang berbeza, dan jurangnya cukup besar sehingga sepatutnya mengubah cara anda menggunakan alat ini.

OpenAI membina dan melancarkan classifier teks AI miliknya sendiri pada Januari 2023, kemudian menariknya semula enam bulan kemudian, pada Julai 2023, dengan alasan "kadar ketepatan yang rendah." Pada pelancaran, alat itu betul mengenal pasti teks yang ditulis AI hanya 26% daripada masa, bermakna ia terlepas kira-kira tiga daripada setiap empat sampel yang dijana AI yang diujinya (OpenAI). Jika syarikat yang melatih model asas itu sendiri tidak dapat membina pengesan yang boleh dipercayai untuk outputnya sendiri, itu adalah isyarat kuat tentang had teknologi ini.

Ujian dunia sebenar menyokong perkara ini. Apabila wartawan Washington Post, Geoffrey Fowler, menjalankan campuran esei pelajar yang ditulis manusia dan dibantu AI melalui pengesan Turnitin, alat itu tersilap mengklasifikasikan lebih separuh daripada sampel tersebut, termasuk menandakan sebuah esei yang sepenuhnya ditulis manusia sebagai sebahagiannya dijana AI (Washington Post, 2023). Turnitin sendiri melaporkan kadar false-positive pada peringkat dokumen di bawah 1%, tetapi secara berasingan telah mengakui kadar ralat pada peringkat ayat yang lebih hampir kepada 4% (angka yang dilaporkan vendor yang wajar dibaca bersama ujian bebas) (Turnitin).

Kesimpulannya bukan bermakna setiap pengesan tidak berguna. Kesimpulannya ialah satu skor sahaja, daripada mana-mana alat, tidak cukup kukuh sebagai bukti untuk bertindak dengan sendirinya, terutamanya apabila akibatnya adalah tuduhan menipu, plagiarisme, atau ketidakjujuran.

Pengesan AI Popular, Secara Ringkas

Empat alat mendominasi kategori ini. Setiap satu memasarkan ketepatan tinggi; setiap satu mempunyai jurang yang didokumentasikan antara pemasaran dan keputusan ujian bebas.

Setiap vendor dalam bidang ini mendakwa ketepatan dalam lingkungan 90-an tinggi. Setiap ujian yang disemak rakan sebaya dan kewartawanan terhadap alat-alat ini mendapati prestasi dunia sebenar jauh di bawah itu, terutamanya pada teks yang diparafrasakan, bahasa Inggeris bukan penutur asli, dan dokumen campuran manusia-AI. Jurang itu adalah perkara paling penting untuk diketahui sebelum anda mempercayai output sesuatu pengesan.

Penggunaan dalam Perniagaan dan Pendidikan, serta Risikonya

Syarikat dan sekolah menggunakan pengesan AI atas sebab yang boleh difahami: melindungi integriti akademik, mengesahkan bahawa sampel penulisan calon adalah miliknya sendiri, menyemak bahawa kandungan yang disumber luar tidak dihasilkan secara pukal oleh AI tanpa semakan. Risikonya bukan terletak pada keinginan untuk kepastian itu. Ia terletak pada melayan peratusan sesuatu pengesan sebagai bukti.

Seorang pelajar dituduh menipu berdasarkan esei yang ditandakan, seorang calon kerja ditolak kerana surat permohonannya "mendapat skor" sebagai ditulis AI, seorang penulis bebas dikenakan penalti kerana artikel yang ditandakan: setiap satu ini adalah keputusan sebenar dengan akibat sebenar, dibuat berdasarkan alat yang penyelidikan bebas menunjukkan tersilap pada kadar yang bermakna, dan lebih kerap tersilap khususnya untuk penutur bukan asli bahasa Inggeris. Itu adalah masalah keadilan dan tadbir urus, bukan sekadar masalah teknikal, dan ia bertindih dengan isu bias yang sama yang muncul merentasi sistem AI secara lebih meluas.

Terdapat risiko berkaitan yang lebih senyap di sebelah lain: bergantung pada pengesan untuk menjamin bahawa kandungan yang diterbitkan atau dibeli benar-benar bebas daripada AI. Memandangkan betapa mudahnya parafrasa mengalahkan pengesanan, skor yang lulus tidak bermakna sesuatu dokumen itu ditulis manusia. Ia hanya bermakna ia tidak dikesan. Perniagaan yang bimbang tentang kandungan usaha rendah yang dihasilkan secara pukal (yang semakin dipanggil AI slop) memerlukan proses kualiti yang lebih luas, bukan satu alat imbasan sahaja, untuk mengesannya.

Panduan Amalan Terbaik

Jika organisasi anda menggunakan pengesan AI, beberapa amalan mengurangkan risiko bertindak berdasarkan keputusan yang salah.

1. Jangan sekali-kali melayan skor pengesan sebagai keputusan muktamad dengan sendirinya. Gunakannya sebagai satu input bersama bukti proses seperti sejarah draf, cap masa kawalan versi, atau perbualan dengan penulis.
2. Bina langkah semakan human-in-the-loop sebelum sebarang tindakan hukuman, sama ada itu gred gagal, calon yang ditolak, atau pertikaian pembayaran kandungan. Seseorang perlu melihat petikan spesifik yang ditandakan, bukan sekadar skor ringkasan.
3. Jangkakan kadar false positive yang lebih tinggi untuk penulis bukan penutur asli bahasa Inggeris dan ambil kira ini apabila menentukan sejauh mana keyakinan anda terhadap sesuatu tanda sebelum menaikkannya.
4. Dedahkan dasar anda terlebih dahulu dan bukannya mengimbas secara senyap selepas fakta. Peraturan yang jelas tentang bantuan AI yang boleh diterima, seiring dengan prinsip ketelusan dalam panduan prompt engineering, mengurangkan pertikaian kerana jangkaan ditetapkan sebelum sesiapa menghantar kerja.
5. Jangan bergantung pada skor lulus untuk mengesahkan kandungan sebagai ditulis manusia. Gabungkan pengesanan dengan semakan editorial, terutamanya untuk apa sahaja yang diterbitkan di bawah jenama anda, memandangkan pengesan mudah dielakkan dengan parafrasa ringan.
6. Semak semula dakwaan vendor anda berbanding ujian bebas secara berkala. Ketepatan pengesan berubah apabila model bahasa asas berubah; alat yang berprestasi baik terhadap output GPT-3.5 mungkin berprestasi berbeza terhadap model yang lebih baharu, dan sebaliknya.

Corak yang sama merentasi setiap kajian yang dirujuk di sini adalah konsisten: pengesan AI berguna sebagai isyarat saringan dan tidak boleh dipercayai sebagai penilaian muktamad. Layan outputnya sebagaimana anda melayan tanda penapis spam, berbaloi untuk disemak sekali lagi, tetapi bukan bukti dengan sendirinya.

Ketahui Lebih Lanjut

Terokai konsep AI berkaitan untuk mendalami pemahaman anda:

• Apakah itu AI Slop?: masalah kandungan berkualiti rendah yang dihasilkan secara pukal yang sering tersilap diminta diselesaikan oleh pengesan
• Halusinasi AI: satu lagi kes di mana output AI yang yakin tidak sepadan dengan realiti
• Bias dalam AI: corak lebih luas di sebalik false positive bahasa Inggeris bukan penutur asli oleh pengesan
• Tadbir Urus AI: rangka kerja dasar untuk menggunakan alat AI, termasuk pengesan, secara adil
• Natural Language Processing: bidang asas yang membolehkan kedua-dua penulisan AI dan pengesanan AI
• Large Language Models (LLM): model yang direka untuk dikesan oleh pengesan
• Alat Penulisan AI Terbaik pada 2026: alat di sebelah lain masalah pengesanan

Sumber Luaran

• GPT Detectors Are Biased Against Non-Native English Writers - kajian Stanford tentang bias false-positive
• Testing of Detection Tools for AI-Generated Text - kajian ketepatan 14-pengesan yang disemak rakan sebaya
• OpenAI: New AI Classifier for Indicating AI-Written Text - pengumuman OpenAI sendiri dan penarikan kemudiannya bagi classifier tersebut

Sebahagian daripada Koleksi Istilah AI. Dikemas kini Julai 2026.