Apa itu Context Engineering?

Diperbarui Juli 2026

Context engineering adalah disiplin merakit segala sesuatu yang dilihat oleh large language model pada saat inferensi, yaitu system prompt, dokumen yang diambil, output tool, riwayat percakapan, dan working memory, sehingga model memiliki persis informasi yang dibutuhkan untuk menyelesaikan tugas dengan baik. Ini adalah praktik yang menggantikan prompt engineering sebagai keterampilan inti pembangunan AI sepanjang 2025 dan 2026.

Bagi para pemimpin bisnis, context engineering adalah perbedaan antara sistem AI yang menebak-nebak dan sistem AI yang benar-benar tahu. Agen dukungan yang menarik riwayat pesanan pelanggan, kebijakan pengembalian dana, dan tiket sebelumnya ke dalam working context-nya sebelum menjawab akan lebih sering memberikan jawaban yang benar dibandingkan agen yang hanya mengandalkan prompt yang cerdik. Prompt hanyalah satu input di antara banyak input lainnya; context engineering adalah pekerjaan mengelola semuanya secara bersamaan, pada setiap panggilan, bukan hanya yang pertama.

Mengapa Context Engineering Menggantikan Prompt Engineering

Prompt engineering memperlakukan cara mendapatkan output AI yang baik sebagai masalah pemilihan kata: temukan frasa ajaib, persona yang tepat, struktur instruksi yang sempurna, dan model akan bekerja dengan baik. Kerangka berpikir itu masuk akal ketika satu prompt yang disusun dengan baik adalah hampir semua hal yang dikendalikan pengguna. Kerangka itu berhenti masuk akal begitu tim mulai membangun AI agent dan sistem bertahap, di mana prompt hanyalah bagian kecil dan tetap dari kumpulan informasi yang jauh lebih besar dan terus berubah, yang harus dijadikan dasar kerja model.

Istilah "context engineering" dipopulerkan pada pertengahan 2025 oleh dua suara terkemuka di dunia AI. Andrej Karpathy menyebutnya sebagai "seni dan ilmu yang cermat dalam mengisi jendela konteks dengan informasi yang tepat untuk langkah berikutnya," dan berargumen bahwa "context engineering" jauh lebih menggambarkan apa yang sebenarnya dikerjakan tim AI produksi dibandingkan "prompt engineering". Pada waktu yang hampir bersamaan, CEO Shopify Tobi Lutke menggambarkannya secara publik sebagai "seni menyediakan seluruh konteks agar tugas tersebut secara masuk akal dapat diselesaikan oleh LLM."

Tim engineering Anthropic membingkai pergeseran ini dalam panduan mereka sendiri untuk membangun AI agent: context engineering adalah "kumpulan strategi untuk mengkurasi dan mempertahankan kumpulan token yang optimal" selama inferensi, yang mencakup system prompt, tools, contoh, riwayat pesan, dan data yang diambil secara bersamaan, bukan prompt secara terpisah. Wawasan mendasar yang mendorong pergeseran ini: model frontier kini sudah cukup kuat untuk sebagian besar tugas bisnis. Kesenjangan antara sistem yang berhasil dan yang tidak biasanya bermuara pada informasi apa yang diberikan kepada model, bukan kata-kata apa yang digunakan untuk memintanya.

Komponen Utama Context Engineering

Setiap sistem yang dirancang dengan context engineering dibangun dari beberapa bagian yang sama, yang dirakit dan dirakit ulang pada setiap panggilan model.

• System prompt: Instruksi tetap yang mendefinisikan peran, nada, dan batasan AI. Inilah yang dimaksud kebanyakan orang dengan "prompt engineering," yang kini hanya menjadi satu input di antara beberapa input lainnya.
• Memory: Working memory jangka pendek untuk tugas saat ini, ditambah memory jangka panjang untuk fakta, preferensi, dan hasil yang harus bertahan lintas sesi. Lihat AI memory untuk memahami perbedaannya dengan data pelatihan model.
• Retrieval-augmented generation (RAG): Mekanisme untuk menarik dokumen, catatan, atau entri knowledge base yang relevan ke dalam konteks pada saat dibutuhkan, alih-alih berharap model sudah mengetahuinya. Dibahas secara mendalam di Retrieval-Augmented Generation.
• Tools: Fungsi, API, dan sistem yang bisa dipanggil oleh model, dan sama pentingnya, output yang dihasilkan dari panggilan tersebut, yang kemudian menjadi bagian dari konteks untuk langkah berikutnya. Lihat tool use.
• Contoh: Sejumlah kecil contoh representatif yang dipilih dengan baik (demonstrasi few-shot) yang menunjukkan kepada model seperti apa output yang baik, dikurasi berdasarkan relevansi, bukan cakupan yang menyeluruh.
• State: Riwayat percakapan yang berjalan, tindakan sebelumnya yang telah diambil, dan hasil antara yang memungkinkan agent bertahap tetap koheren dari langkah pertama hingga terakhir, alih-alih memperlakukan setiap giliran sebagai awal yang baru.

Jika salah satu dari ini keliru (daftar tool yang terlalu banyak, memory yang basi, dokumen hasil pencarian yang tidak relevan), kualitas output akan menurun sama besarnya seperti dulu ketika prompt yang disusun dengan buruk menyebabkan hal yang sama.

Cara Kerja Context Engineering dalam Sistem Agentic

Dalam sistem agentic AI, konteks tidak dirakit sekali lalu dibiarkan begitu saja. Konteks dibangun ulang atau diperbarui pada setiap langkah dalam loop: sistem mengumpulkan apa yang saat ini diketahuinya (system prompt, memory, data yang diambil), model menalar konteks tersebut dan memutuskan suatu tindakan, tool use mengeksekusi tindakan tersebut terhadap sistem nyata, dan hasilnya dilipat kembali ke dalam konteks untuk keputusan berikutnya. Agentic workflows bertahap dapat menjalankan loop ini puluhan atau ratusan kali sebelum sebuah tugas selesai, yang berarti kesalahan konteks kecil di awal bisa terakumulasi hingga akhir.

Tim engineering LangChain telah mengorganisasi pekerjaan praktis context engineering ke dalam empat strategi yang berulang: write (memberikan agent tempat untuk menyimpan informasi di luar konteks utama, seperti scratchpad atau catatan), select (menarik hanya apa yang relevan dengan langkah saat ini, bukan semua dokumen yang tersedia), compress (meringkas atau memangkas konteks setelah menjadi panjang), dan isolate (memecah tugas yang kompleks ke beberapa agent atau sub-konteks agar tidak ada satu konteks pun yang kelebihan beban). Sebagian besar pekerjaan context engineering di produksi adalah kombinasi dari keempat gerakan ini, yang diulang secara terus-menerus selagi tugas berjalan. AI orchestration adalah lapisan yang biasanya mengelola hal ini di atas satu agent atau di beberapa agent sekaligus.

Manajemen Jendela Konteks dan Mode Kegagalan

Setiap model memiliki jendela konteks yang terbatas, yaitu jumlah maksimum token yang bisa diproses sekaligus. Namun context engineering ada karena dalam praktiknya, luapan jendela bukanlah masalah utama. Riset dari Chroma menguji 18 model frontier, termasuk GPT-4.1, Claude Opus 4, Gemini 2.5, dan Qwen3, pada input dengan panjang mulai dari 25 hingga 10.000 kata, dan menemukan akurasi pada tugas pencarian dan pengingatan sederhana menurun secara stabil seiring bertambahnya panjang input, jauh sebelum model mana pun mencapai batas token yang dinyatakan. Penurunan bertahap itu punya nama: context rot, kecenderungan kemampuan model untuk menggunakan informasi secara akurat menurun seiring bertambahnya jumlah konteks yang ditahannya, bahkan pada tugas yang seharusnya bisa diselesaikan dengan sempurna jika inputnya lebih pendek.

Context rot bukanlah satu kegagalan tunggal, melainkan sekumpulan kegagalan yang saling terkait. Penulis Drew Breunig mengkatalogkan empat pola spesifik yang menjelaskan sebagian besar hal yang dihadapi para praktisi:

• Context poisoning: Sebuah halusinasi atau kesalahan tertulis ke dalam konteks (fakta yang salah dalam catatan memory, keyakinan yang keliru dalam tujuan yang dilacak) dan kemudian dirujuk berulang kali, memperparah kesalahan alih-alih memperbaikinya.
• Context distraction: Model terlalu bergantung pada riwayat yang terakumulasi dan mulai mengulangi tindakan sebelumnya alih-alih bernalar baru tentang apa yang harus dilakukan selanjutnya.
• Context confusion: Informasi yang tidak relevan yang ada di dalam konteks ikut tertarik ke dalam respons, menurunkan kualitas jawaban meskipun informasi yang benar juga tersedia.
• Context clash: Informasi yang ditambahkan pada titik-titik berbeda dalam sesi yang panjang mulai saling bertentangan, dan model tidak memiliki cara yang andal untuk mengetahui versi mana yang berlaku.

Salah satu contoh nyata context poisoning yang terdokumentasi dengan baik: proyek Gemini Plays Pokemon milik Google DeepMind sendiri, sebuah eksperimen yang disiarkan langsung dengan membiarkan Gemini 2.5 Pro memainkan Pokemon Blue secara otonom. Pada satu titik, agent tersebut berhalusinasi bahwa ia perlu menemukan item bernama "TEA" (yang sebenarnya tidak ada dalam versi game tersebut), menuliskan tujuan palsu itu ke dalam konteks persistennya, lalu menghabiskan berjam-jam mengejar tujuan yang mustahil sebelum tim berhasil mengeluarkannya dari kebuntuan tersebut. Perbaikan pada sistem produksi bukanlah jendela konteks yang lebih besar, melainkan pengelolaan aktif atas apa yang tetap berada dalam konteks dan untuk berapa lama.

Context Engineering vs Prompt Engineering

Prompt engineering tidak menghilang, ia terserap ke dalamnya. Menulis system prompt yang jelas masih menjadi salah satu bagian dari pekerjaan; hanya saja itu bukan lagi keseluruhan pekerjaan.

Kasus Penggunaan Nyata Context Engineering

Agent dukungan pelanggan: Sebelum menjawab, sistem mengambil status akun pelanggan, riwayat pesanan, dan dokumen kebijakan spesifik yang relevan dengan pertanyaannya, lalu menjaga konteks itu tetap tersedia untuk sisa percakapan alih-alih mengambilnya ulang setiap giliran.

Agent coding: Tools seperti Claude Code dan asisten coding sejenis mengelola konteks repositori secara langsung, menentukan file, edit sebelumnya, dan hasil pengujian mana yang tetap berada dalam working context model saat tugas berlangsung melalui banyak langkah, karena menyertakan seluruh codebase sekaligus akan melampaui jendela konteks mana pun dan mengundang context rot.

Agent penjualan dan RevOps: Agent yang mengkualifikasi atau menindaklanjuti lead menarik data CRM yang relevan, interaksi sebelumnya, dan detail akun melalui RAG, bukan mengandalkan pengetahuan umum model tentang perusahaan.

Agent otonom yang berjalan lama: Agent browser-use dan riset yang beroperasi lintas banyak langkah atau sesi bergantung pada manajemen memory yang disengaja, menyimpan apa yang penting ke penyimpanan persisten dan memangkas apa yang tidak, sehingga working context tetap fokus alih-alih mengakumulasi semua yang pernah dilihat agent tersebut.

Fakta Penting

• Anthropic mendefinisikan context engineering sebagai "kumpulan strategi untuk mengkurasi dan mempertahankan kumpulan token yang optimal" yang tersedia bagi model selama inferensi, mencakup system prompt, tools, contoh, dan riwayat pesan, bukan hanya prompt semata. Anthropic Engineering
• Unggahan Andrej Karpathy pada Juni 2025 yang menggambarkan context engineering sebagai "seni dan ilmu yang cermat dalam mengisi jendela konteks dengan informasi yang tepat untuk langkah berikutnya" secara luas dianggap sebagai yang mempopulerkan istilah ini. X / Karpathy
• Riset Context Rot dari Chroma menguji 18 model frontier, termasuk GPT-4.1, Claude Opus 4, Gemini 2.5, dan Qwen3, pada rentang panjang input dari 25 hingga 10.000 kata, dan menemukan akurasi menurun secara konsisten seiring bertambahnya panjang input, jauh sebelum mencapai batas konteks yang dinyatakan model mana pun. Chroma Research
• Survei State of AI Agents 2026 dari LangChain menemukan bahwa 57% tim responden kini memiliki agent yang berjalan di produksi, dengan kualitas output, termasuk mengelola konteks dalam skala besar, disebut oleh 32% sebagai hambatan utama menuju kinerja produksi yang andal. LangChain
• Tim engineering LangChain membingkai pekerjaan praktis context engineering di sekitar empat strategi yang berulang: write, select, compress, dan isolate. LangChain Blog
• Proyek Gemini Plays Pokemon dari Google DeepMind menghasilkan kasus context poisoning yang terdokumentasi: sebuah tujuan halusinasi dalam game masuk ke konteks persisten agent dan mengacaukan permainannya selama berjam-jam sebelum tim dapat memperbaikinya. TechCrunch
• Penulis Drew Breunig mengkatalogkan empat mode kegagalan konteks yang berbeda, poisoning, distraction, confusion, dan clash, yang bersama-sama menjelaskan sebagian besar dari apa yang disebut praktisi sebagai context rot. dbreunig.com

Konsep AI Terkait

• Apa itu Agentic AI? - Sistem otonom yang bergantung pada konteks yang dirancang dengan baik agar dapat bekerja secara andal
• Jendela Konteks - Batas token yang harus dikerjakan oleh context engineering
• Prompt Engineering - Disiplin yang lebih sempit yang diserap dan dikembangkan lebih lanjut oleh context engineering
• Large Language Models - Sistem yang mengonsumsi konteks yang dirakit untuknya
• Retrieval-Augmented Generation - Teknik utama untuk menarik pengetahuan eksternal ke dalam konteks
• AI Memory - Memory jangka pendek dan jangka panjang sebagai komponen context engineering
• Tool Use - Bagaimana output tool menjadi bagian dari konteks agent yang berjalan
• Model Context Protocol - Standar terbuka untuk memasukkan tools dan data eksternal ke dalam konteks model secara konsisten
• Agentic Workflows - Proses bertahap di mana konteks harus tetap koheren di banyak langkah
• AI Orchestration - Lapisan koordinasi yang mengelola konteks di berbagai agent atau langkah

Sumber Eksternal

• Anthropic: Effective Context Engineering for AI Agents - Panduan resmi Anthropic tentang mengkurasi konteks untuk keandalan agent
• LangChain: Context Engineering for Agents - Framework write, select, compress, isolate
• LangChain: State of AI Agents 2026 - Data survei tentang adopsi agent di produksi dan hambatan kualitas
• Chroma Research: Context Rot - Data benchmark tentang penurunan performa di 18 model frontier
• Drew Breunig: How Long Contexts Fail - Empat mode kegagalan konteks yang dinamai
• TechCrunch: Google's Gemini Panicked While Playing Pokemon - Kasus nyata context poisoning yang terdokumentasi

Bagian dari Koleksi Istilah AI. Terakhir diperbarui: 2026-07-16