Sembilan istilah berikut telah menjadi kosakata standar dalam sistem AI production saat ini. Bukan sekadar istilah populer di konten viral. Bagi Anda yang masih berada di level prompt engineering, uraian berikut menunjukkan apa yang perlu dipelajari selanjutnya, lengkap dengan urutan belajarnya agar tidak asal loncat antar konsep.
1. Agentic Loops
Agent tidak menjawab sekali lalu selesai. Ia berjalan melalui siklus Plan (merencanakan langkah) → Act (eksekusi) → Observe (mengamati hasil) → Reflect (mengevaluasi apakah target tercapai). Apabila belum tercapai, siklus diulang dari tahap Plan. Apabila sudah tercapai, proses selesai. Kenapa penting: inilah yang membedakan AI agent dari chatbot biasa. Chatbot menjawab satu kali. Agent terus berputar dalam siklus tersebut sampai tugas benar-benar selesai, termasuk apabila langkah pertama gagal dan perlu direncanakan ulang. Contoh kasus: agent riset yang diminta "cari 10 kompetitor dan bandingkan harganya" akan mengulang siklus tersebut berkali-kali. Mencari, memeriksa hasil, menyadari data yang didapat belum lengkap, mencari lagi. Barulah setelah itu ia memberikan laporan akhir.
2. MCP (Model Context Protocol)
MCP adalah protokol terbuka dari Anthropic yang menjadi standar penghubung antara AI agent dan tool eksternal, seperti email, repository kode, database, browser, dan calendar. Tanpa MCP, developer harus membuat integrasi khusus satu per satu untuk setiap tool. Kenapa penting: dengan satu protokol, agent dapat langsung terhubung ke banyak tool sekaligus. Inilah alasan mengapa agent saat ini dapat benar-benar bekerja, membaca file, menjalankan query database, membuka browser, bukan sekadar menjawab teks. Contoh kasus: Anda dapat menghubungkan Claude ke Google Drive dan Notion melalui MCP tanpa perlu menulis kode integrasi sendiri. Cukup memasang connector yang tersedia.
3. Subagents
Satu tugas besar dipecah dan didelegasikan. Orchestrator menerima tugas, kemudian membaginya ke beberapa subagent. Masing-masing subagent memiliki tool sendiri dan context sendiri yang terisolasi. Hasil dari seluruh subagent kemudian digabungkan menjadi satu output akhir. Kenapa penting: context yang terisolasi mencegah satu subagent menumpuk informasi yang dapat membingungkan subagent lain atau memboroskan token. Pekerjaan menjadi paralel, bukan berurutan. Contoh kasus: agent yang diminta mengaudit sebuah codebase dapat mendelegasikan satu subagent untuk memeriksa keamanan, satu untuk memeriksa performa, dan satu lagi untuk memeriksa gaya penulisan kode. Ketiganya berjalan bersamaan, dan hasilnya digabungkan pada akhir proses.
4. AI Gateway
Layer perantara antara aplikasi Anda dan berbagai provider model, seperti OpenAI, Anthropic, atau model open source. Seluruh permintaan melewati satu pintu yang mengelola autentikasi, rate limit, dan log secara terpusat. Kenapa penting: mengganti provider atau menambahkan model baru tidak memerlukan perubahan kode di setiap aplikasi. Terdapat satu titik kendali untuk seluruh traffic AI Anda. Contoh kasus: tim yang memiliki lima aplikasi internal berbeda dapat beralih dari satu model ke model lain untuk seluruh aplikasi sekaligus, tanpa menyentuh kode masing-masing aplikasi.
5. Inference Economics
Token adalah satuan biaya. Prompt caching merupakan cara penghematan yang paling signifikan. Cache hit dikenakan biaya sekitar 10% dari harga input standar, sedangkan cache miss dikenakan biaya penuh. Kenapa penting: desain prompt yang konsisten, dengan system prompt dan urutan yang sama, dapat memangkas biaya inference secara signifikan. Hal ini bukan hanya soal model mana yang digunakan, melainkan juga bagaimana prompt tersebut disusun. Contoh kasus: aplikasi yang menggunakan system prompt panjang secara berulang pada setiap permintaan dapat menghemat biaya besar dengan menempatkan cache breakpoint pada bagian yang stabil, dan meletakkan bagian yang berubah-ubah di akhir prompt.
6. Evals
Sistem pengujian otomatis untuk output AI. Test case dan output model dimasukkan ke Judge LLM yang memberikan skor lolos atau gagal. Apabila lolos, hasil masuk ke metrik dan siap dirilis. Apabila gagal, hasil masuk ke tahap perbaikan dan diuji kembali. Kenapa penting: tanpa evals, rilis fitur AI hanya didasarkan pada perkiraan subjektif, bukan angka yang terukur. Evals memberikan bukti terukur sebelum sesuatu masuk ke tahap produksi. Contoh kasus: tim yang membuat fitur ringkasan otomatis memerlukan sekumpulan test case, berupa dokumen contoh beserta ringkasan ideal, untuk memeriksa apakah output model konsisten baik sebelum dirilis kepada pengguna.
7. Guardrails
Layer filter dua lapis. Input pengguna diperiksa terlebih dahulu, termasuk pemblokiran data pribadi, sebelum masuk ke model. Output model diperiksa kembali, termasuk pemblokiran data pribadi dan upaya jailbreak, sebelum sampai ke pengguna. Kenapa penting: dua lapis filter ini mencegah kebocoran data sensitif atau model yang berhasil dimanipulasi untuk menyampaikan hal yang seharusnya tidak boleh disampaikan. Hal ini melindungi reputasi brand dari insiden yang berpotensi viral secara negatif. Contoh kasus: chatbot layanan pelanggan yang tanpa sengaja menerima nomor kartu kredit dari pengguna harus secara otomatis memblokir data tersebut sebelum diproses lebih lanjut oleh model.
8. Observability
Setiap agent workflow menghasilkan tiga jenis data, yaitu trace (jejak langkah demi langkah), log, dan metrik. Seluruh data tersebut masuk ke dashboard, dan apabila terdapat anomali, sistem akan mengirimkan alert. Kenapa penting: tanpa observability, kegagalan agent dalam produksi baru diketahui setelah pengguna menyampaikan keluhan, bukan setelah sistem memberikan peringatan lebih dahulu. Contoh kasus: tim yang melihat cache hit rate menurun drastis secara tiba-tiba di dashboard dapat segera mengetahui adanya perubahan pada prompt yang merusak cache. Perbaikan dapat dilakukan sebelum tagihan API membengkak.
9. Context Engineering
Bukan soal menulis prompt yang baik, melainkan soal apa yang dimasukkan ke dalam context window. Empat sumber, yaitu retrieval, memori, tools, dan riwayat, dikompresi dan diurutkan terlebih dahulu sebelum masuk ke model, agar output yang dihasilkan grounded dan tidak mengarang informasi. Kenapa penting: context window bersifat terbatas. Memasukkan seluruh informasi mentah secara langsung akan membingungkan model dan memboroskan token. Yang menentukan hasil adalah desain context yang tepat, bukan volume context yang besar. Contoh kasus: agent riset yang memiliki akses ke ratusan dokumen tidak boleh memasukkan seluruhnya ke context sekaligus. Diperlukan proses retrieval dan ranking terlebih dahulu, untuk mengambil informasi yang paling relevan dengan pertanyaan spesifik yang sedang diajukan.
Urutan Belajar: dari Fondasi sampai Optimasi
Sembilan konsep ini tidak perlu dipelajari secara acak. Terdapat urutan yang lebih masuk akal:
Tahap 1, Fondasi: Context Engineering, Agentic Loops. Keduanya merupakan model mental dasar sebelum memahami konsep lainnya, yaitu bagaimana agent berpikir dan bagaimana ia diberikan informasi yang tepat.
Tahap 2, Koneksi: MCP, Subagents. Cara agent terhubung ke tool eksternal dan mendelegasikan pekerjaan ke agent lain.
Tahap 3, Produksi: AI Gateway, Guardrails, Observability. Layer yang dibutuhkan begitu sistem benar-benar berjalan di hadapan pengguna, bukan sekadar demo.
Tahap 4, Optimasi: Inference Economics, Evals. Baru relevan setelah sistem berjalan dan hendak dioptimalkan dari sisi biaya maupun kualitas.
Dimana dan Bagaimana Mempelajari Setiap Tahap
Tahap 1, Fondasi
Context Engineering dapat dipelajari melalui artikel resmi Effective context engineering for AI agents yang diterbitkan oleh Anthropic. Bacalah artikel tersebut secara menyeluruh untuk memahami kerangka dasar context engineering, kemudian amati langsung bagaimana Claude Code menyusun context ketika digunakan untuk tugas nyata. Agentic Loops dapat dipelajari melalui artikel resmi Building effective agents dari Anthropic, dilengkapi kode referensi pada repository claude-cookbooks folder patterns/agents. Bacalah artikelnya untuk memahami perbedaan antara workflow dan agent, kemudian jalankan notebook referensi tersebut untuk melihat implementasi siklus plan-act-observe-reflect secara langsung.
Tahap 2, Koneksi
MCP dapat dipelajari melalui dokumentasi resmi di modelcontextprotocol.io dan pengumuman resmi Introducing the Model Context Protocol dari Anthropic. Mulailah dari bagian Quickstart pada dokumentasi resmi tersebut untuk memahami arsitektur client-server, kemudian coba hubungkan Claude ke salah satu MCP server referensi, seperti Google Drive atau GitHub, untuk melihat cara kerjanya secara langsung. Subagents dapat dipelajari melalui dokumentasi resmi Claude Code Sub-agents dan Agent SDK Subagents. Bacalah dokumentasi Claude Code terlebih dahulu untuk memahami konsep dasarnya, kemudian praktikkan langsung menggunakan perintah /agents pada Claude Code untuk membuat subagent pertama.
Tahap 3, Produksi
AI Gateway dapat dipelajari melalui dokumentasi resmi LiteLLM, proyek open source yang dapat diakses tanpa biaya sebagai titik awal. Ikuti panduan Getting Started untuk menjalankan LiteLLM sebagai proxy lokal, kemudian coba arahkan dua provider model yang berbeda melalui satu endpoint yang sama untuk merasakan langsung manfaat sentralisasi tersebut. Guardrails dapat dipelajari melalui dokumentasi resmi Anthropic pada bagian Mitigate jailbreaks and prompt injections dan Content moderation. Bacalah kedua halaman tersebut untuk memahami dua kategori ancaman, yaitu jailbreak langsung dan prompt injection tidak langsung, kemudian terapkan salah satu strategi input screening pada aplikasi yang sedang dibangun. Observability dapat dipelajari melalui dokumentasi resmi Observability with OpenTelemetry dari Anthropic. Bacalah dokumentasi tersebut untuk memahami tiga sinyal utama OpenTelemetry, yaitu trace, metrik, dan log, kemudian aktifkan telemetry pada proyek Claude Code atau Agent SDK yang sedang berjalan dan hubungkan ke backend visualisasi seperti Grafana.
Tahap 4, Optimasi
Inference Economics dapat dipelajari melalui dokumentasi resmi Prompt caching dari Anthropic. Bacalah dokumentasi tersebut untuk memahami struktur cache breakpoint dan hierarki tools, system, serta messages, kemudian terapkan cache_control pada satu system prompt yang sering diulang dan bandingkan biayanya sebelum dan sesudah penerapan. Evals dapat dipelajari melalui dokumentasi resmi Define success criteria and build evaluations dan Using the Evaluation Tool dari Anthropic. Bacalah halaman pertama untuk memahami cara merumuskan kriteria sukses yang measurable, kemudian praktikkan langsung menggunakan Evaluation Tool pada Claude Console untuk membuat test suite pertama.
🤖 Konten ini dibuat oleh @kayadigital.ai. kayadigital.ai/ Panduan praktis AI untuk profesional Indonesia.