Menambah fitur baru ke agent yang sudah berjalan lancar terdengar sederhana: tinggal tambahkan instruksi baru ke sistem prompt, atau tambahkan satu tool baru yang bisa dipanggil. Kenyataannya, sistem berbasis prompt punya bentuk biaya tersembunyi yang mirip dengan technical debt di software konvensional, hanya saja jarang terlihat sampai instruksi menumpuk cukup banyak.
Instruksi yang saling bertabrakan tanpa disadari
Setiap instruksi baru yang ditambahkan ke sistem prompt berpotensi bersinggungan dengan instruksi lama yang sudah ada. Instruksi soal “selalu tawarkan produk terkait” bisa bertabrakan dengan instruksi lain soal “jangan menawarkan apa pun sebelum pelanggan menyelesaikan keluhan utamanya”. Di software biasa, konflik semacam ini biasanya ketahuan lewat error compile. Di sistem prompt, konfliknya baru terlihat lewat perilaku agent yang inkonsisten, dan sering kali cuma muncul di sebagian kecil percakapan sehingga sulit dilacak penyebabnya.
Prompt yang makin panjang, makin sulit dipelihara
Semakin banyak fitur ditambahkan, semakin panjang instruksi yang harus dibaca dan diikuti model dalam satu waktu. Prompt yang terlalu panjang meningkatkan risiko model “melupakan” atau mengabaikan sebagian instruksi di tengah, terutama instruksi yang jarang relevan tapi tetap harus selalu ada untuk kasus edge tertentu. Ini beda dari code yang bisa dipecah jadi modul-modul kecil dan hanya dipanggil saat dibutuhkan.
Kenapa “gampang ditambah” tidak berarti “gampang dipelihara”
Kemudahan menambah instruksi baru ke agent kadang jadi jebakan tersendiri, karena tidak ada proses build atau compile yang otomatis memberi tahu kalau ada yang salah. Tim bisa terus menambah fitur selama berbulan-bulan tanpa pernah mengaudit ulang instruksi lama yang sudah tidak relevan atau bahkan bertentangan dengan yang baru. Praktik yang membantu adalah meninjau ulang seluruh sistem prompt secara berkala, bukan cuma menambah tanpa pernah menghapus, mirip dengan disiplin membersihkan kode lama yang sudah lama dipakai di software konvensional.