Blog ini pernah membahas context window (seberapa banyak percakapan yang bisa “dilihat” agent sekaligus) dan memori jangka panjang (informasi yang disimpan lintas sesi). Ada satu hal lagi yang sering tertukar dengan keduanya, padahal berbeda fungsinya: manajemen state, yaitu bagaimana agent melacak Anda sedang berada di langkah keberapa dalam sebuah proses bertahap.
State bukan tentang mengingat isi obrolan, tapi posisi dalam proses
Bayangkan agent yang membantu Anda mengisi formulir pendaftaran lewat chat: nama, lalu nomor telepon, lalu alamat, lalu konfirmasi. Agent perlu tahu “sekarang giliran menanyakan alamat, bukan nama lagi” — itu state. Ini beda dari sekadar mengingat kalimat-kalimat sebelumnya (context window) atau menyimpan preferensi Anda untuk sesi mendatang (memori jangka panjang). State lebih spesifik: posisi Anda di dalam sebuah alur kerja yang punya urutan langkah.
Kenapa ini sering jadi sumber pengalaman yang membingungkan
Kalau state tidak dikelola dengan baik, gejalanya khas: agent menanyakan ulang data yang baru saja Anda berikan, atau “lupa” bahwa Anda sedang di tengah proses tertentu setelah Anda mengirim pesan lain di antaranya. Ini yang membuat pengalaman terasa seperti mengobrol dengan seseorang yang mudah teralihkan — padahal masalahnya bukan di kualitas jawaban, tapi di cara agent melacak proses yang sedang berjalan.
Kenapa desain state penting terutama untuk proses multi-langkah
Untuk agent yang cuma menjawab pertanyaan satu-dua kalimat, state tidak terlalu krusial. Tapi untuk agent yang menangani proses berjenjang — pendaftaran, pemesanan dengan beberapa pilihan, pengumpulan data bertahap — desain state yang jelas jadi salah satu faktor pembeda antara agent yang terasa “mengerti alur” dan yang terasa terputus-putus. Ini juga alasan kenapa menguji agent dengan skenario percakapan yang terputus di tengah jalan (misalnya pengguna berhenti lalu kembali lagi) penting dilakukan sebelum agent dipakai untuk proses yang lebih panjang.