Kalau pelanggan chat dengan AI agent hari Senin, lalu kembali chat hari Kamis dengan topik yang sama sekali berbeda, apakah agent seharusnya masih mengingat konteks percakapan hari Senin? Ini pertanyaan desain yang sering luput dibahas dibanding topik yang lebih populer seperti halusinasi atau prompt injection, padahal berpengaruh langsung ke pengalaman pelanggan sehari-hari.<\/p>\n
Secara teknis mungkin saja menyimpan seluruh riwayat percakapan seorang pelanggan tanpa batas waktu dan selalu menyertakannya sebagai konteks. Tapi ini punya dua masalah: pertama, biaya pemrosesan makin membengkak seiring riwayat menumpuk karena model perlu memproses lebih banyak teks tiap kali menjawab. Kedua, dan ini yang lebih penting, konteks lama yang sudah tidak relevan bisa membuat jawaban jadi aneh \u2014 misalnya agent tiba-tiba menyinggung pesanan minggu lalu yang sudah selesai, padahal pelanggan sekarang bertanya soal hal yang sama sekali baru.<\/p>\n
Solusi umum yang dipakai kebanyakan sistem chat adalah konsep “sesi” \u2014 sekumpulan pesan yang dianggap satu percakapan berkelanjutan, dengan batas waktu idle tertentu (misalnya 30 menit atau beberapa jam tanpa pesan baru) yang menandai sesi itu berakhir. Begitu pelanggan kirim pesan baru setelah sesi lama berakhir, agent bisa memulai “lembar baru” \u2014 tidak otomatis menyeret konteks lama, tapi tetap punya akses ke riwayat itu kalau memang relevan dicari ulang (misalnya pelanggan bilang “soal pesanan kemarin itu”).<\/p>\n
Tidak ada angka baku yang berlaku semua bisnis. Untuk konteks transaksi cepat seperti pemesanan makanan, sesi yang idle 1-2 jam mungkin sudah cukup dianggap selesai. Untuk konteks yang butuh waktu berpikir pelanggan, seperti konsultasi properti atau renovasi, sesi yang sama bisa wajar berlanjut sampai berhari-hari karena pelanggan memang butuh waktu mempertimbangkan sebelum membalas lagi. Menentukan durasi ini idealnya disesuaikan dengan ritme alami bisnisnya, bukan dicontek begitu saja dari bisnis lain.<\/p>\n
Kalau sesi baru dimulai tanpa penanda apa pun, pelanggan bisa bingung kenapa agent “lupa” apa yang baru saja dibahas kemarin. Cara yang lebih halus adalah membiarkan agent tetap punya akses ke riwayat kalau pelanggan menyinggungnya secara eksplisit, sambil tidak secara otomatis mengasumsikan pesan baru berkaitan dengan sesi lama \u2014 beda dari benar-benar menghapus data, ini lebih ke soal apa yang secara default dianggap relevan oleh agent saat memulai balasan.<\/p>\n
Timeout sesi adalah salah satu keputusan desain kecil yang jarang dibahas eksplisit tapi berdampak nyata ke pengalaman pelanggan \u2014 terlalu pendek membuat agent terasa pelupa, terlalu panjang membuat agent terasa “nyangkut” di topik lama yang sudah tidak relevan. Menyesuaikan durasi ini dengan ritme alami bisnis, bukan angka default generik, adalah langkah kecil yang sering luput padahal berpengaruh ke kesan pertama pelanggan terhadap agent.<\/p>\n","protected":false},"excerpt":{"rendered":"
Kalau pelanggan chat dengan AI agent hari Senin, lalu kembali chat hari Kamis dengan topik yang sama sekali berbeda, apakah agent seharusnya masih mengingat konteks percakapan hari Senin? Ini pertanyaan desain yang sering luput dibahas dibanding topik yang lebih populer seperti halusinasi atau prompt injection, padahal berpengaruh langsung ke pengalaman pelanggan sehari-hari. Kenapa “selalu ingat … Read more<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-757","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/757","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/comments?post=757"}],"version-history":[{"count":1,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/757\/revisions"}],"predecessor-version":[{"id":766,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/757\/revisions\/766"}],"wp:attachment":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/media?parent=757"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/categories?post=757"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/tags?post=757"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}