Salah satu risiko yang sering terlewat saat merancang AI agent untuk layanan pelanggan adalah kemungkinan agent menjanjikan sesuatu yang sebenarnya bukan wewenangnya — misalnya menyetujui refund, memberi diskon kompensasi, atau memastikan garansi berlaku untuk kasus yang sebenarnya di luar ketentuan. Begitu janji itu terucap dalam chat, pelanggan wajar menganggapnya sebagai komitmen resmi dari bisnis.
Kenapa ini bisa terjadi
Model AI pada dasarnya dirancang untuk terdengar membantu dan meyakinkan. Tanpa batasan yang jelas, agent bisa saja berusaha “menyelesaikan” keluhan pelanggan dengan cara yang terdengar solutif — termasuk menjanjikan kompensasi yang sebenarnya perlu persetujuan manusia lebih dulu. Ini bukan karena agent “berbohong” secara sengaja, melainkan karena tidak ada batasan eksplisit yang membedakan mana yang boleh dijanjikan langsung dan mana yang harus dieskalasi dulu.
Konsekuensi kalau dibiarkan
Kalau agent sempat menjanjikan sesuatu di luar kebijakan resmi, bisnis biasanya menghadapi dua pilihan yang sama-sama tidak enak: menepati janji yang sebenarnya tidak seharusnya dibuat, atau menolak janji itu dan membuat pelanggan merasa dipermainkan. Kedua pilihan ini sama-sama merugikan dibanding kalau dari awal agent memang tidak pernah membuat janji sepihak semacam itu.
Cara mencegahnya di level instruksi
Solusi paling mendasar adalah menetapkan secara eksplisit di instruksi agent daftar hal yang boleh dan tidak boleh dijanjikan langsung. Untuk kasus yang menyentuh uang, garansi, atau kompensasi khusus, agent sebaiknya dirancang untuk menyampaikan bahwa permintaan tersebut akan diteruskan ke tim terkait untuk ditinjau, bukan langsung memberi kepastian. Bahasa yang dipakai pun perlu dijaga supaya tidak terdengar seperti janji pasti, misalnya menghindari kata-kata seperti “pasti bisa” atau “dijamin” untuk hal yang belum benar-benar disetujui.
Keseimbangan dengan tetap terasa membantu
Membatasi wewenang agent bukan berarti membuatnya terdengar kaku atau tidak peduli. Agent tetap bisa menunjukkan empati dan mengonfirmasi bahwa keluhan pelanggan didengar, sambil tetap jujur bahwa keputusan akhir soal kompensasi bukan wewenangnya. Kejujuran soal batas wewenang ini justru lebih membangun kepercayaan dibanding janji yang terdengar bagus di awal tapi berisiko tidak bisa ditepati.