Titik Tanpa Kembali: Kenapa AI Agent Perlu Konfirmasi Ulang Sebelum Aksi yang Tidak Bisa Dibatalkan

Sebagian besar tindakan yang dilakukan AI agent bisa diperbaiki kalau ternyata salah, misalnya mengirim ulang pesan atau memperbarui data yang keliru. Tapi ada sebagian kecil tindakan yang begitu dieksekusi, tidak bisa ditarik kembali, seperti membatalkan pesanan, menghapus data pelanggan, atau mengirim pembayaran. Tindakan semacam ini butuh perlakuan berbeda dari tindakan biasa.

Beda dari approval berjenjang dan idempotency

Topik ini berbeda dari mekanisme approval berjenjang yang melibatkan banyak manusia dalam rantai persetujuan, dan juga berbeda dari idempotency yang fokus memastikan tindakan aman dijalankan berulang. Titik tanpa kembali di sini soal momen tunggal sebelum eksekusi, di mana agent perlu berhenti sejenak dan memastikan sekali lagi bahwa yang diminta pengguna memang benar-benar itu, bukan salah paham atas instruksi yang ambigu.

Konfirmasi ulang tidak sama dengan lambat

Ada anggapan bahwa menambah langkah konfirmasi akan membuat agent terasa lambat dan kurang efisien. Kenyataannya, konfirmasi singkat sebelum aksi ireversibel biasanya hanya menambah satu pertanyaan ya atau tidak, dan itu jauh lebih murah dibanding biaya memperbaiki kesalahan yang sudah terlanjur terjadi di dunia nyata, apalagi kalau menyangkut uang atau data pelanggan lain.

Menentukan tindakan mana yang layak dapat perlakuan ini

Tidak semua tindakan perlu konfirmasi ulang, karena kalau semuanya diperlakukan sama ketatnya, pengguna justru akan lelah menjawab konfirmasi dan mulai menjawab ya secara reflek tanpa benar-benar membaca. Bisnis perlu memetakan lebih dulu tindakan mana saja yang benar-benar tidak bisa dibatalkan, dan hanya menaruh langkah konfirmasi ekstra di titik-titik itu saja.

Leave a Comment