Salah satu kesalahpahaman umum soal AI agent adalah anggapan bahwa tujuannya menghilangkan keterlibatan manusia sepenuhnya. Pada praktiknya, agent yang dirancang bertanggung jawab justru punya titik-titik tertentu di mana ia sengaja berhenti dan menyerahkan keputusan ke manusia — konsep yang biasa disebut human-in-the-loop.
Kenapa Bukan Full-Otomatis di Semua Titik
Ada dua alasan utama kenapa full-otomatis bukan selalu pilihan yang tepat. Pertama, ada keputusan yang konsekuensinya besar atau sulit dibatalkan — misalnya pembatalan pesanan dalam jumlah besar, pengembalian dana, atau perubahan data kontrak. Kedua, ada situasi yang polanya belum pernah ditemui sebelumnya, di mana agent tidak punya cukup konteks untuk yakin dengan keputusannya sendiri.
Di titik-titik ini, membiarkan agent tetap “menebak” jawaban terbaik justru berisiko lebih besar dibanding sedikit memperlambat proses dengan melibatkan manusia.
Bentuk Human-in-the-Loop yang Umum
Praktiknya bisa bermacam-macam. Ada yang menerapkan approval manual sebelum aksi tertentu dijalankan (misalnya agent menyiapkan draf refund, tapi staf yang menekan tombol konfirmasi). Ada yang menerapkan eskalasi otomatis — kalau confidence agent terhadap suatu jawaban rendah, atau kata kunci tertentu terdeteksi (komplain serius, permintaan hukum, dll), percakapan langsung dialihkan ke staf manusia. Ada juga model review berkala, di mana agent boleh bertindak otonom tapi hasilnya diaudit manusia secara rutin untuk mendeteksi pola kesalahan.
Menentukan Titik yang Tepat
Tidak ada rumus baku soal di mana persisnya garis itu ditarik — itu tergantung pada risiko bisnis, jenis industri, dan seberapa besar dampak dari kesalahan yang mungkin terjadi. Yang lebih penting adalah proses menentukannya dilakukan secara sadar, bukan dibiarkan default begitu saja karena “biar praktis”. Bisnis yang menaruh AI agent di sistemnya sebaiknya secara eksplisit mendaftar: keputusan apa saja yang boleh diambil agent sendiri, dan mana yang wajib menunggu persetujuan manusia. Daftar ini juga perlu ditinjau ulang seiring waktu, karena tingkat kepercayaan terhadap agent biasanya berubah setelah melihat rekam jejaknya.