Salah satu pertanyaan yang jarang diajukan secara eksplisit tapi sebenarnya penting saat merancang AI agent adalah: seberapa besar wewenang yang diberikan ke agent untuk bertindak sendiri? Ini yang disebut tingkat otonomi, dan menentukannya dengan sadar bisa jadi pembeda antara implementasi yang terasa membantu dan yang justru bikin was-was.
Tiga tingkat otonomi yang umum dipakai
- Sekadar memberi saran — agent menganalisis situasi dan memberi rekomendasi, tapi keputusan akhir dan eksekusi tetap di tangan manusia. Cocok untuk keputusan berisiko tinggi seperti approval pengeluaran besar.
- Bertindak dengan approval — agent menyiapkan aksi (draft balasan, draft laporan, draft transaksi) dan menunggu satu klik persetujuan sebelum benar-benar dieksekusi. Ini titik tengah yang paling banyak dipakai bisnis yang baru mulai.
- Bertindak sendiri sepenuhnya — agent langsung mengeksekusi tanpa menunggu approval, biasanya untuk tugas berisiko rendah dan sudah teruji seperti menjawab pertanyaan rutin atau mengirim reminder terjadwal.
Kenapa tidak semua tugas harus di level tertinggi
Ada anggapan bahwa AI agent yang “canggih” berarti agent yang bisa bertindak sepenuhnya sendiri. Padahal semakin tinggi dampak dari sebuah keputusan salah, semakin masuk akal untuk menahan agent di level otonomi yang lebih rendah — setidaknya sampai polanya benar-benar teruji dalam jangka waktu tertentu.
Sebaliknya, memaksa semua tugas (termasuk yang berisiko rendah dan berulang) melalui approval manusia justru menghilangkan sebagian besar manfaat otomasi itu sendiri — tim jadi sibuk menyetujui hal-hal kecil yang sebenarnya aman dilepas.
Cara memutuskan level yang tepat
Pertimbangan yang biasa dipakai: seberapa besar kerugian kalau agent salah, seberapa mudah kesalahan itu dikoreksi setelah terjadi, dan seberapa sering pola yang sama berulang. Tugas dengan risiko rendah dan pola yang jelas cocok diberi otonomi lebih tinggi; tugas dengan konsekuensi besar dan jarang terjadi lebih aman tetap butuh approval manusia.
Menentukan tingkat otonomi ini sebaiknya dilakukan sejak awal perancangan, bukan dipikirkan belakangan — karena ini yang menentukan seberapa besar kepercayaan tim terhadap agent yang mereka pakai sehari-hari.