Retry otomatis membantu AI agent mengatasi kegagalan sementara tanpa campur tangan manusia, tapi retry yang tidak dibatasi bisa jadi masalah baru — mulai dari tindakan ganda sampai antrian permintaan yang menumpuk. Retry budget adalah cara menentukan batas wajar sebelum sebuah percobaan dianggap gagal total.
Retry tanpa batas sama bahayanya dengan tidak retry sama sekali
Kalau agent terus mencoba ulang tanpa batas jumlah percobaan, satu masalah kecil bisa memicu ratusan percobaan yang justru memperparah beban sistem atau membuat tindakan yang seharusnya sekali jalan malah terjadi berkali-kali. Menentukan batas jumlah percobaan — misalnya tiga kali dengan jeda waktu yang meningkat di tiap percobaan — membuat perilaku agent lebih bisa diprediksi saat terjadi gangguan.
Retry budget beda dari circuit breaker
Circuit breaker berfungsi menghentikan sementara seluruh permintaan ke sebuah layanan saat kegagalan beruntun terdeteksi, sementara retry budget lebih spesifik mengatur berapa kali satu tugas tertentu boleh dicoba ulang sebelum ditandai gagal. Keduanya saling melengkapi — circuit breaker menjaga sistem secara keseluruhan, retry budget menjaga perilaku di level satu tugas.
Setelah budget habis, eskalasi harus jelas arahnya
Batas percobaan yang baik tidak ada gunanya kalau tidak jelas apa yang terjadi setelah batas itu tercapai. Bisnis perlu menentukan sejak awal, apakah tugas yang gagal setelah menghabiskan retry budget akan diteruskan ke manusia, disimpan untuk dicoba manual nanti, atau dilaporkan sebagai kegagalan yang perlu ditindaklanjuti. Tanpa arah yang jelas ini, tugas yang gagal berisiko hilang begitu saja tanpa ada yang menyadarinya.