Yang jarang dibahas: apa yang terjadi kalau semua orang chat sekaligus
Sebagian besar pembahasan soal AI agent fokus ke satu percakapan pada satu waktu — bagaimana agent menjawab, bagaimana agent menangani ambiguitas, bagaimana agent eskalasi ke manusia. Yang lebih jarang dibahas adalah apa yang terjadi kalau ratusan pelanggan mengirim pesan dalam waktu yang nyaris bersamaan, misalnya saat promo flash sale baru diumumkan atau saat ada berita yang bikin semua orang penasaran sekaligus.
Ini bukan skenario yang jarang terjadi. Justru momen-momen bisnis paling ramai — promo besar, launching produk baru, isu viral — adalah momen di mana lonjakan chat paling mungkin terjadi, tepat di saat bisnis paling butuh sistem yang responsif.
Kenapa lebih banyak permintaan tidak otomatis berarti lebih lambat semua
Ada asumsi keliru bahwa kalau permintaan meningkat, semua pelanggan otomatis akan menunggu lebih lama secara merata. Yang sebenarnya terjadi tergantung bagaimana sistem di baliknya dirancang menangani lonjakan itu. Beberapa sistem memilih pendekatan antrean — permintaan yang masuk diproses berurutan sesuai kapasitas yang tersedia, sehingga semua orang tetap mendapat jawaban, hanya saja belakangan yang masuk harus menunggu lebih lama. Sistem lain memilih pendekatan yang lebih ketat: begitu kapasitas penuh, permintaan tambahan langsung ditolak atau diberi jawaban otomatis sederhana tanpa diproses penuh, supaya permintaan yang sudah masuk lebih dulu tidak ikut melambat.
- Pendekatan antrean — semua permintaan akhirnya diproses, tapi waktu tunggu bisa bertambah panjang saat lonjakan tinggi.
- Pendekatan batasi-dan-tolak — permintaan yang melebihi kapasitas ditangani secara sederhana atau ditunda, supaya permintaan lain tetap cepat.
Tidak ada satu pendekatan yang selalu lebih baik — pilihannya tergantung sifat bisnis. Bisnis di mana keterlambatan jawaban masih bisa ditoleransi (misalnya pertanyaan info produk) mungkin lebih cocok pakai antrean. Bisnis dengan situasi yang butuh respons cepat konsisten (misalnya konfirmasi transaksi) mungkin lebih baik membatasi ketat dan mengarahkan sisanya ke jalur lain, seperti FAQ otomatis atau nomor cadangan.
Sinyal yang perlu diperhatikan sebelum lonjakan benar-benar terjadi
Bisnis yang tahu akan ada momen ramai — jadwal promo, peluncuran produk, musim ramai tahunan — punya keuntungan bisa mempersiapkan sistem lebih dulu, bukan bereaksi setelah masalah muncul. Ini termasuk memastikan kapasitas pemrosesan cukup untuk memperkirakan lonjakan, atau menyiapkan jawaban otomatis sederhana untuk pertanyaan yang paling sering muncul di momen tertentu, supaya tidak semua pertanyaan perlu diproses penuh oleh agent utama.
Sebaliknya, lonjakan yang datang tanpa peringatan — misalnya bisnis yang tiba-tiba viral tanpa direncanakan — jauh lebih sulit diantisipasi, dan di sinilah pentingnya memiliki rencana cadangan yang jelas: siapa yang dihubungi kalau sistem kewalahan, dan bagaimana pelanggan diberi tahu kalau mereka harus menunggu lebih lama dari biasanya, alih-alih dibiarkan menunggu tanpa kepastian.
Kejujuran ke pelanggan lebih penting daripada janji kecepatan yang tidak realistis
Prinsip yang paling sering terlupakan saat merancang sistem untuk skenario lonjakan adalah: pelanggan biasanya lebih bisa menerima waktu tunggu yang lebih lama kalau mereka diberi tahu secara jujur, dibanding dibiarkan menunggu tanpa penjelasan sama sekali. Pesan sederhana seperti “sedang banyak permintaan, mohon tunggu beberapa saat” jauh lebih baik daripada sistem yang diam total atau memberi jawaban yang terasa terlambat tanpa konteks kenapa itu terjadi.