Saat membaca penawaran atau mengikuti presentasi tentang AI agent, Anda mungkin bertemu banyak istilah teknis. Memahami artinya membantu Anda bertanya dengan tepat dan tidak mudah terkesan oleh jargon. Berikut sepuluh istilah yang paling sering muncul.
- LLM (Large Language Model). Model bahasa besar yang menjadi “otak” agent, dilatih dari banyak teks sehingga bisa memahami dan menulis bahasa manusia.
- Prompt atau instruksi. Teks panduan yang memberi tahu agent peran, gaya, dan batasannya.
- Context window. Jumlah teks yang bisa “dilihat” model sekaligus dalam satu percakapan. Di luar itu, informasi bisa terlupakan.
- RAG (Retrieval-Augmented Generation). Cara agent mencari informasi di dokumen bisnis Anda terlebih dahulu, lalu menjawab berdasarkan hasil pencarian itu.
- Tools. Kemampuan yang diberikan ke agent selain berbicara, misalnya mengecek jadwal, mencari data pesanan, atau mengirim pesan.
- Halusinasi. Saat model menjawab dengan yakin padahal isinya tidak benar atau mengarang. Ini risiko nyata yang perlu dikurangi lewat desain, bukan diabaikan.
- Guardrail. Batasan yang menjaga agent tetap di jalurnya, misalnya topik yang tidak boleh dibahas atau tindakan yang butuh persetujuan.
- Handoff atau eskalasi. Saat agent menyerahkan percakapan ke manusia karena kasusnya di luar kemampuan atau terlalu sensitif.
- Integrasi. Penyambungan agent ke sistem lain seperti kalender, kasir, atau CRM supaya bisa membaca dan menulis data.
- Latensi. Waktu tunggu antara pesan dikirim dan balasan muncul.
Pertanyaan yang bisa Anda ajukan ke vendor
- Informasi agent berasal dari mana, dan siapa yang memperbaruinya?
- Apa yang terjadi kalau agent tidak tahu jawabannya?
- Tindakan apa saja yang boleh dilakukan agent tanpa persetujuan manusia?
- Bagaimana saya bisa melihat percakapan yang sudah terjadi?
- Apa yang dibutuhkan dari sisi saya agar agent tetap akurat?
Vendor yang baik akan menjawab dengan bahasa yang bisa Anda pahami. Kalau semua jawaban hanya berisi jargon tambahan, itu tanda untuk bertanya lebih lanjut. Dan kalau Anda ingin membahas istilah mana yang relevan untuk kebutuhan bisnis Anda, tim Kantor AI terbuka untuk berdiskusi.