Blog ini pernah membahas secara umum bahwa AI agent dibangun dari kombinasi LLM, tools, dan memory. Artikel ini masuk lebih dalam ke salah satu bagian itu, yaitu function calling, mekanisme yang membuat agent bisa benar-benar melakukan sesuatu di sistem lain, bukan cuma menjawab dengan teks.
Beda dengan pembahasan sebelumnya soal tools
Sebelumnya dijelaskan bahwa agent butuh akses ke tools untuk bertindak. Function calling adalah cara teknis di balik itu, yaitu model dilatih untuk mengenali kapan sebuah pertanyaan butuh dijawab dengan memanggil fungsi tertentu, lalu menyusun parameter yang dibutuhkan fungsi itu dari percakapan yang sedang berlangsung.
Bagaimana cara kerjanya secara sederhana
Model diberi daftar fungsi yang tersedia beserta deskripsi dan parameter yang dibutuhkan, misalnya fungsi cek_stok yang butuh parameter nama_barang. Saat pelanggan bertanya soal stok, model memutuskan untuk memanggil fungsi itu dengan parameter yang sesuai, sistem menjalankan fungsi tersebut ke database sebenarnya, lalu hasilnya dikembalikan ke model untuk disusun jadi jawaban dalam bahasa natural.
Contoh penerapan sehari-hari
- Cek stok atau harga dari database toko secara langsung, bukan dari pengetahuan model yang bisa ketinggalan zaman
- Membuat booking atau reservasi ke sistem kalender yang sedang dipakai bisnis
- Mengirim notifikasi atau update status ke sistem lain seperti CRM
- Menghitung sesuatu secara presisi lewat fungsi kalkulasi, karena model bahasa sendiri kurang andal untuk hitungan rumit
Batas dan risiko yang perlu diperhatikan
Function calling membuat agent punya kemampuan bertindak nyata, sehingga kesalahan pemanggilan fungsi bisa berdampak langsung, misalnya salah membuat booking atau salah parameter saat mengubah data. Karena itu fungsi yang berisiko tinggi biasanya perlu langkah konfirmasi tambahan sebelum benar-benar dieksekusi, bukan langsung dijalankan begitu model memutuskan memanggilnya.