Salah satu kesalahan desain AI agent yang sering tidak terlihat dari luar adalah agent yang selalu terdengar yakin, bahkan untuk pertanyaan yang sebenarnya tidak punya jawaban pasti di data yang tersedia. Ini masalah karena jawaban yang terdengar percaya diri lebih mudah dipercaya pelanggan, padahal belum tentu benar.<\/p>\n
Untuk pertanyaan yang jawabannya memang jelas ada di data atau kebijakan bisnis, agent sebaiknya menjawab dengan yakin dan langsung. Tapi untuk pertanyaan di area abu-abu, misalnya menebak kebijakan yang belum pernah ditulis eksplisit di manapun, jawaban yang jujur mengakui ketidakpastian dan menawarkan untuk mengecek lebih lanjut jauh lebih aman dibanding jawaban yang terdengar pasti tapi sebenarnya hasil menebak.<\/p>\n
Model bahasa yang menjadi dasar AI agent secara alami cenderung menghasilkan jawaban dengan nada percaya diri, bahkan saat sebenarnya sedang berhalusinasi atau menebak. Tanpa instruksi eksplisit untuk mengenali dan mengomunikasikan ketidakpastian, agent akan terus menjawab dengan nada yang sama meyakinkannya baik untuk pertanyaan yang benar-benar dikuasai maupun yang sebenarnya di luar pengetahuannya.<\/p>\n
Pendekatan yang bisa dipakai adalah membedakan sumber jawaban secara eksplisit dalam instruksi agent: jawaban yang diambil langsung dari data terverifikasi (stok, harga, jadwal) boleh disampaikan dengan yakin, sementara jawaban yang memerlukan interpretasi atau tidak tercakup jelas di data yang ada harus disertai penanda ketidakpastian dan opsi eskalasi ke manusia. Ini berhubungan erat dengan topik halusinasi dan batas topik agent yang sudah dibahas sebelumnya, hanya saja fokusnya di sini lebih spesifik ke bagaimana agent mengomunikasikan tingkat keyakinannya, bukan sekadar menghindari jawaban salah.<\/p>\n","protected":false},"excerpt":{"rendered":"
Salah satu kesalahan desain AI agent yang sering tidak terlihat dari luar adalah agent yang selalu terdengar yakin, bahkan untuk pertanyaan yang sebenarnya tidak punya jawaban pasti di data yang tersedia. Ini masalah karena jawaban yang terdengar percaya diri lebih mudah dipercaya pelanggan, padahal belum tentu benar. Kenapa “saya tidak yakin” justru bisa jadi jawaban … Read more<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-628","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/628","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/comments?post=628"}],"version-history":[{"count":1,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/628\/revisions"}],"predecessor-version":[{"id":637,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/posts\/628\/revisions\/637"}],"wp:attachment":[{"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/media?parent=628"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/categories?post=628"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analisfakhri.my.id\/blog\/index.php\/wp-json\/wp\/v2\/tags?post=628"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}