{"id":552,"date":"2026-08-31T20:01:00","date_gmt":"2026-08-31T13:01:00","guid":{"rendered":"https:\/\/analisfakhri.my.id\/blog\/?p=552"},"modified":"2026-08-31T20:01:00","modified_gmt":"2026-08-31T13:01:00","slug":"kenapa-ai-agent-perlu-tahu-batas-topiknya-sendiri-bukan-menjawab-apa-saja","status":"publish","type":"post","link":"https:\/\/analisfakhri.my.id\/blog\/index.php\/2026\/08\/31\/kenapa-ai-agent-perlu-tahu-batas-topiknya-sendiri-bukan-menjawab-apa-saja\/","title":{"rendered":"Kenapa AI Agent Perlu Tahu Batas Topiknya Sendiri, Bukan Menjawab Apa Saja"},"content":{"rendered":"

Agent yang tidak tahu batas topiknya sendiri<\/h2>\n

Ada kesalahan desain yang cukup umum tapi jarang disadari sampai benar-benar terjadi: AI agent yang dibuat untuk satu tujuan spesifik \u2014 misalnya menjawab pertanyaan soal reservasi restoran \u2014 tapi tetap mencoba menjawab apa pun yang ditanyakan pelanggan, termasuk hal yang sama sekali di luar cakupan bisnisnya. Pelanggan iseng bertanya soal cuaca hari ini, atau minta agent menuliskan puisi, dan agent dengan patuh mencoba menjawabnya karena secara teknis model di baliknya memang bisa menjawab hampir semua hal.<\/p>\n

Ini beda dari masalah ambiguitas bahasa, di mana maksud pelanggan tidak jelas. Di sini maksud pelanggan justru sangat jelas \u2014 mereka memang menanyakan sesuatu di luar topik \u2014 tapi agent tidak punya kesadaran bahwa dirinya seharusnya tidak menjawab pertanyaan semacam itu.<\/p>\n

Kenapa ini bukan sekadar hal lucu yang tidak berbahaya<\/h2>\n

Kelihatannya sepele \u2014 toh kalau agent bisa menjawab pertanyaan di luar topik dengan baik, apa salahnya? Masalahnya ada beberapa lapis. Pertama, ini bisa jadi celah yang sengaja dieksploitasi orang untuk menguji batas agent, kadang sampai memancing jawaban yang tidak pantas mewakili bisnis yang memasang agent itu. Kedua, setiap kali agent menjawab pertanyaan di luar topik, itu tetap memakan biaya pemrosesan yang sama seperti menjawab pertanyaan yang relevan \u2014 biaya yang seharusnya bisa dihindari.<\/p>\n

Ketiga, dan ini yang paling penting untuk reputasi bisnis, agent yang menjawab apa saja tanpa batas justru bisa merusak kepercayaan pelanggan terhadap jawabannya yang relevan. Kalau pelanggan tahu agent “asal jawab” untuk pertanyaan di luar topik, mereka jadi ragu apakah jawaban soal topik yang seharusnya dikuasai agent itu benar-benar bisa dipercaya.<\/p>\n

Menentukan batas topik sejak desain awal<\/h2>\n

Solusinya bukan mencoba membuat daftar lengkap semua pertanyaan yang harus ditolak \u2014 daftar seperti itu tidak akan pernah selesai karena variasi pertanyaan di luar topik nyaris tak terbatas. Pendekatan yang lebih realistis adalah mendefinisikan dengan jelas apa yang menjadi cakupan agent sejak awal, lalu menolak secara konsisten apa pun yang jelas-jelas di luar cakupan itu, dengan jawaban yang tetap sopan tapi tegas.<\/p>\n