Salah satu cara AI agent menjadi lebih baik dari waktu ke waktu adalah dengan mempelajari histori percakapan yang sudah pernah terjadi. Yang jadi pertanyaan etis adalah apakah pelanggan perlu tahu bahwa percakapan mereka bisa dipakai untuk keperluan ini, atau proses ini cukup berjalan diam-diam di belakang.
Beda dari Soal Bias Data Sampel
Ini berbeda dari persoalan apakah sampel percakapan yang dipakai untuk menyempurnakan AI agent representatif atau tidak. Yang dibahas di sini adalah soal keterbukaan ke pelanggan bahwa percakapan mereka mungkin dipakai untuk tujuan ini, bukan soal kualitas atau keterwakilan datanya.
Kenapa Transparansi Penting
Pelanggan yang tahu percakapannya bisa dipakai untuk melatih ulang sistem AI agent punya ekspektasi yang lebih realistis soal privasi mereka. Sebaliknya, kalau ini dilakukan tanpa pemberitahuan apa pun dan baru diketahui belakangan, bisa menimbulkan kesan bisnis menyembunyikan sesuatu, meskipun niatnya sebenarnya baik untuk meningkatkan kualitas layanan.
Bentuk Transparansi Tidak Harus Rumit
Pemberitahuan ini tidak perlu berupa dokumen panjang yang jarang dibaca. Kalimat singkat di awal percakapan atau di kebijakan layanan yang mudah diakses biasanya sudah cukup untuk memberi gambaran umum ke pelanggan, tanpa perlu menjelaskan detail teknis proses di baliknya.
Menjaga Kepercayaan Jangka Panjang
Bisnis yang terbuka soal bagaimana data percakapan dipakai cenderung lebih mudah menjaga kepercayaan pelanggan dalam jangka panjang, dibanding bisnis yang baru transparan setelah ada pertanyaan atau keluhan. Ini investasi kecil di awal yang menghindari masalah kepercayaan yang lebih besar di kemudian hari.