Growthmates, pemanfaatan kecerdasan buatan (AI) dalam layanan pelanggan terus meningkat seiring kebutuhan perusahaan menghadirkan respons yang lebih cepat dan efisien.
Namun, di balik berbagai keunggulannya, terdapat tantangan besar yang tidak boleh diabaikan, yakni risiko AI menghasilkan informasi yang keliru atau dikenal sebagai AI hallucination.
General Manager IT Solution transcosmos Indonesia, Dimas Aditama, mengatakan, risiko tersebut menjadi perhatian utama, terutama bagi perusahaan yang bergerak di sektor-sektor sensitif seperti makanan, minuman, kesehatan, maupun produk konsumen.
Menurutnya, kesalahan informasi yang diberikan AI bukan sekadar berdampak pada kepuasan pelanggan, tetapi juga dapat berujung pada risiko kesehatan hingga merusak reputasi perusahaan.
"Sering kali pelanggan mengajukan pertanyaan yang terlihat sederhana, misalnya apakah kemasan produk yang penyok masih aman digunakan. Jawaban atas pertanyaan seperti ini sangat kritikal. Kalau kita mengatakan aman, konsumen akan mengonsumsinya. Kalau ternyata tidak aman, akan ada dampak terhadap kesehatan. Sebaliknya, kalau kita mengatakan tidak aman padahal sebenarnya masih layak, produk akan dibuang. Karena itu, misinformasi menjadi high risk ketika menerapkan AI dan bisa berdampak besar terhadap reputasi brand," papar Dimas, saat TransTalk Vol.4 bertajuk From Cost Center to Revenue Driver: How AI is Transforming Customer Operations into Business Growth yang diselenggarakan oleh transcosmos Indonesia (TCID), Selasa (4/8/2027).
Untuk meminimalkan risiko tersebut, Dimas menuturkan bahwa AI tidak boleh langsung memberikan jawaban. Sistem harus dirancang untuk terlebih dahulu mengumpulkan informasi yang cukup dari pelanggan sebelum menyimpulkan suatu kasus.
Ia mencontohkan, ketika pelanggan melaporkan kemasan produk penyok, AI perlu mengajukan sejumlah pertanyaan lanjutan, seperti apakah kemasan sudah dibuka, apakah terdapat perubahan warna, apakah segel masih utuh, hingga kondisi isi produk. Menurutnya, seluruh alur tersebut harus dibangun berdasarkan knowledge base yang sama seperti yang digunakan oleh agen layanan pelanggan.
"AI bisa kita latih agar tidak langsung memberikan kesimpulan. Ada beberapa aspek yang harus dipastikan terlebih dahulu sebelum AI menjawab. Dengan begitu, potensi kesalahan informasi bisa ditekan," katanya.
Selain itu, transcosmos Indonesia juga menerapkan mekanisme human takeover pada situasi tertentu. AI secara otomatis akan mengalihkan percakapan kepada agen manusia apabila menemukan kata kunci atau indikasi kasus yang memerlukan penanganan khusus, misalnya dugaan keracunan, kondisi darurat, atau permintaan pelanggan untuk berbicara langsung dengan petugas.
"Kalau pelanggan menyebut ada indikasi keracunan, AI tidak akan mencoba menjawab. Sistem langsung mengalihkan percakapan ke human agent karena kasus seperti itu membutuhkan penanganan yang lebih tepat dan melibatkan tenaga ahli," jelas Dimas.
Baca Juga: trans-AI Chat dari transcosmos Indonesia Hadirkan Customer Service Lebih Personal dan Humanis
Menurutnya, pendekatan tersebut menunjukkan bahwa AI bukan ditujukan untuk menggantikan peran manusia sepenuhnya. Sebaliknya, AI bertugas menangani pertanyaan yang bersifat berulang dan sederhana, sementara kasus yang kompleks tetap menjadi tanggung jawab tenaga profesional.
Lebih lanjut, Dimas mengungkapkan bahwa proses pengembangan AI juga dilakukan secara bertahap. Sebelum diterapkan secara penuh, sistem harus melalui fase proof of concept untuk mengukur tingkat akurasi jawaban, mengidentifikasi unknown keywords, serta mengevaluasi tingkat halusinasi AI.
"Kami tidak langsung mengimplementasikan AI. Kami melakukan pengujian terlebih dahulu, melihat seberapa banyak unknown keyword yang muncul dan bagaimana tingkat halusinasinya. Target kami adalah membuat skor halusinasi serendah mungkin, idealnya di bawah dua, sehingga kualitas jawaban tetap terjaga," ujarnya.
Ia menambahkan, keberhasilan implementasi AI juga sangat bergantung pada kualitas data yang dimiliki perusahaan. AI hanya dapat memberikan jawaban berdasarkan informasi yang tersedia, sehingga perusahaan harus memiliki knowledge base yang lengkap, akurat, dan selalu diperbarui.
"Challenge terbesar implementasi AI adalah apakah perusahaan memiliki knowledge base yang lengkap dan data yang benar-benar bisa digunakan untuk menjawab kebutuhan pelanggan. Selain itu, perusahaan juga perlu memiliki AI Governance yang jelas agar implementasinya tetap sesuai dengan regulasi perlindungan data pribadi maupun etika AI," kata Dimas.
Dimas melanjtukan, AI Governance menjadi fondasi penting agar setiap solusi AI yang diterapkan tetap aman, transparan, dan sesuai dengan kebijakan masing-masing perusahaan.
Di sisi lain, Dimas menegaskan bahwa kehadiran AI seharusnya dipandang sebagai alat untuk meningkatkan produktivitas, bukan menggantikan tenaga kerja.
"AI bukan dibuat untuk menggantikan manusia. Justru AI membantu menangani pertanyaan-pertanyaan sederhana yang jumlahnya sangat banyak, sehingga human agent bisa lebih fokus menangani kasus-kasus yang kompleks dan membutuhkan keahlian khusus. Dengan begitu operasional menjadi lebih efektif, efisien, sekaligus memberikan pengalaman pelanggan yang lebih baik," tutupnya.
Baca Juga: Bukan Sekadar Chatbot, Ini 5 Transformasi Contact Center Berkat Generative AI
