Laporan terbaru SAS yang memuat hasil riset International Data Corporation (IDC) mengungkap faktor yang mendorong organisasi berhasil memperoleh hasil dari investasi AI mereka, yaitu penerapan AI yang tepercaya. Organisasi yang menerapkan pendekatan AI tepercaya memiliki kemungkinan 15 kali lebih besar untuk melaporkan return on investment (ROI) yang tinggi dari proyek AI mereka.
Seperti diungkapkan dalam laporan tahunan kedua Data and AI Impact Report: The New Economics of Trust, organisasi dengan tata kelola, kualitas data dan kemampuan audit yang paling kuat, meski jumlahnya masih relatif kecil, secara konsisten mencatat kinerja yang lebih baik dibandingkan organisasi lainnya. Organisasi tersebut mencatat ROI dari penerapan AI setidaknya dua kali lebih tinggi. Sementara itu, kurang dari satu dari 20 organisasi yang masih tertinggal dalam penerapan AI tepercaya mencatat hasil yang sama.
Baca Juga: Model AI Canggih Permudah Serangan Siber, Ensign Infosecurity Tekankan Urgensi Solusi Keamanan Siber
“Ketika AI bekerja dengan baik, dampaknya sangat besar. Namun, berbagai penelitian menunjukkan bahwa agen AI mutakhir dapat memiliki tingkat kesalahan lebih dari 25% dalam menjalankan tugas-tugas kompleks, yang tidak dapat diterima dalam pengambilan keputusan berisiko tinggi. Untuk mencapai akurasi dan konsistensi, organisasi perlu mengintegrasikan keahlian di bidang terkait ke dalam alur kerja berbasis agen, sembari tetap menempatkan manusia sebagai pusat tata kelola dan pengawasan. Organisasi yang berhasil menerapkan pendekatan ini akan mampu mempersempit kesenjangan kepercayaan dan memperoleh keunggulan kompetitif di pasar melalui AI," jelas Bryan Harris, Chief Technology Officer, SAS.
Temuan dalam laporan ini mencakup tiga tema utama:
1. AI yang Tidak Dapat Menjelaskan Keputusannya Dapat Menjadi Risiko Besar bagi Bisnis
Seiring AI semakin mampu bekerja secara mandiri, karyawan cenderung ragu mengandalkan sistem yang tidak dapat memberikan hasil yang tepat atau menjelaskan bagaimana suatu keputusan dihasilkan. Kurangnya kepercayaan ini dapat membuat karyawan tidak mengikuti rekomendasi AI dan melakukan koreksi secara manual, yang pada akhirnya menyita waktu serta berdampak pada produktivitas dan profitabilitas organisasi. Kualitas keputusan AI pada dasarnya bergantung pada kualitas data yang digunakan. Karena itu, membangun fondasi data yang kuat menjadi hal yang sangat penting bagi organisasi yang ingin mengurangi kecenderungan karyawan untuk mengabaikan rekomendasi AI sekaligus meningkatkan kepercayaan terhadap AI.
- 97,2% pengguna tidak mengikuti rekomendasi yang dihasilkan AI setidaknya dalam beberapa kasus.
- Alasan utama karyawan tidak mengikuti rekomendasi AI, terlepas dari apakah hasil yang diberikan dianggap benar atau tidak, adalah ketika AI tidak dapat menjelaskan keputusan di balik rekomendasinya.
- Tingkat kepercayaan turun dari 76% pada AI generatif menjadi 66% pada AI berbasis agen, menunjukkan meningkatnya kekhawatiran seiring sistem AI memperoleh tingkat otonomi yang lebih tinggi.
2. Penerapan AI Tepercaya Mendorong Keberhasilan Bisnis
Temuan studi menunjukkan semakin lebarnya kesenjangan ROI antara organisasi yang memprioritaskan penerapan AI tepercaya dan organisasi yang tidak melakukannya. Organisasi yang memperoleh manfaat terbesar dari AI belum tentu menggunakan teknologi yang berbeda, melainkan menerapkan pendekatan yang berbeda dalam mengelola AI.
- Organisasi yang berinvestasi dalam penerapan AI tepercaya memiliki kemungkinan 15 kali lebih besar untuk mencatat ROI yang tinggi dari proyek AI mereka (62% dibandingkan 4%).
- Organisasi dengan penerapan AI tepercaya yang paling kuat memperoleh peningkatan 1,85 kali lebih besar di 13 indikator hasil bisnis, termasuk pertumbuhan pendapatan, penghematan biaya dan pengalaman pelanggan.
- 85% pemimpin AI dengan penerapan AI tepercaya meningkatkan investasi di area ini lebih dari 10% tahun ini, sehingga semakin memperlebar kesenjangan kinerja.
3. Fondasi Data yang Lemah Menghambat Organisasi
Di tengah meningkatnya adopsi AI, sebagian besar organisasi masih menerapkan AI dengan dukungan data dan infrastruktur data yang belum memadai atau sudah tertinggal. Tanpa fondasi data yang kuat untuk mendukung transparansi dan kemampuan menjelaskan keputusan AI, organisasi akan kesulitan mengelola AI secara efektif dan memperoleh manfaat dari penerapannya.
- Hanya 17,5% perusahaan yang memiliki infrastruktur data yang sepenuhnya optimal dan cukup matang untuk memenuhi kebutuhan AI berbasis agen, yang berdampak negatif terhadap kinerja.
- Organisasi dengan fondasi data yang optimal memiliki kemungkinan empat kali lebih besar untuk mengharapkan ROI yang tinggi dari proyek AI dan enam kali lebih besar untuk menerapkan kontrol kualitas data dan kemampuan menjelaskan keputusan AI yang diperlukan untuk membangun kepercayaan.
Temuan ini didasarkan pada survei global terhadap 2.699 pengambil keputusan yang memiliki pengetahuan mengenai atau pengaruh terhadap inisiatif data dan AI di organisasi mereka. Survei dilakukan di 28 negara dan mencakup empat industri utama: perbankan, asuransi, ilmu hayati dan sektor publik.
