Bill Gates Peringatkan Bahaya AI, 5 Buku Ini Ungkap Risikonya

**3. Supremacy karya Parmy Olson**

Supremacy karya Parmy Olson mengajak pembaca melihat persaingan AI melalui pertarungan antara OpenAI dan DeepMind, termasuk dua tokoh penting di balik perkembangan masing-masing perusahaan, Sam Altman dan Demis Hassabis.

Olson tidak hanya membahas pencapaian teknis AI, tetapi juga berbagai kepentingan komersial yang mengiringi perlombaan tersebut. Perusahaan AI harus bersaing mendapatkan investasi, talenta terbaik, kapasitas komputasi, sekaligus posisi dominan di pasar.

Di sinilah persoalan risiko menjadi semakin kompleks. Teknologi dengan dampak sosial yang sangat besar dikembangkan dalam lingkungan bisnis yang juga menuntut pertumbuhan dan kecepatan.

Supremacy menunjukkan bahwa persoalan AI tidak harus menunggu sampai mesin menjadi ‘bermusuhan’ dengan manusia.

Risiko dapat muncul lebih awal, ketika ambisi individu, tekanan bisnis, dan persaingan antarperusahaan ikut menentukan bagaimana teknologi tersebut dikembangkan dan digunakan.

**4. Nexus karya Yuval Noah Harari**

Yuval Noah Harari melalui Nexus menempatkan AI dalam konteks yang lebih luas, yakni sejarah manusia dalam membangun dan menggunakan jaringan informasi.

Harari mempertanyakan anggapan bahwa semakin banyak informasi secara otomatis akan menghasilkan keputusan yang lebih baik atau kebenaran yang lebih kuat.

Dalam sejarah, jaringan informasi juga dapat digunakan untuk menyebarkan kesalahan, mitos, propaganda, dan manipulasi.

AI membuat persoalan tersebut menjadi semakin rumit karena sistem ini tidak hanya menyimpan atau menyebarkan informasi. AI juga dapat menghasilkan gagasan, memberikan rekomendasi, mengambil keputusan, dan memengaruhi cara manusia memahami dunia.

Karena itu, Harari mengajukan pertanyaan penting mengenai apa yang terjadi ketika institusi mulai menyerahkan semakin banyak kewenangan kepada sistem yang memiliki kemampuan memengaruhi lingkungan informasi manusia.

Dalam perspektif ini, ancaman AI bukan semata-mata persoalan teknologi. Dampaknya dapat terlebih dahulu muncul dalam ranah politik, sosial, dan institusional sebelum berkembang menjadi persoalan yang lebih besar.

5. If Anyone Builds It, Everyone Dies karya Eliezer Yudkowsky dan Nate Soares

Dibandingkan empat buku sebelumnya, If Anyone Builds It, Everyone Dies karya Eliezer Yudkowsky dan Nate Soares menawarkan pandangan yang jauh lebih ekstrem mengenai risiko AI.

Keduanya berpendapat bahwa jika manusia berhasil menciptakan superintelligence atau kecerdasan buatan yang jauh melampaui kemampuan manusia, sistem tersebut pada akhirnya tidak akan dapat dikendalikan secara aman.

Inti kekhawatirannya adalah masalah alignment, yakni kemungkinan tujuan yang dimiliki AI tidak selaras dengan kepentingan manusia. Jika sebuah sistem memiliki kemampuan yang jauh lebih tinggi daripada manusia, kesalahan dalam menentukan atau menyelaraskan tujuan dapat membawa konsekuensi yang sangat serius.

Pandangan Yudkowsky dan Soares bersifat tegas dan kontroversial, serta tidak diterima secara universal oleh para peneliti AI.

Namun, buku ini tetap relevan karena menyajikan salah satu argumen paling kuat mengenai risiko ketika manusia kehilangan kendali atas sistem yang mereka ciptakan.