Growthmates, selama bertahun-tahun, Bill Gates melihat kecerdasan buatan atau artificial intelligence (AI) sebagai teknologi yang berpotensi membawa perubahan besar dalam berbagai bidang, mulai dari kesehatan, pendidikan, hingga produktivitas.
Namun, optimisme tersebut berjalan beriringan dengan kekhawatiran yang semakin serius.
Gates menilai, dunia belum sepenuhnya siap menghadapi berbagai konsekuensi yang mungkin muncul akibat perkembangan AI, termasuk hilangnya lapangan pekerjaan, kejahatan siber, bioterorisme, manipulasi informasi, hingga kemungkinan munculnya sistem yang sulit dikendalikan manusia.
Kekhawatiran itu sebenarnya bukan hanya datang dari Gates. Sejumlah buku dalam beberapa tahun terakhir turut membahas sisi lain perkembangan AI, dari persoalan tata kelola dan konsentrasi kekuasaan hingga risiko ketika kecerdasan buatan berkembang melampaui kemampuan manusia untuk mengendalikannya.
Dan, dikutip dari Times Now News, Jumat (28/8/2026), berikut 5 buku yang dapat membantu memahami mengapa kekhawatiran terhadap AI semakin mendapat perhatian.
1. The Coming Wave karya Mustafa Suleyman dan Michael Bhaskar
Dalam The Coming Wave, Mustafa Suleyman bersama Michael Bhaskar membahas persoalan yang semakin sulit diabaikan, seperti perkembangan teknologi bergerak jauh lebih cepat daripada kemampuan pemerintah dan institusi untuk mengaturnya.
Buku ini mengeksplorasi perkembangan AI dan biologi sintetik, sekaligus berbagai insentif ekonomi dan politik yang mendorong kemajuan teknologi tersebut.
Suleyman tidak mengambil posisi sebagai pihak yang menolak teknologi. Sebaliknya, ia berusaha mencari cara agar inovasi tetap berkembang tanpa mengorbankan kemampuan masyarakat untuk mengendalikannya.
Menurut pandangannya, tantangan terbesar bukan sekadar bagaimana menciptakan teknologi yang semakin canggih, tetapi bagaimana memastikan teknologi tersebut tetap berada dalam batas yang dapat diawasi manusia.
Gates sendiri telah beberapa kali merekomendasikan buku ini. Salah satu alasan pentingnya adalah persoalan pengendalian teknologi, yang dipandang sebagai salah satu tantangan terbesar yang akan dihadapi masyarakat dalam beberapa dekade mendatang.
2. Empire of AI karya Karen Hao
Jika The Coming Wave banyak membahas tantangan pengendalian teknologi, Empire of AI karya Karen Hao membawa perhatian pada pertanyaan lain, siapa yang sebenarnya memiliki kekuasaan atas perkembangan AI?
Alih-alih berfokus pada skenario kiamat teknologi di masa depan, Hao melihat bagaimana kekuatan dan sumber daya AI telah terkonsentrasi sejak saat ini.
Melalui liputannya, ia mengulas perkembangan OpenAI, persaingan memperoleh sumber daya komputasi, serta berbagai infrastruktur manusia dan lingkungan yang menopang industri AI.
Buku ini mempertanyakan siapa yang memiliki hak dan kekuatan untuk menentukan arah teknologi yang semakin terintegrasi dalam kehidupan masyarakat.
Dengan demikian, risiko AI tidak hanya berasal dari kemungkinan munculnya mesin yang terlalu kuat. Ada pula risiko yang muncul ketika perusahaan dan organisasi yang mengembangkan teknologi tersebut memiliki kekuasaan yang semakin besar dan sulit ditantang.
Baca Juga: Ingin Sukses seperti Warren Buffett? Baca 6 Buku Rekomendasi Investor Legendaris Ini
3. Supremacy karya Parmy Olson
Supremacy karya Parmy Olson mengajak pembaca melihat persaingan AI melalui pertarungan antara OpenAI dan DeepMind, termasuk dua tokoh penting di balik perkembangan masing-masing perusahaan, Sam Altman dan Demis Hassabis.
Olson tidak hanya membahas pencapaian teknis AI, tetapi juga berbagai kepentingan komersial yang mengiringi perlombaan tersebut. Perusahaan AI harus bersaing mendapatkan investasi, talenta terbaik, kapasitas komputasi, sekaligus posisi dominan di pasar.
Di sinilah persoalan risiko menjadi semakin kompleks. Teknologi dengan dampak sosial yang sangat besar dikembangkan dalam lingkungan bisnis yang juga menuntut pertumbuhan dan kecepatan.
Supremacy menunjukkan bahwa persoalan AI tidak harus menunggu sampai mesin menjadi ‘bermusuhan’ dengan manusia.
Risiko dapat muncul lebih awal, ketika ambisi individu, tekanan bisnis, dan persaingan antarperusahaan ikut menentukan bagaimana teknologi tersebut dikembangkan dan digunakan.
4. Nexus karya Yuval Noah Harari
Yuval Noah Harari melalui Nexus menempatkan AI dalam konteks yang lebih luas, yakni sejarah manusia dalam membangun dan menggunakan jaringan informasi.
Harari mempertanyakan anggapan bahwa semakin banyak informasi secara otomatis akan menghasilkan keputusan yang lebih baik atau kebenaran yang lebih kuat.
Dalam sejarah, jaringan informasi juga dapat digunakan untuk menyebarkan kesalahan, mitos, propaganda, dan manipulasi.
AI membuat persoalan tersebut menjadi semakin rumit karena sistem ini tidak hanya menyimpan atau menyebarkan informasi. AI juga dapat menghasilkan gagasan, memberikan rekomendasi, mengambil keputusan, dan memengaruhi cara manusia memahami dunia.
Karena itu, Harari mengajukan pertanyaan penting mengenai apa yang terjadi ketika institusi mulai menyerahkan semakin banyak kewenangan kepada sistem yang memiliki kemampuan memengaruhi lingkungan informasi manusia.
Dalam perspektif ini, ancaman AI bukan semata-mata persoalan teknologi. Dampaknya dapat terlebih dahulu muncul dalam ranah politik, sosial, dan institusional sebelum berkembang menjadi persoalan yang lebih besar.
5. If Anyone Builds It, Everyone Dies karya Eliezer Yudkowsky dan Nate Soares
Dibandingkan empat buku sebelumnya, If Anyone Builds It, Everyone Dies karya Eliezer Yudkowsky dan Nate Soares menawarkan pandangan yang jauh lebih ekstrem mengenai risiko AI.
Keduanya berpendapat bahwa jika manusia berhasil menciptakan superintelligence atau kecerdasan buatan yang jauh melampaui kemampuan manusia, sistem tersebut pada akhirnya tidak akan dapat dikendalikan secara aman.
Inti kekhawatirannya adalah masalah alignment, yakni kemungkinan tujuan yang dimiliki AI tidak selaras dengan kepentingan manusia. Jika sebuah sistem memiliki kemampuan yang jauh lebih tinggi daripada manusia, kesalahan dalam menentukan atau menyelaraskan tujuan dapat membawa konsekuensi yang sangat serius.
Pandangan Yudkowsky dan Soares bersifat tegas dan kontroversial, serta tidak diterima secara universal oleh para peneliti AI.
Namun, buku ini tetap relevan karena menyajikan salah satu argumen paling kuat mengenai risiko ketika manusia kehilangan kendali atas sistem yang mereka ciptakan.
Baca Juga: Elon Musk Ungkap 5 Buku Terbaik yang Menginspirasinya Membangun SpaceX dan Tesla
