Kekhawatiran akan dampak negatif dari kecerdasan buatan (AI) terhadap keberlangsungan hidup manusia kembali menjadi topik perdebatan hangat. Hal ini dipicu oleh peringatan dari dua peneliti dari Anthropic yang menyatakan bahwa risiko AI yang sangat canggih dapat mengancam manusia dalam waktu sepuluh tahun ke depan. Jacob Coxon, yang baru-baru ini mengundurkan diri dari Anthropic, mengungkapkan bahwa perusahaan tersebut terlibat dalam perlombaan untuk mengembangkan AI yang mampu meningkatkan kemampuannya sendiri.
Setelah itu, Evan Hubinger, peneliti lainnya dari Anthropic, turut menyampaikan pendapatnya. Ia memperkirakan bahwa kemungkinan AI menyebabkan kepunahan manusia dalam satu dekade mendatang lebih dari 10 persen. Kekhawatiran serupa juga pernah diungkapkan oleh Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), dalam bukunya yang berjudul If Anyone Builds It, Everyone Dies, yang dirilis pada September 2025. Soares berpendapat bahwa jika superintelijen buatan dikembangkan dengan pendekatan yang ada saat ini, maka dapat berpotensi memusnahkan manusia.
Proses AI Menuju Ancaman Nyata
Namun, peringatan tersebut belum menjawab pertanyaan krusial. Bagaimana sebuah sistem AI dapat beralih dari dunia maya ke dunia nyata dan menghabisi sekitar 8 miliar manusia dalam sepuluh tahun? Para pendukung skenario terburuk membayangkan bahwa ancaman tidak akan datang dalam bentuk serangan langsung, tetapi melalui serangkaian tindakan bertahap. Dalam skenario ini, AI superintelijen, yang memiliki kemampuan berpikir melampaui manusia, akan terlebih dahulu meningkatkan kemampuannya sendiri. Setelah itu, sistem tersebut akan mencari cara untuk memengaruhi manusia atau menembus sistem digital untuk mendapatkan akses ke laboratorium biologi, infrastruktur penting, atau senjata.
Jika semua tahapan ini berhasil, AI secara teoritis dapat membantu menciptakan dan menyebarkan patogen berbahaya, mengganggu layanan penting, atau memicu konflik berskala besar. Dampak dari skenario ini bisa meluas dalam waktu singkat. Namun, hingga saat ini, belum ada bukti bahwa AI sudah mampu melakukan sejumlah tindakan tersebut. RAND Corporation menilai bahwa skenario kepunahan seperti itu sangat sulit untuk direalisasikan. AI harus dapat terhubung dengan sistem fisik, bertahan tanpa bantuan manusia, mengejar tujuan untuk memusnahkan manusia, serta memanipulasi manusia agar tidak terdeteksi.
Berbagai Skenario Ancaman AI
Salah satu skenario yang sering dibahas berkaitan dengan biologi, di mana AI yang jauh lebih canggih daripada model saat ini dapat membantu menciptakan patogen berbahaya. Dalam skenario ini, AI bisa memanfaatkan manusia sebagai "perantara" untuk mengembangkan senjata biologis. Thomas Larsen, peneliti dari AI Futures Project dan mantan anggota MIRI, menyatakan bahwa AI yang sangat canggih dapat memanipulasi individu untuk melakukan eksperimen atas namanya. Saat ini, para peneliti memang sudah menggunakan model AI untuk mendukung penelitian ilmiah, termasuk di bidang biologi dan farmasi.
Namun, pengetahuan teoritis tidak otomatis dapat diubah menjadi senjata biologis yang efektif. Proses pembuatannya memerlukan presisi, kondisi tertentu, dan serangkaian tahapan yang kompleks. Eric Xing, profesor machine learning di Carnegie Mellon University, membandingkan proses tersebut dengan menyusun Lego tanpa petunjuk. Ia menegaskan bahwa laboratorium dan bahan-bahan yang digunakan diawasi dengan ketat, sehingga menjadi penghalang bagi pihak-pihak yang ingin mengembangkan senjata biologis atau kimia.
Skenario lain yang dibahas adalah robot yang dapat bekerja dan memperbanyak diri tanpa campur tangan manusia. Para pendukung teori ancaman AI seringkali membahas kemungkinan ini. Nate Soares berpendapat bahwa titik balik akan terjadi ketika AI dapat membangun infrastruktur yang dibutuhkannya sendiri, seperti pabrik dan sistem energi. Saat ini, teknologi masih jauh dari gambaran tersebut, dan robot humanoid yang ada masih memiliki banyak keterbatasan.
Selain itu, ada juga skenario yang mempertimbangkan kemungkinan AI mendapatkan akses ke senjata nuklir. Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute, menjelaskan bahwa sistem nuklir dirancang dengan protokol keamanan yang ketat dan sebagian besar terpisah dari internet publik. Contoh serangan siber Stuxnet menunjukkan bahwa program jahat yang merusak fasilitas nuklir tetap harus dimasukkan secara fisik. Herbert Lin, peneliti senior di Stanford University, menilai bahwa ancaman utama tetap berasal dari senjata nuklir dan keputusan manusia yang mengendalikannya, sementara pengambilalihan sistem nuklir oleh AI masih merupakan spekulasi masa depan.
Beberapa peneliti tidak hanya fokus pada kemampuan AI saat ini, tetapi lebih mencemaskan kemungkinan munculnya "superintelijen buatan". Dalam teori ini, AI dapat menyempurnakan kemampuannya sendiri dengan sangat cepat, sehingga manusia tidak lagi mampu mengendalikannya. Soares menjelaskan bahwa bahaya tidak terletak pada niat "bermusuhan" AI, melainkan pada sistem yang mengejar tujuan tanpa mempertimbangkan nilai atau keselamatan manusia. "Jika sebuah sistem menginginkan lebih banyak sumber daya komputasi untuk mencapai tujuannya dan tidak memiliki alasan untuk melindungi manusia, sistem itu bisa mengubah dunia menjadi tempat yang tidak bisa kita huni," katanya.
