KOMPAS.com - Jacob Coxon, seorang peneliti yang bekerja di perusahaan kecerdasan buatan (AI) Anthropic, mengumumkan pengunduran dirinya dengan menyampaikan kekhawatiran mengenai perlombaan antara Anthropic dan OpenAI dalam mengembangkan teknologi yang berpotensi lepas kendali. Pengumuman tersebut disampaikan melalui akun media sosial X pada Rabu (9/9/2026). Selama tiga tahun terakhir, Coxon terlibat dalam penelitian pelatihan awal model AI, dimulai dari OpenAI dan kemudian di Anthropic.
"Saya mengundurkan diri dari Anthropic hari ini. Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlari menuju kecerdasan super yang bisa memperbaiki dirinya sendiri, dan mempertaruhkan nyawa kita," tulis Coxon dalam unggahannya. Prapelatihan yang dimaksud adalah fase awal dalam pengembangan model AI, di mana model tersebut dilatih dengan data dalam jumlah yang sangat besar. Konsep kecerdasan yang dapat memperbaiki dirinya sendiri merujuk pada sistem yang mampu meningkatkan kemampuannya tanpa banyak intervensi manusia. Meskipun kemampuan ini belum sepenuhnya terwujud, banyak perusahaan AI yang sedang berupaya mencapainya.
Kekhawatiran Terhadap Masa Depan Teknologi AI
Coxon berpendapat bahwa dalam waktu dekat, teknologi ini dapat menghasilkan sistem yang melebihi kemampuan manusia. Ia memperingatkan bahwa sistem tersebut dapat meretas berbagai hal, mengubah berbagai bidang dalam waktu singkat, serta mengumpulkan kekuasaan dan sumber daya yang signifikan. "Jangan meremehkan kekuatan teknologi ini. Kita semua sudah menyaksikan kemajuan di masing-masing bidang itu, dan kemajuannya tidak melambat," tambahnya.
Ia menegaskan bahwa peringatan ini bukan sekadar taktik pemasaran. "Orang-orang yang membangun AI sangat percaya teknologi ini bisa membunuh kita semua pada akhir dekade ini. Ini bukan gimmick pemasaran," tulisnya. Coxon juga mencatat bahwa banyak pemimpin dan peneliti senior yang cenderung memperhalus pernyataan mereka di depan publik, meskipun secara pribadi mereka mengungkapkan ketakutan yang sama. "Tidak ada aktivitas manusia lain yang bahayanya setinggi ini," lanjutnya.
Keputusan untuk Meninggalkan Industri AI
Wall Street Journal (WSJ) melaporkan bahwa pengunduran diri Coxon menjadi salah satu contoh awal karyawan Anthropic yang meninggalkan perusahaan karena kekhawatiran mengenai keamanan AI. Coxon menjelaskan bahwa ia tidak hanya meninggalkan Anthropic, tetapi juga industri AI secara keseluruhan. Ia mengungkapkan bahwa situasi ini dapat menjadi tidak terkendali pada akhir tahun depan. "Kalau memang percaya, kenapa masih dibangun?" tanyanya, yang merupakan pertanyaan umum yang sering diajukan orang.
Menurut Coxon, jawaban untuk pertanyaan tersebut berbeda antara OpenAI dan Anthropic. Di OpenAI, banyak orang belum sepenuhnya menyadari besarnya risiko yang dihadapi peradaban, sementara di Anthropic, risiko tersebut dipahami dengan baik. Namun, ia mencatat bahwa perusahaan merasa terjebak dalam perlombaan untuk mencapai tujuan lebih dulu, dengan keyakinan bahwa tidak ada pihak lain yang akan bertindak secara bertanggung jawab. "Menerima perlombaan ini dan memasuki babak akhir adalah pertaruhan sombong yang tidak seharusnya diluncurkan dari kanal Slack sebuah perusahaan swasta," ungkapnya.
Coxon menambahkan bahwa upaya untuk menyelesaikan alignment AI secara cepat seharusnya memerlukan keyakinan yang luar biasa bahwa tidak ada jalur lain yang lebih baik. Ia juga merujuk pada pernyataan dari Evan Hubinger, pemimpin Alignment Science di Anthropic, yang mengakui bahwa mereka percaya AI dapat membunuh manusia. Hubinger menilai peluang tersebut lebih dari 10 persen dalam dekade mendatang dan menyatakan bahwa mereka belum memiliki rencana untuk menyelesaikan alignment bagi kecerdasan super.
Hubinger juga mengungkapkan kekhawatiran terhadap ancaman yang mungkin muncul dari model AI yang dapat memperbaiki dirinya sendiri secara berulang. Ia memimpin tim yang bertugas menemukan kelemahan dalam teknik alignment yang diterapkan oleh Anthropic, agar kelemahan tersebut dapat diidentifikasi sebelum muncul dalam model yang digunakan publik.
