Kompensasi dari kepercayaan terhadap teknologi berujung pada kerugian besar bagi seorang petani di Chuzhou, China. Dalam waktu satu malam, petani bernama Wu kehilangan semua hasil panennya di lahan seluas 10 hektare setelah mengikuti saran dari chatbot AI mengenai pengendalian hama dan gulma. Wu, yang berusia 67 tahun, telah menggunakan aplikasi AI untuk bertani selama setahun terakhir dan awalnya skeptis terhadap rekomendasi yang diberikan. Namun, seiring waktu, ia mulai percaya karena saran-saran tersebut terbukti efektif dan meningkatkan hasil pertaniannya.
Masalah muncul ketika Wu menghadapi serangan gulma dan hama di lahannya. Dengan keyakinan penuh, ia menghubungi asisten AI-nya untuk meminta rekomendasi pestisida yang tepat. Mesin AI tersebut memberikan instruksi rinci tentang bahan kimia yang harus dicampur, termasuk "flupyrimethalin efisiensi tinggi" dan "flusulfasulfaether" untuk mengatasi gulma, serta "thiamethoxazine" dan "methyl salt" untuk mengendalikan hama. Tanpa melakukan pengecekan lebih lanjut, Wu langsung mengikuti instruksi tersebut dan menyemprotkan campuran pestisida ke seluruh lahan.
Akibat Fatal dari Rekomendasi AI
Keesokan harinya, dampak dari saran yang keliru itu terlihat jelas. Selain gulma yang mati, bibit wijen di lahan seluas 10 hektare juga ikut mati dalam semalam. Ketika Wu menanyakan kepada AI mengenai penyebabnya, chatbot tersebut menyalahkan bahan kimia "flusulfasulfaether". Para ahli pertanian menjelaskan bahwa bahan kimia tersebut sebenarnya ditujukan untuk membasmi gulma berdaun lebar di ladang kedelai, dan wijen termasuk dalam kategori tanaman berdaun lebar yang rentan terhadap herbisida tersebut. Seharusnya, bahan kimia ini hanya digunakan secara tertarget, bukan disemprotkan ke seluruh lahan.
Wu mengungkapkan bahwa AI tidak memberikan peringatan mengenai risiko yang mungkin timbul dari rekomendasinya. Meskipun halaman chatbot tersebut mencantumkan pernyataan bahwa "Hasil AI mungkin keliru, mohon verifikasi", hal ini tampaknya tidak cukup untuk mencegah kerugian yang dialaminya. Beberapa pembaca bahkan berspekulasi bahwa bahan kimia yang direkomendasikan oleh AI mungkin tidak nyata dan hanya hasil dari kesalahan sistem.
Kesalahan AI yang Merugikan
Kasus Wu bukanlah yang pertama kalinya menunjukkan dampak negatif dari penggunaan AI. Beberapa waktu lalu, seorang programmer kehilangan semua data profilnya akibat kesalahan model AI saat melakukan backup. Selain itu, seorang direktur di Meta juga pernah mengalami insiden serupa, di mana agen AI miliknya hampir menghapus seluruh inbox emailnya. Dalam kasus lain, sebuah perusahaan secara tidak sengaja mengeluarkan dana hingga 1,8 juta dollar AS akibat penggunaan AI untuk tugas coding yang sederhana. Kasus Wu menjadi salah satu contoh nyata di mana kesalahan AI berdampak langsung pada kehidupan nyata, bukan hanya kerugian data atau finansial.
