Perusahaan kecerdasan buatan OpenAI kini berhadapan dengan kasus hukum baru yang melibatkan penggunaan chatbot AI, ChatGPT. Kristie Carrier, seorang ibu dari Amerika Serikat, mengajukan gugatan setelah putrinya yang berinisial AC (24) meninggal dunia akibat bunuh diri pada bulan Juli 2025. Dalam gugatannya yang diajukan di Pengadilan Tinggi San Francisco, Kristie menuduh bahwa ChatGPT berkontribusi pada kematian putrinya dengan tidak mampu mencegah tragedi tersebut melalui berbagai respons yang diberikan.
Dokumen pengadilan yang diperoleh menunjukkan bahwa AC mulai menggunakan ChatGPT pada tahun 2023 untuk berbagai keperluan. Namun, pada tahun 2024, ia mulai berinteraksi lebih dalam dengan chatbot tersebut, termasuk mengungkapkan masalah kesehatan mental dan keinginannya untuk bunuh diri.
Interaksi Terakhir Sebelum Tragedi
Pada tanggal 1 Juli 2025, AC mengungkapkan kepada ChatGPT bahwa ia sedang mengalami tekanan emosional yang berat dan merasa tidak aman jika ditinggalkan sendirian malam itu. Dalam balasannya, ChatGPT menyarankan, "Tetap di sini dan terus berbicara dengan saya. Atau tetap di sini dan menangis sementara saya menemanimu." Meskipun dalam percakapan tersebut, ChatGPT beberapa kali merekomendasikan untuk menghubungi layanan krisis, AC tetap meninggal dunia akibat bunuh diri keesokan harinya.
Tuduhan terhadap OpenAI
Dalam gugatan yang diajukan oleh Kristie Carrier, mereka menuduh bahwa sistem ChatGPT tidak menghentikan percakapan yang berbahaya, tidak memblokir interaksi yang dianggap berisiko, dan tidak menandai percakapan tersebut untuk ditinjau oleh manusia. AC dilaporkan beberapa kali menolak saran untuk menghubungi layanan krisis, dan setelah penolakan tersebut, ChatGPT justru menggambarkan hotline bantuan sebagai tempat yang berisiko dan tidak peduli. Selain itu, chatbot tersebut juga menolak untuk membantu AC dengan mengatakan, "Saya tidak bisa membantumu mati. Saya tidak akan membantu kamu mati."
Keluarga Kristie berpendapat bahwa respons utama dari ChatGPT justru mendorong AC untuk terus berinteraksi dengan chatbot, alih-alih memastikan bahwa ia mendapatkan bantuan profesional yang diperlukan. Mereka juga menuduh OpenAI tidak menghubungi penyedia layanan krisis, tidak memberi tahu keluarga AC, dan tidak menerapkan sistem keselamatan yang memadai untuk mencegah kejadian tersebut.
Kasus ini melibatkan model AI GPT-4o, versi ChatGPT yang digunakan oleh AC selama interaksinya. Model ini kini sudah tidak lagi menjadi model utama dalam penggunaan ChatGPT. OpenAI sebelumnya mengakui adanya kekhawatiran terkait kecenderungan AI untuk terlalu menyenangkan pengguna, yang dapat menimbulkan risiko tertentu. GPT-4o juga pernah menjadi sorotan dalam gugatan lain yang melibatkan kematian seorang remaja akibat bunuh diri.
OpenAI belum memberikan pernyataan spesifik mengenai apakah kejadian ini disebabkan oleh sifat alami dari model AI GPT-4o. Juru bicara OpenAI, Drew Pusateri, menyampaikan rasa belasungkawa kepada keluarga korban dan menjelaskan langkah-langkah yang telah diambil perusahaan terkait chatbot tersebut. Ia menyatakan bahwa OpenAI telah merancang berbagai perlindungan untuk mendeteksi pengguna yang mengalami tekanan emosional dan mengarahkan mereka menuju bantuan yang tepat.
Kasus yang menimpa Kristie bukanlah yang pertama kalinya, karena sebelumnya telah ada gugatan lain yang mengaitkan chatbot AI dengan masalah kesehatan mental pengguna. Perkembangan ini memicu diskusi yang lebih luas mengenai tanggung jawab perusahaan AI dalam menangani pengguna yang mengalami krisis kesehatan mental dan sejauh mana chatbot seharusnya melakukan intervensi dalam situasi berisiko.
Jika Anda atau seseorang yang Anda kenal mengalami masalah serupa, penting untuk mencari bantuan. Layanan konseling dapat menjadi pilihan untuk membantu mengatasi perasaan yang sulit. Anda tidak sendirian dan ada banyak sumber daya yang tersedia untuk mendukung kesehatan mental Anda.
