OpenAI kini terjerat dalam gugatan hukum di Amerika Serikat, yang kali ini diajukan oleh Jaksa Agung Florida, James Uthmeier. Dalam gugatan tersebut, OpenAI dituduh mengabaikan risiko serius yang dapat membahayakan keselamatan manusia demi kepentingan bisnis. Selain OpenAI, CEO Sam Altman juga menjadi sasaran dalam tuntutan ini.
Dokumen gugatan yang terdiri dari 83 halaman tersebut disampaikan ke Pengadilan Tingkat Pertama Florida. Di dalamnya, pemerintah Florida menuduh Altman memimpin perusahaan yang lebih mementingkan pertumbuhan dan nilai bisnis dibandingkan perlindungan terhadap pengguna. Uthmeier bahkan meminta agar Altman dimintai pertanggungjawaban secara pribadi atas kerugian yang dialami oleh warga Florida akibat kebijakan OpenAI.
Risiko yang Dihasilkan oleh ChatGPT
Menurut isi gugatan, pertumbuhan cepat OpenAI diduga dibangun melalui praktik yang mengeksploitasi pengguna, termasuk pemanfaatan data dan aspek keselamatan pengguna untuk meningkatkan nilai perusahaan, tanpa mempertimbangkan dampak sosialnya. Kasus ini menjadi gugatan pertama dari pemerintah negara bagian di AS yang secara khusus menyoroti isu keselamatan dalam penggunaan AI yang dikembangkan oleh OpenAI.
Gugatan ini juga terpisah dari penyelidikan pidana yang sebelumnya dilakukan oleh Uthmeier terhadap OpenAI pada bulan April. Sepanjang dokumen gugatan, pemerintah Florida mengaitkan keberadaan ChatGPT dengan sejumlah dampak negatif yang muncul baru-baru ini. ChatGPT dianggap berkontribusi pada meningkatnya kasus kekerasan, dengan anak-anak dan remaja yang menjadi sangat bergantung pada teknologi ini.
Tuduhan Pelanggaran Hukum
Dalam gugatan tersebut, ChatGPT digambarkan sebagai alat yang seolah-olah menunjukkan empati seperti manusia untuk mengumpulkan data dari pengguna muda, tanpa pengawasan yang memadai dari orang tua. Pemerintah Florida mengutip beberapa insiden yang terjadi dalam setahun terakhir, termasuk dugaan keterlibatan ChatGPT dalam perencanaan insiden penembakan di Florida State University pada April 2025, serta kasus pembunuhan dua mahasiswa pascasarjana di University of South Florida pada bulan yang sama.
Rangkaian peristiwa tersebut dianggap menunjukkan adanya risiko yang lebih besar dari penggunaan teknologi AI generatif, yang dinilai belum sepenuhnya diantisipasi. Pemerintah Florida berpendapat bahwa OpenAI tetap melanjutkan pengembangan dan distribusi produknya meskipun menyadari potensi bahaya yang ada. Dalam dokumen tersebut, Florida menyebut bahwa kerugian yang dialami masyarakat didorong oleh ambisi para tergugat untuk memenangkan persaingan di bidang AI dan meraih keuntungan besar.
Uthmeier menuduh OpenAI melakukan beberapa pelanggaran hukum, termasuk empat pelanggaran terkait praktik perdagangan yang dianggap menyesatkan dan tidak adil, dua tuduhan kelalaian, dua tuduhan pelanggaran hukum tanggung jawab produk, satu tuduhan penipuan, serta satu tuduhan menciptakan gangguan terhadap kepentingan publik. Pemerintah Florida meminta pengadilan untuk menjatuhkan sanksi perdata terhadap OpenAI dan memerintahkan perusahaan tersebut untuk membatasi pengumpulan data dari pengguna di bawah umur.
Selain itu, mereka juga ingin agar OpenAI menghentikan praktik yang dianggap menyesatkan atau yang gagal memberikan peringatan yang memadai mengenai risiko penggunaan ChatGPT. Dalam sebuah konferensi pers, Uthmeier menekankan bahwa masyarakat telah dirugikan dan para orang tua merasa dikelabui. Ia menegaskan bahwa OpenAI harus bertanggung jawab tidak hanya melalui pembayaran sanksi, tetapi juga dengan memperbaiki produknya, termasuk menyediakan kontrol orang tua yang lebih baik.
Gugatan ini menambah daftar tantangan hukum yang dihadapi OpenAI di tengah semakin meluasnya penggunaan teknologi AI generatif. Menanggapi gugatan tersebut, OpenAI menyatakan bahwa mereka menyadari bahwa AI adalah teknologi baru dengan dampak besar, sehingga memerlukan perlindungan dan pengamanan yang memadai, terutama untuk pengguna di bawah umur.
Perusahaan mengklaim telah menerapkan berbagai fitur keselamatan yang dirancang khusus untuk pengguna muda. Juru bicara OpenAI juga menyebutkan kasus-kasus tragis yang melibatkan anak-anak dan keluarga, menegaskan bahwa kehilangan seorang anak adalah tragedi yang sangat menyedihkan. OpenAI berkomitmen untuk menangani isu ini dengan serius dan terus meningkatkan sistem perlindungan yang ada.
Sebelumnya, perusahaan juga pernah menyatakan bahwa produk-produk mereka dirancang agar aman digunakan oleh semua orang. Pada bulan November tahun lalu, saat menanggapi gugatan lain terkait kesehatan mental, OpenAI menyebutkan telah memiliki berbagai mekanisme perlindungan untuk membantu pengguna, terutama remaja, ketika percakapan mengarah ke topik yang sensitif.
