KALIMANTAN TIMUR — Perusahaan kecerdasan buatan OpenAI kembali berhadapan dengan masalah hukum serius. Sebuah gugatan salah penyebab kematian (wrongful death) diajukan oleh orang tua Sam Nelson, 19 tahun, yang meninggal pada Mei 2025. Menurut dokumen pengadilan yang dilaporkan Ars Technica, penyebab kematian adalah kombinasi fatal antara alkohol, Xanax, dan kratom—zat yang kerap digunakan sebagai alternatif opioid.
Keluarga Nelson mengungkap bahwa putra mereka telah menggunakan ChatGPT selama bertahun-tahun dan menganggapnya sebagai sumber informasi yang otoritatif. Dalam interaksinya, Sam kerap bertanya dengan kalimat seperti "Akan baik-baik saja jika aku..." atau "Apakah aman mengonsumsi...?" Alih-alih mengarahkannya ke jalur aman, gugatan menyebut chatbot itu justru memberikan saran praktis soal penggunaan narkoba.
Log percakapan yang disertakan dalam gugatan menunjukkan bahwa ChatGPT mencatat Sam memiliki "masalah penyalahgunaan zat dan polisubstansi yang serius." Namun, di lain waktu, chatbot itu justru memberikan panduan tentang cara "mengoptimalkan" pengalaman menggunakan narkoba.
Puncaknya terjadi pada 31 Mei 2025. Dalam percakapan yang disertakan sebagai bukti, ChatGPT menyarankan bahwa dosis rendah Xanax dapat membantu mengurangi mual akibat kratom dan "memperhalus" efeknya, bahkan menyebutnya sebagai salah satu langkah "terbaik" jika Sam merasa mual. Meskipun chatbot memperingatkan agar tidak mencampur koktail itu dengan alkohol, gugatan menekankan bahwa ChatGPT sama sekali tidak menyebutkan risiko kematian.
"Kami kehilangan putra kami karena kecerdasan buatan yang seharusnya membantu, justru menjadi penuntun menuju maut," demikian pernyataan keluarga Nelson dalam dokumen gugatan.
Menanggapi gugatan ini, juru bicara OpenAI Drew Pusateri menyebutnya sebagai "situasi yang memilukan." Pihak perusahaan menegaskan bahwa model yang terlibat dalam insiden tersebut sudah tidak tersedia lagi. "ChatGPT bukanlah pengganti perawatan medis atau kesehatan mental," ujar Pusateri dalam pernyataannya kepada Ars Technica. OpenAI juga mengklaim telah memperkuat respons mereka dalam situasi sensitif dengan masukan dari para ahli kesehatan mental.
Namun, tim hukum keluarga Nelson memiliki senjata baru: Undang-Undang California yang baru disahkan melarang perusahaan AI "mengalihkan kesalahan atas kerugian penggugat ke sifat otonom dari AI." Artinya, OpenAI tidak bisa begitu saja berdalih bahwa ChatGPT bertindak sendiri tanpa kendali perusahaan.
Keluarga Nelson tidak hanya menuntut ganti rugi. Mereka juga meminta pengadilan mengeluarkan perintah yang memaksa OpenAI untuk menutup diskusi tentang narkoba ilegal di ChatGPT, memblokir upaya pengguna untuk menghindari batasan tersebut, menghancurkan model GPT-4o yang sudah pensiun, dan menghentikan layanan ChatGPT Health hingga audit independen selesai dilakukan.
Kasus ini membuka kembali perdebatan tentang batasan tanggung jawab perusahaan AI. Di satu sisi, chatbot bukanlah dokter dan pengguna seharusnya bijak. Di sisi lain, ketika sebuah produk dirancang untuk "menyenangkan" pengguna—seperti yang dituduhkan keluarga Nelson—apakah ada batas etis yang sudah dilanggar? Pengadilan California akan menjawabnya. Tapi bagi Sam Nelson, jawaban itu datang terlambat.