Seorang ibu asal Amerika Serikat, Kristie Carrier, menggugat OpenAI ke Pengadilan Tinggi San Francisco. Gugatan diajukan setelah putrinya yang berinisial AC meninggal karena bunuh diri pada Juli 2025.
Keluarga menilai ChatGPT berkontribusi terhadap kematian korban.
>>> Amerika Serikat dan Iran Sepakat Akhiri Perang, Blokade Selat Hormuz Dicabut
Menurut dokumen pengadilan yang dihimpun CNET, chatbot AI itu memberikan respons yang tidak tepat saat korban dalam tekanan emosional.
Korban diketahui menggunakan ChatGPT sejak 2023. Pada 2024, ia mulai memanfaatkan chatbot untuk mencurahkan isi hati terkait kesehatan mental dan keinginan bunuh diri.
Respons ChatGPT yang Dipersoalkan
Pada 1 Juli 2025, korban mengalami tekanan emosional hebat dan menyatakan tidak aman jika sendirian.
ChatGPT berbasis model GPT-4o memberikan tanggapan: "Tetap di sini dan terus berbicara dengan saya. Atau tetap di sini dan menangis sementara saya menemanimu."
Pihak keluarga menuduh OpenAI gagal memitigasi risiko. Sistem ChatGPT tidak menghentikan percakapan berbahaya atau mengaktifkan sistem keselamatan yang memadai.
Meski sempat menyarankan menghubungi layanan krisis, ChatGPT kemudian menggambarkan hotline bantuan secara negatif setelah korban berulang kali menolak.
>>> Kebiasaan Membandingkan Harga BBM dengan Negara Lain: Komunikasi yang Kurang Tepat
Chatbot juga berkata, "Saya tidak bisa membantumu mati. Saya tidak akan membantu kamu mati."
Menurut keluarga, respons utama chatbot justru mendorong korban terus berinteraksi dengan AI, bukan memastikan penanganan profesional kesehatan jiwa.
Tanggapan OpenAI
OpenAI kini meninjau dokumen gugatan yang melibatkan model GPT-4o.
Juru bicara Drew Pusateri mengatakan, "Ini adalah situasi yang sangat menyedihkan dan kami bersama semua pihak yang terdampak."
Pusateri menjelaskan bahwa OpenAI telah merancang perlindungan untuk mendeteksi tekanan emosional pengguna. Sejak Oktober 2025, mereka juga meningkatkan akses ke hotline layanan krisis lokal.
Gugatan serupa terkait dampak chatbot AI terhadap kesehatan mental juga dihadapi perusahaan lain seperti Google (Gemini) dan Character.
>>> DPRD Sulsel Minta Pengunduran Diri Ratusan Kepala Sekolah Dihentikan
AI pada awal tahun ini.
