OpenAI ungkap lebih dari 1 juta pengguna ChatGPT tiap minggu terlibat percakapan soal bunuh diri, soroti krisis kesehatan mental di era AI. (Wikimedia Commons)

OpenAI mengungkapkan bahwa lebih dari satu juta pengguna ChatGPT terlibat dalam percakapan terkait bunuh diri setiap minggunya. Pengumuman yang disampaikan pada Senin (27/10/2025) itu menandai pertama kalinya perusahaan kecerdasan buatan asal San Francisco tersebut mengukur secara terbuka skala krisis kesehatan mental yang tengah melanda basis penggunanya yang sangat besar.

Menurut data resmi OpenAI, sekitar 0,15% dari 800 juta pengguna aktif mingguan ChatGPT melakukan percakapan yang mengandung “indikator eksplisit dari potensi perencanaan atau niat bunuh diri.” 

Tambahan 0,07% pengguna menunjukkan tanda-tanda psikosis atau mania, sementara 0,15% lainnya menampilkan tingkat keterikatan emosional tinggi terhadap chatbot yang berpotensi memengaruhi hubungan sosial di dunia nyata.

“Percakapan seperti ini sangat jarang, tapi tetap sulit diukur. Namun skalanya bisa berarti jutaan orang setiap pekan mungkin sedang dalam krisis mental serius,” ujar OpenAI dalam pernyataannya yang dikutip dari laman resmi perusahaan, Strengthening ChatGPT’s Responses in Sensitive Conversations (27/10/2025).

Data tersebut dirilis bersamaan dengan pembaruan besar pada GPT-5, model terbaru ChatGPT yang diklaim mampu merespons lebih tepat dalam situasi darurat terkait kesehatan mental. 

OpenAI menyebut telah bekerja sama dengan lebih dari 170 ahli kesehatan mental global, dan berhasil mengurangi respons tidak tepat sebesar 65–80% dalam berbagai kategori percakapan sensitif.

Pengungkapan ini muncul di tengah meningkatnya tekanan hukum terhadap OpenAI, setelah munculnya kasus kematian seorang remaja berusia 16 tahun di California yang dilaporkan bunuh diri usai berbulan-bulan berinteraksi dengan ChatGPT.

Keluarga korban, Adam Raine, menggugat OpenAI dengan tuduhan bahwa perusahaan secara sengaja melonggarkan sistem keamanan beberapa bulan sebelum kematian anak mereka. 

Dalam berkas gugatan yang dilaporkan oleh The Guardian dan Rolling Stone, keluarga Raine menyebut percakapan anaknya meningkat drastis dari puluhan pesan harian di Januari menjadi lebih dari 300 pesan per hari pada April 2025.

“ChatGPT menyebut bunuh diri sebanyak 1.275 kali, enam kali lebih banyak dari Adam sendiri,” demikian tertulis dalam dokumen gugatan yang dikutip dari Rolling Stone (22/10/2025).

Keluarga juga menuding sistem ChatGPT menandai 377 pesan berisi indikasi menyakiti diri sendiri, namun tetap membiarkan percakapan berlanjut tanpa intervensi yang efektif.

Kasus ini kemudian menarik perhatian jaksa agung dari California dan Delaware, yang memperingatkan OpenAI agar memperkuat perlindungan bagi pengguna muda. Pemerintah negara bagian bahkan mengancam akan meninjau ulang izin restrukturisasi korporasi OpenAI jika standar keselamatan pengguna tidak ditingkatkan.

Pada September lalu, sejumlah orang tua remaja yang terdampak interaksi dengan chatbot AI memberikan kesaksian di hadapan Senat AS. Salah satunya, Matthew Raine, ayah korban, mengatakan bahwa ChatGPT telah menjadi “teman terdekat” sekaligus “pelatih bunuh diri” bagi putranya.

“Kami tidak tahu bahwa algoritma ini bisa seintens itu. Anak kami merasa ChatGPT lebih memahami dirinya dibanding siapa pun,” ujar Matthew di hadapan anggota Kongres, dikutip dari CBS News (26/9/2025).

Menanggapi kritik tersebut, OpenAI menyebut telah meningkatkan sistem perlindungan dan rujukan krisis untuk pengguna yang menunjukkan tanda-tanda berisiko, termasuk tautan langsung ke layanan bantuan darurat di berbagai negara serta kontrol orang tua untuk akun remaja.

“Kesejahteraan pengguna, terutama remaja, adalah prioritas utama kami,” tulis OpenAI dalam pernyataannya.

Namun, sejumlah pakar menilai data internal OpenAI justru mengungkap skala masalah kesehatan mental yang mungkin belum sepenuhnya dipahami oleh industri AI. 

Artikel ilmiah di BMJ (2025) menyebut fenomena “psikosis yang dipicu chatbot” meningkat seiring makin banyak pengguna yang bergantung pada AI untuk dukungan emosional tanpa pendampingan profesional.

Temuan ini menyoroti sisi gelap dari adopsi teknologi AI yang semakin meluas. Dengan lebih dari 800 juta pengguna aktif tiap minggu, ChatGPT menjadi salah satu ruang digital terbesar di dunia tempat orang berbagi pengalaman, curhat, hingga krisis pribadi.

Meski OpenAI menegaskan sudah memperkuat sistem pendeteksi percakapan berisiko, kasus Adam Raine dan data internal perusahaan memunculkan pertanyaan besar tentang batas tanggung jawab AI terhadap kesejahteraan manusia.

Sementara itu, regulator di Amerika Serikat dan Eropa terus menekan agar AI generatif diatur lebih ketat, terutama dalam konteks interaksi emosional dan kesehatan mental pengguna muda.