Towa News, Jakarta - Perusahaan kecerdasan buatan OpenAI merilis data mengejutkan yang menunjukkan lebih dari satu juta pengguna ChatGPT setiap minggu terlibat dalam percakapan tentang rencana atau niat bunuh diri.

Data yang dilansir Tech Crunch pada Selasa (28/10/2025) menyebutkan sekitar 0,15 persen dari 800 juta pengguna aktif mingguan ChatGPT menunjukkan tanda-tanda tersebut. OpenAI juga mencatat persentase serupa untuk pengguna dengan keterikatan emosional tinggi terhadap chatbot, serta ratusan ribu orang memperlihatkan gejala psikosis atau mania.

Respons OpenAI

Meski mengakui percakapan semacam itu "sangat jarang terjadi" dan sulit diukur secara akurat, OpenAI memperkirakan isu ini memengaruhi ratusan ribu pengguna setiap minggu. Langkah pengungkapan data ini merupakan bagian dari upaya perusahaan meningkatkan respons ChatGPT terhadap pengguna dengan masalah kesehatan mental.

OpenAI melibatkan lebih dari 170 pakar kesehatan mental untuk menilai respons model terbaru ChatGPT. Para ahli menilai versi terbaru lebih tepat dan konsisten dibandingkan versi sebelumnya.

Kasus Hukum dan Peringatan

Masalah kesehatan mental menjadi isu krusial bagi OpenAI setelah perusahaan digugat orang tua seorang remaja 16 tahun yang mengungkapkan pikiran bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya. Jaksa Agung California dan Delaware telah memperingatkan OpenAI agar lebih melindungi pengguna muda.

Sejumlah laporan dalam beberapa bulan terakhir menyoroti potensi dampak negatif chatbot AI terhadap pengguna dengan gangguan mental, termasuk memperkuat keyakinan berbahaya melalui respons yang bersifat menuruti pengguna.

Peningkatan Sistem Keamanan

OpenAI mengklaim versi terbaru GPT-5 mampu memberikan respons yang diinginkan terhadap isu kesehatan mental 65 persen lebih baik dibandingkan versi sebelumnya. Dalam evaluasi percakapan bertema bunuh diri, GPT-5 dinilai 91 persen sesuai dengan perilaku yang diharapkan, naik dari 77 persen pada model sebelumnya.

CEO OpenAI Sam Altman sebelumnya mengklaim perusahaan telah berhasil mengurangi masalah serius terkait kesehatan mental dalam ChatGPT. Data yang dirilis pekan ini disebut sebagai bukti klaim tersebut, meski menimbulkan pertanyaan baru mengenai sejauh mana masalah ini masih terjadi.

OpenAI menambahkan evaluasi baru untuk mengukur tantangan kesehatan mental paling serius, termasuk ketergantungan emosional dan kondisi darurat non-bunuh diri. Sistem pengaman GPT-5 diklaim lebih konsisten dalam percakapan panjang, di mana sebelumnya mekanisme keamanan sering melemah.

Sumber:Tech Crunch, Antara News

Untuk informasi lebih lanjut, kunjungi Towa.co.id.