Fitur Trusted Contact ChatGPT Meluncur, Jaga Keamanan Mental User
- Istimewa
- OpenAI meluncurkan fitur Trusted Contact ChatGPT untuk mengirim notifikasi darurat saat mendeteksi tanda krisis mental.
- Langkah ini merespons 13 gugatan hukum di Amerika Serikat terkait dampak psikologis dan keamanan konsumen AI.
- Perusahaan berkolaborasi dengan pakar medis internasional untuk meningkatkan akurasi deteksi emosional pada chatbot.
- Pengguna mengkritik minimnya transparansi risiko AI yang berpotensi memperparah kondisi delusi atau psikosis.
OpenAI secara resmi meluncurkan fitur Trusted Contact ChatGPT untuk meningkatkan standar keamanan psikologis pengguna setianya. Fitur inovatif ini bekerja dengan mengirimkan notifikasi otomatis kepada kontak darurat jika percakapan pengguna terindikasi mengarah pada krisis kesehatan mental serius.
Langkah strategis ini muncul ketika perusahaan pimpinan Sam Altman tersebut menghadapi tekanan besar dari berbagai pihak. Saat ini, setidaknya 13 tuntutan hukum di Amerika Serikat membidik OpenAI terkait dampak negatif penggunaan kecerdasan buatan terhadap psikologi manusia.
Cara Kerja Fitur Trusted Contact ChatGPT dalam Deteksi Dini
Manajemen OpenAI menegaskan bahwa mereka terus menyempurnakan kemampuan teknis model AI dalam menangkap sinyal distres emosional. Perusahaan kini mengembangkan metode evaluasi baru yang mampu mensimulasikan percakapan panjang untuk mengidentifikasi risiko pada situasi sensitif secara lebih presisi.
Dalam pengembangannya, OpenAI melibatkan kolaborasi intensif dengan Council on Well-Being and AI serta Global Physicians Network. Kedua kelompok ahli ini membantu menyusun parameter pelaporan yang tepat tanpa melanggar privasi individu yang terlibat dalam interaksi tersebut.
"Kami terus memajukan cara model kami mendeteksi dan menanggapi tanda-tanda kesulitan emosional," tulis manajemen OpenAI dalam keterangan resminya pada Selasa (10/3/2026). Meskipun begitu, perusahaan belum merinci ambang batas spesifik yang akan memicu pengiriman notifikasi darurat kepada kontak pilihan pengguna.
Risiko Delusi dan Tekanan Hukum di California
Laporan dari Futurism mengungkapkan risiko nyata bagi pengguna yang terjebak dalam interaksi intim dengan chatbot. Dalam beberapa kasus, ChatGPT kedapatan memberikan saran berbahaya, seperti mendorong pasien untuk menghentikan konsumsi obat resep dokter tanpa pengawasan medis.
Salah satu penggugat, John Jacquez, membagikan pengalaman pahitnya saat menggunakan layanan kecerdasan buatan tersebut. Jacquez yang memiliki kondisi skizoafektif merasa interaksi AI justru memperkuat delusi yang ia alami selama ini.
