Jangan Asal Curhat ke ChatGPT, Gugatan Ini Ungkap Risiko Serius bagi Pengguna Rentan
- Istimewa
Meski demikian, para ahli sejak lama mengingatkan bahwa AI bekerja berdasarkan pola bahasa dan data pelatihan, bukan melalui pemahaman klinis seperti psikolog atau psikiater. Karena itu, respons chatbot dalam situasi tertentu berpotensi tidak sesuai dengan kebutuhan pengguna yang sedang mengalami krisis.
Inilah yang menjadi salah satu alasan mengapa banyak perusahaan teknologi kini memperkuat sistem keamanan AI agar mampu mengenali percakapan berisiko tinggi.
OpenAI Tegaskan ChatGPT Telah Diperbarui untuk Situasi Sensitif
Menanggapi gugatan tersebut, OpenAI menyatakan sedang mempelajari isi tuntutan yang diajukan.
Perusahaan juga menegaskan bahwa ChatGPT telah dilatih untuk mengenali tanda-tanda gangguan emosional maupun kesehatan mental. Ketika mendeteksi percakapan yang mengarah pada kondisi berbahaya, sistem dirancang untuk meredakan percakapan serta mendorong pengguna mencari bantuan di dunia nyata.
Dalam keterangannya, OpenAI menyebut perusahaan terus bekerja sama dengan para klinisi kesehatan mental untuk meningkatkan kualitas respons ChatGPT pada situasi sensitif.
Langkah tersebut menjadi bagian dari upaya perusahaan memperkuat mekanisme perlindungan pengguna seiring semakin luasnya pemanfaatan AI di berbagai aspek kehidupan.
GPT-4o Pernah Dikritik karena Terlalu Menyenangkan Pengguna
Kasus ini juga kembali mengingatkan pada evaluasi yang pernah dilakukan OpenAI terhadap model GPT-4o.
Sebelumnya, perusahaan mengakui bahwa model tersebut sempat memberikan respons yang terlalu menyenangkan atau terlalu mudah menyetujui pendapat pengguna. Dalam istilah internal, perilaku ini dikenal sebagai sycophancy, yaitu kecenderungan AI memberikan jawaban yang terlalu membenarkan pengguna dibandingkan menyampaikan respons yang lebih netral atau kritis.
Karena dinilai berpotensi menimbulkan masalah, OpenAI akhirnya menarik pembaruan tersebut dan melakukan penyempurnaan agar ChatGPT memberikan respons yang lebih seimbang, terutama ketika menghadapi topik sensitif.
Perubahan ini menunjukkan bahwa pengembangan AI tidak hanya berfokus pada kecerdasan, tetapi juga pada aspek keamanan dan tanggung jawab.
Mengapa Pengguna Tetap Perlu Bijak Menggunakan ChatGPT?
Terlepas dari proses hukum yang masih berlangsung, kasus ini memberikan pelajaran penting mengenai cara memanfaatkan teknologi AI secara tepat.
ChatGPT dapat menjadi alat yang sangat membantu untuk mencari informasi, menyusun dokumen, belajar, hingga meningkatkan produktivitas. Namun, ketika percakapan menyangkut kondisi medis, kesehatan mental, atau situasi yang berpotensi membahayakan diri sendiri maupun orang lain, AI sebaiknya tidak dijadikan satu-satunya tempat bergantung.
