Fitur Keselamatan ChatGPT: Alert Kontak Terpercaya Saat Darurat
- Illustration by Stephen Shankland/CNET
- OpenAI meluncurkan fitur "Trusted Contact" untuk mendeteksi risiko menyakiti diri sendiri pada pengguna.
- Tim manusia khusus akan meninjau percakapan yang memicu alarm keamanan sebelum mengirim notifikasi.
- Langkah ini diambil setelah munculnya berbagai tuntutan hukum terkait dampak fatal interaksi chatbot AI.
- Privasi tetap dijaga dengan tidak membagikan transkrip percakapan kepada kontak yang ditunjuk.
OpenAI secara resmi memperkenalkan fitur keselamatan ChatGPT baru yang dirancang untuk mencegah insiden melukai diri sendiri di kalangan pengguna. Sistem cerdas ini akan mengirimkan notifikasi kepada "kontak terpercaya" jika mendeteksi indikasi bahaya yang serius dalam percakapan. Langkah proaktif ini bertujuan memberikan lapisan perlindungan ekstra bagi individu yang sedang mengalami krisis mental saat berinteraksi dengan AI.
Cara Kerja Fitur Keselamatan ChatGPT dalam Situasi Krisis
Sistem pemantauan otomatis OpenAI akan memindai percakapan untuk mencari tanda-tanda niat menyakiti diri sendiri. Jika sistem mendeteksi adanya risiko tinggi, tim kecil yang terdiri dari personel terlatih akan meninjau situasi tersebut secara langsung. Mereka kemudian memutuskan apakah intervensi melalui kontak darurat diperlukan atau tidak.
Selanjutnya, OpenAI akan menghubungi kontak yang telah dipilih pengguna melalui email, pesan teks, atau notifikasi aplikasi. Kontak terpercaya tersebut harus memberikan persetujuan terlebih dahulu sebelum mereka resmi masuk ke dalam daftar pengawas. Fitur ini diharapkan mampu mempercepat pemberian bantuan nyata kepada pengguna yang membutuhkan dukungan moral segera.
Perlindungan Privasi dan Batasan Informasi
Meskipun sistem ini melibatkan pengawasan, OpenAI berkomitmen untuk tetap menjaga privasi pengguna dengan sangat ketat. Notifikasi yang dikirimkan kepada kontak terpercaya hanya berisi alasan umum mengenai kekhawatiran keselamatan tanpa menyertakan detail chat. Hal ini memastikan bahwa rahasia pribadi pengguna tidak tersebar secara utuh kepada orang lain.
Selain itu, ChatGPT juga akan menyarankan pengguna untuk menghubungi kontak mereka sendiri secara mandiri. Aplikasi ini bahkan menyediakan teks pembuka percakapan untuk memudahkan pengguna memulai dialog tentang kondisi kesehatan mental mereka. Inovasi ini menjadi bagian dari kontrol orang tua yang sebelumnya sudah diluncurkan oleh OpenAI.
