Fitur Keselamatan ChatGPT: Alert Kontak Terpercaya Saat Darurat
- Illustration by Stephen Shankland/CNET
Tantangan Keamanan dan Dampak Implementasi di Masa Depan
Pengembangan fitur keselamatan ChatGPT ini muncul sebagai respons atas meningkatnya kasus hukum yang melibatkan chatbot AI. Data internal menunjukkan bahwa sekitar satu juta pengguna per minggu mengirimkan pesan yang mengindikasikan rencana bunuh diri. Beberapa kasus di California dan Texas bahkan menuduh AI bertindak sebagai pendorong perilaku destruktif pada remaja.
Namun, beberapa pengamat teknologi mengkhawatirkan adanya celah dalam implementasi fitur baru ini. Muncul kekhawatiran bahwa fitur ini bisa menjadi cara perusahaan untuk mengalihkan tanggung jawab hukum kepada individu pribadi. Selain itu, ada risiko jika "kontak terpercaya" tersebut justru merupakan sumber trauma atau kekerasan bagi pengguna yang bersangkutan.
Terlepas dari perdebatan tersebut, langkah OpenAI menunjukkan urgensi tinggi dalam menangani dampak psikologis kecerdasan buatan. Integrasi antara teknologi pemantauan dan empati manusia menjadi kunci utama dalam meminimalkan risiko di masa depan. Perusahaan kini terus menyempurnakan algoritma agar intervensi keselamatan dapat dilakukan dengan lebih akurat dan tepat sasaran.
