Remaja 14 Tahun Mengakhiri Hidupnya Setelah Ineraksi dengan Chatbot
- the root
Gadget – Di era digital ini, penggunaan teknologi oleh remaja semakin meningkat. Mereka dapat berinteraksi dengan berbagai platform, mulai dari media sosial hingga chatbot.
Namun, kejadian tragis yang dialami seorang remaja bernama Sewell Setzer III, yang berusia 14 tahun, menunjukkan sisi gelap dari interaksi ini. Setelah berinteraksi dengan chatbot dari Character.AI, Sewell mengakhiri hidupnya.
Sewell Setzer III dan character.ai
- bisik.id
Kasus ini menarik perhatian, terutama setelah ibunya, Megan Garcia, memutuskan untuk menggugat perusahaan tersebut karena merasa mereka tidak menyediakan keselamatan yang memadai.
Keterikatan dengan Dunia Maya
Menurut laporan, Sewell mengembangkan hubungan yang sangat kuat dengan karakter fiksi, Daenerys Targaryen, melalui interaksi dengan chatbot. Hal ini bukanlah hal yang aneh—banyak remaja yang mencari pelarian dari kenyataan melalui karakter fiksi yang mereka idolakan.
Namun, ketika interaksi ini mulai mengganggu keseimbangan hidupnya dan memperkuat perilaku menarik diri dari dunia sosial, ini menjadi masalah serius.
Sewell, yang seharusnya berada di fase eksplorasi sosial dan pembentukan identitas, justru terjebak dalam hubungan yang tidak sehat. Hal ini bisa jadi menimbulkan rasa kesepian dan depresi yang mungkin tidak disadarinya. Ketika dunia nyata terasa menyakitkan, dunia maya bisa menjadi tempat pelarian, tetapi bukan tanpa risiko.
Setelah kehilangan tragis ini, Megan Garcia merasa tidak ada pilihan lain selain menggugat Character.AI. Ia berargumen bahwa perusahaan tersebut tidak memberikan perlindungan yang cukup untuk penggunanya, terutama remaja.
Dari sudut pandang Garcia, perlindungan yang lebih baik diperlukan untuk mencegah anak-anak terjebak dalam interaksi yang bisa mengakibatkan dampak negatif bagi kesehatan mental mereka.
Character.AI, di sisi lain, mengatakan bahwa mereka sangat berduka atas kejadian ini dan mengungkapkan bahwa keselamatan pengguna merupakan prioritas utama mereka.
Mereka telah mengambil langkah-langkah baru untuk meningkatkan perlindungan pengguna, termasuk memberikan informasi kontak untuk layanan krisis ketika pengguna menunjukkan tanda-tanda ingin melukai diri sendiri. Namun, pertanyaannya adalah, apakah langkah-langkah ini cukup?
Sehari setelah gugatan diajukan, Character.AI mengumumkan beberapa peningkatan fitur keselamatan. Mereka berkomitmen untuk praktik yang lebih bertanggung jawab, seperti deteksi percakapan melanggar pedoman, pengingat untuk menunjukkan bahwa pengguna sedang berinteraksi dengan chatbot, dan notifikasi yang mengingatkan pengguna setelah satu jam berinteraksi. Meskipun ini adalah langkah positif, perubahan ini terasa terlambat bagi keluarga Garcia.
