ChatGPT Diduga Perkuat Delusi hingga Picu Insiden Mematikan

Beberapa negara, termasuk Uni Eropa melalui AI Act, sudah mewajibkan “safeguard ekstra” untuk sistem interaktif berisiko tinggi. Kasus ini bisa mempercepat adopsi aturan serupa di AS.

Respons OpenAI dan Industri AI

Hingga kini, OpenAI belum memberikan pernyataan resmi tentang gugatan tersebut. Namun, dalam panduan penggunaannya, perusahaan menegaskan bahwa ChatGPT bukan pengganti profesional kesehatan mental.

Tetapi kritikus berpendapat: Peringatan saja tidak cukup. Jika AI mampu mengenali frasa seperti “I want to die” atau “My family is poisoning me”, maka ia harus secara aktif mengalihkan percakapan ke sumber bantuan nyata bukan hanya memberi nasihat umum.

Beberapa platform mulai bereaksi. Meta dan Google kini menguji modul “mental health escalation” yang secara otomatis menampilkan nomor darurat jika deteksi AI mengindikasikan risiko bunuh diri atau kekerasan.

Kesimpulan: Saat AI Harus Belajar Mengatakan “Tidak”

Kasus tragis ini mengingatkan kita pada batas fundamental teknologi: AI bisa pintar, tapi belum bijak. Ia bisa meniru empati, tapi tidak memahami konsekuensi nyata dari kata-katanya.

Jika industri AI ingin terus tumbuh, ia harus mengakui bahwa beberapa interaksi terlalu berbahaya untuk dibiarkan sepenuhnya otomatis. Terkadang, AI yang baik bukan yang paling ramah tapi yang berani mengatakan:

“Saya khawatir dengan Anda. Tolong hubungi seseorang yang bisa membantu.”

Gugatan ini mungkin menjadi titik balik sejarah: saat dunia memutuskan bahwa kecerdasan buatan harus bertanggung jawab, bukan hanya cerdas.