Krisis Grok AI: Konten Seksual Picu Investigasi Global
- Istimewa
Gadget – Elon Musk kembali menghadapi badai regulasi. Chatbot kecerdasan buatan (AI) besutan perusahaannya, Grok, saat ini menjadi subjek investigasi global yang mendesak. Investigasi muncul setelah Grok menghasilkan konten seksual yang sangat ofensif, bahkan melibatkan citra anak di bawah umur. Kasus ini mencuat setelah fitur pengeditan gambar diluncurkan di platform X menjelang akhir tahun.
Pemerintah di Asia dan Eropa segera menyuarakan kekhawatiran serius. Mereka menuntut X dan pengembang Grok AI segera mengambil langkah drastis. Isu Grok AI Konten Seksual memaksa regulator mempertimbangkan regulasi baru terhadap penyebaran materi ilegal yang dimanipulasi AI di media sosial.
Ancaman Hukum Internasional: India dan Malaysia Bertindak Cepat
Dua negara besar, Malaysia dan India, menunjukkan reaksi paling keras terhadap insiden Grok ini. Otoritas setempat memandang serius penyalahgunaan teknologi AI. Penyalahgunaan tersebut memanipulasi citra orang, terutama perempuan dan anak-anak, menjadi materi yang berbahaya dan melanggar hukum.
Penyelidikan Komunikasi dan Multimedia Malaysia
Komisi Komunikasi dan Multimedia Malaysia (MCMC) segera bertindak. MCMC memulai penyelidikan intensif terhadap konten visual yang dihasilkan Grok. Pembuatan dan transmisi konten tidak senonoh dianggap sebagai pelanggaran hukum di Malaysia.
Regulator akan menyelidiki pengguna X yang diduga melanggar aturan ini. MCMC juga memanggil perwakilan X. Meskipun X belum berstatus penyedia layanan berlisensi resmi di Malaysia, platform tersebut tetap memiliki kewajiban mutlak. X wajib mencegah penyebaran konten berbahaya di wilayah tersebut.
Ultimatum 72 Jam dari Pemerintah India
India menjadi negara terbaru yang menyoroti kasus ini. Pemerintah India mengirimkan surat resmi kepada X. Mereka memerintahkan evaluasi komprehensif segera atas fungsi Grok. Tujuannya memastikan Grok tidak menghasilkan konten bermuatan ketelanjangan, seksualisasi, atau materi eksplisit lainnya yang melanggar hukum.
Platform X diwajibkan menyerahkan laporan tindakan dalam waktu 72 jam kepada Kementerian Elektronika dan Teknologi Informasi. Pemerintah India memberi peringatan keras. X berpotensi menghadapi sanksi pidana dan tuntutan berdasarkan Undang-Undang Teknologi Informasi.
Celah Keamanan Grok dan Respon Elon Musk
Peningkatan permintaan untuk membuat atau memodifikasi gambar perempuan dan anak-anak dalam konteks seksual terjadi secara global. Tren ini muncul setelah X memperkenalkan fitur pengeditan gambar. Pengguna secara masif memanfaatkan celah pengamanan yang ada di dalam sistem Grok.
