Komdigi Ancam Blokir Grok AI di X: Privasi Pengguna Diganggu

Kontroversi Grok AI tidak hanya mencuat di Indonesia. Regulator dan pemerintahan di berbagai negara lain juga memberikan kritik tajam. Mereka menyoroti kemampuan Grok AI menghasilkan konten seksual eksplisit dan manipulasi gambar yang tidak pantas, bahkan melibatkan potensi gambar anak di bawah umur atau pelecehan.

Sebagai contoh, Komisi Komunikasi dan Multimedia (MCMC) Malaysia kini tengah mendalami kasus konten vulgar hasil produksi Grok di X. Kasus-kasus ini muncul ketika algoritma AI memodifikasi foto tanpa kontrol etika yang kuat, menimbulkan potensi pelanggaran hukum setempat. Reaksi global ini menunjukkan tantangan regulasi besar bagi platform yang mengintegrasikan teknologi AI tingkat lanjut.

Mendesak Peningkatan Filtering Deepfake

Pemerintah mendesak X dan pengembang Grok AI untuk segera meningkatkan mekanisme keamanan dan moderasi konten berbasis AI mereka. Platform wajib menyediakan kemampuan filtering yang jauh lebih efektif. Filtering ini harus menyasar konten deepfake, pornografi, dan segala materi berbahaya lainnya.

Komdigi mengindikasikan bahwa sanksi administratif lain, seperti denda atau teguran resmi, siap dijatuhkan jika platform gagal menunjukkan upaya perbaikan. Perlindungan masyarakat dari dampak negatif teknologi generatif menjadi prioritas utama Komdigi, terutama terhadap penyalahgunaan foto pribadi.

Analisis Risiko Regulatori Platform Digital

Tindakan Komdigi menegaskan kembali sikap tegas pemerintah terhadap pelanggaran hukum digital. Kegagalan platform seperti X untuk kooperatif dan memperbaiki sistem moderasi konten akan memicu konsekuensi yang fatal. Ancaman blokir Grok AI menunjukkan bahwa kedaulatan digital Indonesia menuntut kepatuhan mutlak. Platform AI harus memastikan teknologi mereka selaras dengan etika dan hukum perlindungan data pribadi. Dunia digital harus menjamin keamanan, privasi, dan perlindungan anak serta perempuan di tengah pesatnya perkembangan teknologi generatif.