Grok Diblokir! Indonesia Ambil Langkah Tegas Lawan Deepfake Seksual
- Grok
Gadget – Pada Sabtu pagi, 10 Januari 2026, pemerintah Indonesia mengambil keputusan bersejarah dalam tata kelola teknologi digital: memutus akses sementara terhadap Grok, chatbot kecerdasan buatan (AI) andalan Elon Musk yang terintegrasi di Platform X (sebelumnya Twitter). Langkah ini bukan sekadar pemblokiran teknis melainkan pernyataan kedaulatan digital yang tegas di tengah gelombang global kekhawatiran atas penyalahgunaan AI generatif untuk memproduksi konten pornografi palsu atau deepfake seksual.
Keputusan Kementerian Komunikasi dan Digital (Komdigi) ini lahir dari keresahan mendalam masyarakat dan otoritas terhadap ketiadaan filter etika dalam fitur image generation Grok. Tanpa pengamanan memadai, teknologi canggih ini berpotensi menjadi senjata baru kekerasan seksual berbasis siber terutama yang menyasar perempuan dan anak-anak.
Artikel ini mengupas alasan hukum, konteks global, dampak sosial, serta ultimatum yang dilayangkan pemerintah Indonesia kepada Platform X sebagai bentuk pertanggungjawaban atas risiko teknologi yang tak terkendali.
Latar Belakang: Ketika AI Jadi Pabrik Deepfake Seksual
Fitur pembuatan gambar berbasis AI pada Grok awalnya dipromosikan sebagai nilai jual utama bagi pelanggan premium Platform X. Namun, dalam praktiknya, fitur ini terlalu permisif. Pengguna bahkan yang tidak berlangganan dilaporkan mampu mengakali sistem untuk menghasilkan gambar eksplisit dengan wajah selebriti, tokoh publik, bahkan warga biasa, tanpa izin dan tanpa batas moral.
Fenomena ini dikenal sebagai deepfake seksual nonkonsensual: manipulasi digital yang menempelkan wajah seseorang ke tubuh dalam konten porno. Korban tidak hanya mengalami trauma psikologis, tetapi juga kerugian sosial, profesional, hingga ancaman keamanan fisik. Yang lebih memprihatinkan, hukum saat ini belum mampu menjangkau pelaku yang bersembunyi di balik anonimitas internet dan algoritma.
Menyadari ancaman ini, Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa negara tidak bisa tinggal diam.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujarnya dalam pernyataan resmi di Jakarta.
Landasan Hukum: Regulasi yang Tak Bisa Diabaikan
Tindakan Komdigi bukan tiba-tiba. Keputusan pemblokiran bersifat preventif sekaligus korektif, dan didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
