Grok Diblokir! Indonesia Ambil Langkah Tegas Lawan Deepfake Seksual
- Grok
Pasal 9 regulasi tersebut secara eksplisit mewajibkan setiap PSE termasuk Platform X untuk:
- Memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarluaskan konten ilegal
- Menerapkan mekanisme pengamanan (safety rails) yang memadai
- Bertanggung jawab atas dampak sosial teknologinya
“Negara tidak bisa menyerahkan tanggung jawab penuh kepada pengguna akhir,” tegas Meutya. “Penyedia platform harus membangun pagar etika sejak desain awal.”
Respons Global: Indonesia Tak Sendirian
Langkah Indonesia sejalan dengan reaksi regulator di seluruh dunia terhadap Grok yang dianggap terlalu “bebas nilai”.
- Uni Eropa telah meminta xAI untuk menyimpan seluruh dokumentasi teknis Grok guna keperluan audit forensik di bawah kerangka Digital Services Act (DSA).
- India mengeluarkan ultimatum keras: jika penyalahgunaan Grok tak dihentikan, Platform X akan kehilangan status safe harbor, yang berarti bisa dituntut secara hukum atas konten pengguna.
- Inggris juga membuka investigasi terhadap potensi pelanggaran perlindungan data dan hak privasi.
Fakta bahwa restriksi Grok yang seharusnya hanya untuk pengguna premium mudah diakali, semakin memperkuat argumen bahwa moderasi AI saat ini masih rapuh dan reaktif, bukan proaktif.
Ultimatum untuk Elon Musk dan Platform X
Sebagai langkah lanjutan, Komdigi telah melayangkan panggilan resmi kepada manajemen Platform X. Pemerintah menuntut:
- Klarifikasi komprehensif mengenai mekanisme moderasi Grok
- Analisis dampak negatif terhadap warga Indonesia
- Rencana mitigasi konkret untuk mencegah penyalahgunaan di masa depan
Jika Platform X gagal memberikan respons memadai dalam tenggat waktu yang ditentukan, pemblokiran bisa diperpanjang atau diperluas ke fitur lain di ekosistem X.
Langkah ini mengirim sinyal kuat ke seluruh industri teknologi: di Indonesia, inovasi tidak boleh mengorbankan martabat manusia.
Deepfake Seksual: Ancaman Nyata di Era AI Generatif
Menurut laporan UNESCO dan lembaga HAM internasional, 90% korban deepfake seksual adalah perempuan. Di Asia Tenggara, kasusnya meningkat tajam sejak 2024, terutama melalui platform media sosial dan aplikasi pesan instan.
Yang membuatnya makin berbahaya adalah realisme gambar AI modern. Deepfake hari ini hampir tak bisa dibedakan dari foto asli oleh mata awam. Akibatnya, korban kesulitan membuktikan bahwa konten tersebut palsu apalagi saat tersebar luas di grup WhatsApp atau forum daring.
