Grok AI Dibatasi X Premium, Kemkomdigi Blokir: Efektifkah?

• X memberlakukan batasan pada fitur pembuatan gambar Grok AI, hanya mengizinkannya diakses oleh pelanggan berbayar X Premium (mulai USD 8 per bulan).
• Para peneliti keamanan digital menilai pembatasan berbasis pembayaran ini tidak efektif, sebab celah penggunaan gratis masih ditemukan dan produksi konten berbahaya tetap tinggi.
• Kemkomdigi mengambil langkah tegas memutus akses (blokir) terhadap Grok AI di Indonesia demi melindungi masyarakat dari ancaman konten pornografi palsu.
• Pemerintah global, termasuk AS, Inggris, dan India, mendesak X memperkuat keamanan, menilai kebijakan berbayar hanya mengubah masalah keselamatan menjadi sumber pendapatan premium.

---

Platform media sosial X (dahulu Twitter) baru-baru ini menerapkan pembatasan signifikan terhadap fitur visual pada chatbot kecerdasan buatan, Grok AI. X kini mewajibkan pengguna untuk berlangganan layanan X Premium jika mereka ingin membuat atau mengedit gambar menggunakan Grok. Langkah ini muncul merespons sorotan tajam global tentang potensi penyalahgunaan teknologi AI untuk menghasilkan konten seksual tanpa persetujuan.

Manajemen X menilai kebijakan ini sebagai upaya pengendalian risiko yang perlu dilakukan. Namun demikian, para peneliti keamanan dan pemerintah global justru melayangkan kritik keras. Mereka ragu pembatasan berbasis kartu kredit efektif menekan produksi konten berbahaya. Isu ini memaksa pemerintah Indonesia mengambil tindakan drastis, yaitu blokir sementara Grok AI, demi perlindungan pengguna.

Mempertanyakan Efektivitas Kebijakan X Premium Grok AI

Kebijakan X Premium yang diterapkan bagi pengguna Grok AI segera menjadi sasaran keraguan para ahli. Pengguna harus membayar mulai dari sekitar Rp 134 ribu per bulan untuk mengakses fitur visual Grok. X mengklaim hal ini memperketat penggunaan fitur teknologi AI.

Faktanya, sejumlah pengguna dan aktivis menemukan celah besar dalam sistem tersebut. Mereka melaporkan bahwa layanan pembuatan gambar Grok masih dapat diakses secara gratis melalui situs resmi dan aplikasi terpisah. Celah ini mementahkan klaim X tentang komitmen mereka membatasi penyalahgunaan.

Risiko Produksi Konten Berbahaya Tetap Tinggi

Peneliti keamanan digital menilai pembatasan berbasis pembayaran tidak akan menghentikan praktik ilegal. Genevieve Oh, seorang peneliti deepfake, mengungkapkan data yang mengkhawatirkan. Ia mencatat Grok terus memproduksi ribuan gambar berbahaya setiap jam.

Oh menyebut angka tersebut setara dengan sekitar 60 persen dari total output publik Grok. Laju produksi konten tidak pantas dari Grok bahkan melampaui sejumlah situs manipulasi gambar yang selama ini kontroversial. Aktivis keselamatan digital, Jess Davies, juga mengonfirmasi masih dapat memanipulasi foto melalui aplikasi Grok terpisah, meskipun kebijakan pembatasan telah diumumkan.

Tekanan Regulasi Global dan Tindakan Kemkomdigi

Isu penyalahgunaan Grok AI menarik perhatian regulator dan pembuat kebijakan di seluruh dunia. Para Senator Demokrat di Amerika Serikat, seperti Ron Wyden, Edward J. Markey, dan Ben Ray Luján, mengirim surat resmi kepada CEO Apple dan Google. Mereka meminta kedua perusahaan itu meninjau ulang keberadaan aplikasi X di toko aplikasi mereka.

Para senator menilai pengelola platform belum menunjukkan komitmen kuat terhadap perlindungan pengguna. Sementara itu, Pemerintah Inggris dan India sepakat menyatakan sistem berbayar bukan solusi memadai untuk menekan risiko penyalahgunaan teknologi. Pemerintah Inggris bahkan menyebut langkah X ini sebagai pelecehan terhadap korban. Mereka melihat masalah keselamatan justru diubah menjadi sumber pendapatan premium.

Di sisi lain, Kementerian Komunikasi dan Digital (Kemkomdigi) di Indonesia mengambil langkah paling tegas. Mereka secara resmi memutus akses sementara terhadap aplikasi Grok AI di Tanah Air. Kemkomdigi memberlakukan blokir Grok AI sebagai upaya preventif melindungi masyarakat, khususnya perempuan dan anak, dari ancaman konten pornografi palsu.

Dilema Strategis X dan Regulasi Keselamatan AI

Dinamika kontroversi Grok AI ini memberikan dampak ganda bagi X. Data Sensor Tower justru menunjukkan peningkatan signifikan transaksi pembelian di aplikasi dalam waktu singkat. Rasa penasaran pengguna terhadap fitur visual Grok diduga kuat memicu kenaikan pendapatan tersebut.

Namun demikian, para pakar hukum mengingatkan X tentang risiko regulasi. Jaksa Agung North Carolina, Jeff Jackson, menegaskan kasus Grok menjadi momentum penting bagi penguatan regulasi keselamatan AI. Ia menekankan, pendekatan inovasi cepat tanpa perlindungan memadai tidak lagi dapat ditoleransi. Hal ini sangat krusial ketika menyangkut hak privasi dan keselamatan publik.

X kini menghadapi keputusan strategis yang kritis. Mereka harus memilih antara memperketat pengamanan sistem secara menyeluruh atau menghadapi potensi risiko pembatasan distribusi aplikasi di berbagai negara. Langkah yang X ambil akan menentukan apakah Grok dapat bertahan sebagai produk kecerdasan buatan yang bertanggung jawab, atau justru menjadi sumber kontroversi regulasi yang berkepanjangan.