Grok AI Dibatasi X Premium, Kemkomdigi Blokir: Efektifkah?

Oh menyebut angka tersebut setara dengan sekitar 60 persen dari total output publik Grok. Laju produksi konten tidak pantas dari Grok bahkan melampaui sejumlah situs manipulasi gambar yang selama ini kontroversial. Aktivis keselamatan digital, Jess Davies, juga mengonfirmasi masih dapat memanipulasi foto melalui aplikasi Grok terpisah, meskipun kebijakan pembatasan telah diumumkan.

Tekanan Regulasi Global dan Tindakan Kemkomdigi

Isu penyalahgunaan Grok AI menarik perhatian regulator dan pembuat kebijakan di seluruh dunia. Para Senator Demokrat di Amerika Serikat, seperti Ron Wyden, Edward J. Markey, dan Ben Ray Luján, mengirim surat resmi kepada CEO Apple dan Google. Mereka meminta kedua perusahaan itu meninjau ulang keberadaan aplikasi X di toko aplikasi mereka.

Para senator menilai pengelola platform belum menunjukkan komitmen kuat terhadap perlindungan pengguna. Sementara itu, Pemerintah Inggris dan India sepakat menyatakan sistem berbayar bukan solusi memadai untuk menekan risiko penyalahgunaan teknologi. Pemerintah Inggris bahkan menyebut langkah X ini sebagai pelecehan terhadap korban. Mereka melihat masalah keselamatan justru diubah menjadi sumber pendapatan premium.

Di sisi lain, Kementerian Komunikasi dan Digital (Kemkomdigi) di Indonesia mengambil langkah paling tegas. Mereka secara resmi memutus akses sementara terhadap aplikasi Grok AI di Tanah Air. Kemkomdigi memberlakukan blokir Grok AI sebagai upaya preventif melindungi masyarakat, khususnya perempuan dan anak, dari ancaman konten pornografi palsu.

Dilema Strategis X dan Regulasi Keselamatan AI

Dinamika kontroversi Grok AI ini memberikan dampak ganda bagi X. Data Sensor Tower justru menunjukkan peningkatan signifikan transaksi pembelian di aplikasi dalam waktu singkat. Rasa penasaran pengguna terhadap fitur visual Grok diduga kuat memicu kenaikan pendapatan tersebut.

Namun demikian, para pakar hukum mengingatkan X tentang risiko regulasi. Jaksa Agung North Carolina, Jeff Jackson, menegaskan kasus Grok menjadi momentum penting bagi penguatan regulasi keselamatan AI. Ia menekankan, pendekatan inovasi cepat tanpa perlindungan memadai tidak lagi dapat ditoleransi. Hal ini sangat krusial ketika menyangkut hak privasi dan keselamatan publik.

X kini menghadapi keputusan strategis yang kritis. Mereka harus memilih antara memperketat pengamanan sistem secara menyeluruh atau menghadapi potensi risiko pembatasan distribusi aplikasi di berbagai negara. Langkah yang X ambil akan menentukan apakah Grok dapat bertahan sebagai produk kecerdasan buatan yang bertanggung jawab, atau justru menjadi sumber kontroversi regulasi yang berkepanjangan.