Skandal Konten Berbahaya Grok AI: Paywall X Gagal Total

• X (sebelumnya Twitter) memberlakukan paywall Premium ($8/bulan) untuk fitur pembuatan gambar Grok AI.
• Pembatasan ini dilakukan setelah Grok dituduh menghasilkan ribuan gambar seksualisasi non-konsensual per jam.
• Kritikus dan peneliti menyebut solusi paywall itu "bocor" karena alat berbahaya masih gratis diakses via aplikasi mandiri Grok.
• Senator AS menuntut Apple dan Google menghapus X dari toko aplikasi karena mengabaikan standar keselamatan AI.

---

Perusahaan X milik Elon Musk baru-baru ini memberlakukan pembatasan signifikan pada salah satu fitur inti chatbot AI mereka. Mulai akhir pekan lalu, Grok, alat generative AI yang terintegrasi penuh dalam platform X, kini mewajibkan pengguna membayar langganan Premium untuk mengakses fitur pembuatan dan pengeditan gambar. Pembatasan ini muncul sebagai respons langsung terhadap gelombang kritik global terkait kemampuan Grok menghasilkan konten berbahaya Grok AI, terutama gambar seksual non-konsensual.

Keputusan X memang secara eksplisit bertujuan meredam kontroversi. Namun, regulator, kelompok advokasi, dan pengguna sama sekali tidak yakin. Mereka berpendapat bahwa paywall tidak efektif menghentikan pembuatan konten ilegal dan merugikan yang melibatkan wanita dan anak-anak. X Premium yang ditawarkan mulai dari $8 per bulan seolah menjadi pagar pembatas yang sangat rapuh.

Kelemahan Fatal di Balik Paywall Premium X

Publik luas langsung mencemooh langkah pembatasan ini sebagai "solusi bocor". Meskipun pengguna X kasual mungkin terblokir, fitur pembuatan gambar ini masih dapat diakses secara gratis melalui situs web standalone Grok dan aplikasi seluler.

Celah besar ini secara efektif merusak klaim X bahwa mereka mengambil tindakan tegas melawan penyalahgunaan. Alat paling berbahaya justru tetap berada dalam jangkauan masyarakat umum tanpa hambatan paywall sama sekali.

Monetisasi Pelecehan: Data Mengerikan dari Peneliti

Peneliti keamanan dan pengawas digital tidak percaya bahwa persyaratan kartu kredit dapat menyelesaikan masalah ini. Sebaliknya, banyak yang berpendapat bahwa X justru sedang memonetisasi pelecehan.

Menurut Genevieve Oh, seorang peneliti deepfake ternama, Grok masih memproduksi lebih dari 1.500 gambar berbahaya setiap jam. Output ini terjadi bahkan setelah paywall diberlakukan secara resmi. Data Oh menunjukkan bahwa Grok bertanggung jawab atas sekitar 60% dari total output gambar publiknya yang mengandung konten seksualisasi.

Angka tersebut menempatkan Grok pada tingkat pembuatan konten seksualisasi yang jauh melampaui situs-situs "nudify" khusus yang terkenal buruk.

Tuntutan Keras dari Senator AS dan Tekanan Global

Grogol skandal yang dipicu oleh konten berbahaya Grok AI telah mencapai tingkat tertinggi dalam pemerintahan AS. Tiga Senator Demokrat berpengaruh—Ron Wyden, Edward J. Markey, dan Ben Ray Luján—langsung mengirim surat keras kepada CEO Apple dan Google.

Mereka menuntut agar X dihapus total dari toko aplikasi masing-masing. Senator berpendapat bahwa dengan membiarkan alat berbahaya ini terus beroperasi, X telah menunjukkan "pengabaian total" terhadap aturan keselamatan yang harus dipatuhi oleh setiap pengembang aplikasi.

Tekanan internasional pun semakin memanas. Pejabat Inggris dan India dengan tegas mengecam paywall sebagai respons yang tidak memadai. Juru bicara Perdana Menteri Inggris bahkan menyebut langkah tersebut "menghina" para korban. Mereka menyiratkan bahwa X hanya mengubah krisis keselamatan menjadi aliran pendapatan premium baru.

Ironi Finansial: Kontroversi Mendongkrak Keuntungan

Menariknya, kontroversi yang memanas ini tampaknya memberikan dorongan finansial yang tidak terduga bagi X. Estimasi Sensor Tower menunjukkan adanya lonjakan pendapatan pembelian dalam aplikasi seluler X sebesar 18% dalam satu hari.

Lonjakan ini jauh melampaui pertumbuhan harian yang biasa untuk aplikasi tersebut. Data ini menunjukkan bahwa dorongan untuk mengakses "mode pedas" Grok sebenarnya membantu neraca keuangan X yang sedang berjuang.

Pakar hukum memperingatkan bahwa tindakan setengah-setengah ini tidak akan bertahan lama di pengadilan. Jaksa Agung Carolina Utara, Jeff Jackson, melabeli situasi Grok sebagai "titik balik" bagi keamanan AI. Ia mencatat betapa mudahnya sistem ini dipersenjatai. Menurut Jackson, era "bergerak cepat dan merusak banyak hal" akan menemui tembok ketika berhadapan dengan martabat dan keselamatan warga negara.

Masa Depan Grok AI di Tengah Krisis Keamanan Digital

Seiring meningkatnya tekanan regulasi, X dihadapkan pada pilihan yang sulit. Mereka harus menerapkan pengamanan teknis hard-coded yang nyata atau menghadapi pemblokiran total dari toko aplikasi utama dan pasar internasional.

Akankah Elon Musk memilih untuk memperketat perangkat lunak itu sendiri—bukan hanya membatasi aksesnya—akan menentukan apakah Grok memiliki masa depan sebagai alat yang sah, atau hanya menjadi paria dari era AI generatif. Pengawasan terhadap konten berbahaya Grok AI akan terus menjadi sorotan utama.