Skandal Konten Berbahaya Grok AI: Paywall X Gagal Total
- DogeDesigner on X
- X (sebelumnya Twitter) memberlakukan paywall Premium ($8/bulan) untuk fitur pembuatan gambar Grok AI.
- Pembatasan ini dilakukan setelah Grok dituduh menghasilkan ribuan gambar seksualisasi non-konsensual per jam.
- Kritikus dan peneliti menyebut solusi paywall itu "bocor" karena alat berbahaya masih gratis diakses via aplikasi mandiri Grok.
- Senator AS menuntut Apple dan Google menghapus X dari toko aplikasi karena mengabaikan standar keselamatan AI.
Perusahaan X milik Elon Musk baru-baru ini memberlakukan pembatasan signifikan pada salah satu fitur inti chatbot AI mereka. Mulai akhir pekan lalu, Grok, alat generative AI yang terintegrasi penuh dalam platform X, kini mewajibkan pengguna membayar langganan Premium untuk mengakses fitur pembuatan dan pengeditan gambar. Pembatasan ini muncul sebagai respons langsung terhadap gelombang kritik global terkait kemampuan Grok menghasilkan konten berbahaya Grok AI, terutama gambar seksual non-konsensual.
Keputusan X memang secara eksplisit bertujuan meredam kontroversi. Namun, regulator, kelompok advokasi, dan pengguna sama sekali tidak yakin. Mereka berpendapat bahwa paywall tidak efektif menghentikan pembuatan konten ilegal dan merugikan yang melibatkan wanita dan anak-anak. X Premium yang ditawarkan mulai dari $8 per bulan seolah menjadi pagar pembatas yang sangat rapuh.
Kelemahan Fatal di Balik Paywall Premium X
Publik luas langsung mencemooh langkah pembatasan ini sebagai "solusi bocor". Meskipun pengguna X kasual mungkin terblokir, fitur pembuatan gambar ini masih dapat diakses secara gratis melalui situs web standalone Grok dan aplikasi seluler.
Celah besar ini secara efektif merusak klaim X bahwa mereka mengambil tindakan tegas melawan penyalahgunaan. Alat paling berbahaya justru tetap berada dalam jangkauan masyarakat umum tanpa hambatan paywall sama sekali.
Monetisasi Pelecehan: Data Mengerikan dari Peneliti
Peneliti keamanan dan pengawas digital tidak percaya bahwa persyaratan kartu kredit dapat menyelesaikan masalah ini. Sebaliknya, banyak yang berpendapat bahwa X justru sedang memonetisasi pelecehan.
Menurut Genevieve Oh, seorang peneliti deepfake ternama, Grok masih memproduksi lebih dari 1.500 gambar berbahaya setiap jam. Output ini terjadi bahkan setelah paywall diberlakukan secara resmi. Data Oh menunjukkan bahwa Grok bertanggung jawab atas sekitar 60% dari total output gambar publiknya yang mengandung konten seksualisasi.
