Desakan Senator AS: Hapus Aplikasi X dan Grok dari App Store

• Senator AS secara formal meminta Apple dan Google menghapus aplikasi X dan Grok dari toko aplikasi mereka.
• Permintaan ini muncul setelah maraknya laporan pembuatan citra seksual nonkonsensual terhadap wanita dan anak-anak menggunakan Grok AI.
• Para senator berpendapat konten tersebut melanggar secara eksplisit Kebijakan Layanan Apple dan Google.
• X Corp telah membatasi fitur image generation bagi pengguna non-berbayar, namun alat ini tetap tersedia bagi pelanggan premium.

---

Tiga Senator Amerika Serikat melancarkan desakan tegas kepada para CEO teknologi terbesar dunia. Senator Ron Wyden, Ben Ray Lujan, dan Edward Markey meminta Tim Cook (Apple) dan Sundar Pichai (Google) untuk menghapus segera aplikasi milik X Corp, yaitu aplikasi X dan juga aplikasi Grok AI, dari App Store dan Play Store. Para senator menyatakan X dan Grok harus dikeluarkan dari platform digital tersebut. Alasannya jelas: insiden pembuatan massal citra seksual nonkonsensual, yang menargetkan wanita dan anak-anak, telah mencoreng layanan ini.

Dasar Permintaan Penghapusan Aplikasi X dan Grok

Kontroversi mengenai kemampuan AI generatif Grok AI milik X Corp telah memanas sepanjang pekan terakhir. Laporan menunjukkan teknologi ini digunakan untuk memproduksi gambar-gambar yang menampilkan wanita dan anak-anak dalam pakaian renang atau pakaian dalam secara paksa. Tindakan ini memicu reaksi keras dari publik dan kini perhatian pemerintah.

Senator Wyden dan rekan-rekannya menegaskan bahwa konten berbahaya dan ilegal ini melanggar secara eksplisit persyaratan layanan Apple dan Google. Kedua raksasa teknologi tersebut harus mengambil tindakan segera. Mereka wajib menghapus aplikasi X dan Grok sampai X Corp mengatasi pelanggaran kebijakan yang sangat serius ini.

Pelanggaran Kebijakan Apple dan Google

Apple memiliki ketentuan layanan yang sangat ketat mengenai konten di App Store. Ketentuan tersebut melarang aplikasi menyertakan konten yang "menyinggung" atau "benar-benar menyeramkan" (just plain creepy). Jelas, citra seksual nonkonsensual anak-anak dan wanita masuk dalam definisi ini.

Lebih lanjut, syarat dan ketentuan Apple secara tegas melarang materi "seksual terang-terangan atau pornografi." Materi yang "dimaksudkan untuk merangsang perasaan erotis dibandingkan estetika atau emosional" dilarang keras. Oleh karena itu, senator menekankan bahwa X Corp telah gagal memenuhi standar minimal ini melalui Grok AI-nya.

Reaksi X Corp dan Kontroversi Moderasi AI

Menanggapi kritik yang meningkat, X tampaknya telah mengurangi kemampuan Grok untuk menghasilkan citra tertentu. Pembatasan tersebut berlaku ketika pengguna non-berbayar meminta pembuatan gambar melalui kiriman X.

Namun demikian, alat pembuatan gambar berbasis AI tersebut masih tersedia penuh. Pengguna yang berlangganan berbayar tetap dapat mengakses fitur ini. Akses juga tersedia melalui tab Grok khusus dalam aplikasi X, serta melalui aplikasi Grok AI yang berdiri sendiri. Kelonggaran ini menunjukkan upaya X Corp yang tidak tuntas dalam mengatasi masalah mendasar.

Implikasi Keputusan Apple dan Google ke Depan

Senator AS memperingatkan Apple dan Google mengenai konsekuensi dari berdiam diri. Mengabaikan perilaku X yang sangat mencolok ini akan merusak kredibilitas praktik moderasi yang diklaim kedua perusahaan.

Tidak mengambil tindakan dapat meruntuhkan klaim publik mereka bahwa toko aplikasi menawarkan pengalaman pengguna yang lebih aman. Klaim "platform yang lebih aman" ini merupakan prinsip inti bagi Apple dan Google. Mereka sering menggunakan argumen ini untuk melawan reformasi legislatif yang bertujuan meningkatkan kompetisi toko aplikasi. Selanjutnya, sikap pasif akan melemahkan pembelaan mereka terhadap tuduhan penyalahgunaan kekuatan pasar. Senator meminta respons tertulis atas surat mereka paling lambat 23 Januari. Dengan demikian, bola panas kini berada di tangan Tim Cook dan Sundar Pichai.