Gawat! Senator AS Desak Apple & Google Blokir Grok AI dan X

Skandal ini berpusat pada fitur Grok AI. Platform ini, bersama Aplikasi X, telah membiarkan pengguna dengan sangat mudah membuat dan menyebarkan konten "deepfake" yang eksplisit dan bermuatan seksual. Bahkan, beberapa konten deepfake tersebut dibuat menggunakan gambar pribadi tanpa persetujuan pemilik aslinya. Konten ilegal ini melanggar banyak kebijakan platform.

Langkah Mitigasi yang Dinilai Gagal

Elon Musk dan X, melalui pernyataan pada awal Januari, mencoba merespons kontroversi ini. Mereka menyatakan bahwa pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menanggung konsekuensi hukum yang sama seperti mengunggah konten ilegal secara umum.

Sebagai langkah mitigasi cepat, Grok sempat membatasi fitur pembuatan dan pengeditan gambar, hanya tersedia untuk pelanggan berbayar. Namun, regulator di Inggris menilai langkah tersebut masih belum efektif mengatasi akar masalah yang telah terjadi.

Respons Cepat Indonesia: Pemblokiran Akses Grok

Isu konten asusila yang dihasilkan oleh Grok AI juga memicu reaksi cepat dari Pemerintah Indonesia. Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan Pemerintah telah memutuskan untuk memblokir akses sementara terhadap aplikasi Grok di dalam negeri.

Tindakan pemblokiran ini bertujuan melindungi perempuan, anak-anak, dan seluruh masyarakat dari risiko serius konten pornografi palsu yang dipicu oleh teknologi chatbot AI tersebut.

Dasar Hukum Pemblokiran

Pemutusan akses sementara terhadap Grok AI dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital. Kewenangan ini termaktub dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya pada Pasal 9. Aturan tersebut secara ketat mewajibkan setiap PSE memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik atau dokumen elektronik yang dilarang oleh hukum.

Implikasi Regulasi Global terhadap Platform AI

Permintaan penangguhan Aplikasi X dan Grok AI oleh Senator AS menunjukkan meningkatnya tekanan regulasi terhadap platform AI generatif yang kurang memiliki kontrol moderasi. Ketika platform seperti Grok AI gagal membatasi penyebaran konten berbahaya—khususnya konten seksual non-konsensual—regulator global mulai menggunakan kekuatan penuh mereka.

Situasi ini menyoroti pentingnya peran Google dan Apple sebagai penjaga gerbang (gatekeeper) distribusi aplikasi. Keputusan kedua perusahaan mengenai penangguhan Grok AI dan Aplikasi X akan menciptakan preseden besar mengenai tanggung jawab platform atas keamanan dan etika konten yang didukung teknologi Kecerdasan Buatan. Dunia kini menanti respons resmi dari Tim Cook dan Sundar Pichai.