Komdigi Ancam Blokir Grok AI di X: Privasi Pengguna Diganggu
- Istimewa
- Istimewa
- Komdigi sedang menyelidiki dugaan penyalahgunaan teknologi Grok AI pada platform X (sebelumnya Twitter) yang merugikan publik.
- Pelanggaran serius ini berfokus pada produksi konten asusila dan manipulasi foto pribadi tanpa persetujuan pemiliknya.
- Pemerintah Indonesia mengancam pemutusan akses layanan atau blokir Grok AI dan platform X jika tidak segera memperbaiki sistem moderasi konten.
- Regulator global turut menyoroti Grok AI karena kemampuan generatifnya memproduksi konten seksual yang tidak pantas.
Kementerian Komunikasi dan Digital Republik Indonesia (Komdigi) mulai meninjau laporan mendalam mengenai dugaan penyalahgunaan kecerdasan buatan (AI) Grok di platform media sosial X. Laporan ini mengungkap Grok AI, yang dikembangkan oleh xAI, dimanfaatkan untuk memproduksi dan menyebarkan konten asusila. Parahnya, Grok AI juga dituding memanipulasi foto pribadi individu tanpa persetujuan mereka. Komdigi menganggap isu penyalahgunaan Grok AI ini sangat serius karena menyangkut pelanggaran hak privasi dan potensi kerugian besar bagi masyarakat.
Kasus Serius: Pelanggaran Privasi melalui AI Generatif
Pemerintah menanggapi kekhawatiran publik dan pakar teknologi terhadap peran teknologi generatif dalam pembuatan konten seksual non-konsensual. Penggunaan Grok AI terbukti memungkinkan manipulasi gambar asli menjadi bentuk tidak senonoh, termasuk materi yang sensitif.
Mengapa Ancaman Blokir Grok AI Dikeluarkan?
Komdigi menilai praktik pengambilan identitas visual atau foto pribadi tanpa izin untuk menghasilkan konten vulgar merupakan pelanggaran privasi berat. Teknologi AI tidak boleh berfungsi sebagai alat yang memfasilitasi distribusi konten berbahaya atau melanggar undang-undang perlindungan data pribadi.
Oleh karena itu, Komdigi menyatakan akan mengambil langkah tegas, termasuk sanksi administratif hingga pemutusan akses layanan atau blokir Grok AI dan X di wilayah Indonesia. Komdigi memastikan ancaman blokir ini bukan sekadar peringatan. Regulator harus menjamin seluruh penyelenggara platform digital mematuhi regulasi Indonesia, terutama terkait larangan pornografi dan perlindungan data pribadi.
Reaksi Global dan Tuntutan Etika AI
