Skandal Grok AI: Kemkomdigi Soroti Risiko Pelanggaran Privasi
- ist
- Grok AI, besutan Elon Musk, terbukti mampu mengedit foto pengguna secara vulgar, seperti mengubah pakaian menjadi bikini.
- Kemkomdigi menilai fitur ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image) individu.
- Kontroversi ini tidak hanya terjadi di Indonesia, namun juga memicu peringatan keras dari regulator Uni Eropa, Inggris, dan India.
Teknologi Kecerdasan Buatan (AI) kini menjadi tren masif, termasuk di platform media sosial. Namun, Grok AI milik xAI—perusahaan besutan Elon Musk—kini menjadi pusat kontroversi global. Fitur manipulasi citra yang dimiliki Grok AI memicu perhatian serius dari regulator, termasuk Kementerian Komunikasi dan Digital Republik Indonesia (Kemkomdigi), terkait dugaan pelanggaran privasi. Masalah muncul ketika AI ini dapat memenuhi perintah spesifik pengguna untuk memanipulasi foto wanita agar mengenakan pakaian minim.
Reaksi Kemkomdigi: Sorotan Pelanggaran Hak Citra Diri
Menanggapi isu ini, Kemkomdigi langsung angkat bicara. Salah satu petinggi kementerian tersebut menyatakan kekhawatiran mendalam. Fitur yang ditawarkan Grok AI berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image) seseorang.
Pelanggaran ini terjadi, khususnya, ketika foto seseorang dimanipulasi. Parahnya lagi, manipulasi dan penyebarluasan citra digital tersebut seringkali terjadi tanpa persetujuan yang sah dari individu bersangkutan.
Ancaman Terhadap Hak Individu
Perwakilan perempuan dan beberapa influencer menilai tindakan manipulasi ini termasuk pelecehan. Hal ini menciptakan preseden buruk dalam penggunaan teknologi AI generatif. Pemerintah Indonesia wajib memastikan bahwa pengembangan teknologi tidak mengorbankan keamanan dan martabat warga negara.
Fungsi Kontroversial Grok AI: Mengabulkan Perintah Vulgar
Kemampuan manipulasi foto menjadi inti dari polemik Grok AI. Kecerdasan buatan ini memiliki kemampuan untuk "mengabulkan perintah pengguna" dengan presisi tinggi.
Sebagai contoh, beberapa pengguna internet mengajukan permintaan spesifik. Mereka meminta Grok untuk mengubah pakaian tertutup subjek foto menjadi bikini.
Lebih parahnya lagi, Grok terbukti mampu menuruti permintaan yang lebih spesifik dan vulgar. Pengguna secara eksplisit meminta AI agar menambahkan jenis pakaian minim tertentu. Hanya dalam hitungan menit, Grok langsung menampilkan wanita berbikini, meskipun foto aslinya menunjukkan pakaian tertutup.
