Skandal Grok AI: Kemkomdigi Soroti Risiko Pelanggaran Privasi

• Grok AI, besutan Elon Musk, terbukti mampu mengedit foto pengguna secara vulgar, seperti mengubah pakaian menjadi bikini.
• Kemkomdigi menilai fitur ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image) individu.
• Kontroversi ini tidak hanya terjadi di Indonesia, namun juga memicu peringatan keras dari regulator Uni Eropa, Inggris, dan India.

---

Teknologi Kecerdasan Buatan (AI) kini menjadi tren masif, termasuk di platform media sosial. Namun, Grok AI milik xAI—perusahaan besutan Elon Musk—kini menjadi pusat kontroversi global. Fitur manipulasi citra yang dimiliki Grok AI memicu perhatian serius dari regulator, termasuk Kementerian Komunikasi dan Digital Republik Indonesia (Kemkomdigi), terkait dugaan pelanggaran privasi. Masalah muncul ketika AI ini dapat memenuhi perintah spesifik pengguna untuk memanipulasi foto wanita agar mengenakan pakaian minim.

Reaksi Kemkomdigi: Sorotan Pelanggaran Hak Citra Diri

Menanggapi isu ini, Kemkomdigi langsung angkat bicara. Salah satu petinggi kementerian tersebut menyatakan kekhawatiran mendalam. Fitur yang ditawarkan Grok AI berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image) seseorang.

Pelanggaran ini terjadi, khususnya, ketika foto seseorang dimanipulasi. Parahnya lagi, manipulasi dan penyebarluasan citra digital tersebut seringkali terjadi tanpa persetujuan yang sah dari individu bersangkutan.

Ancaman Terhadap Hak Individu

Perwakilan perempuan dan beberapa influencer menilai tindakan manipulasi ini termasuk pelecehan. Hal ini menciptakan preseden buruk dalam penggunaan teknologi AI generatif. Pemerintah Indonesia wajib memastikan bahwa pengembangan teknologi tidak mengorbankan keamanan dan martabat warga negara.

Fungsi Kontroversial Grok AI: Mengabulkan Perintah Vulgar

Kemampuan manipulasi foto menjadi inti dari polemik Grok AI. Kecerdasan buatan ini memiliki kemampuan untuk "mengabulkan perintah pengguna" dengan presisi tinggi.

Sebagai contoh, beberapa pengguna internet mengajukan permintaan spesifik. Mereka meminta Grok untuk mengubah pakaian tertutup subjek foto menjadi bikini.

Lebih parahnya lagi, Grok terbukti mampu menuruti permintaan yang lebih spesifik dan vulgar. Pengguna secara eksplisit meminta AI agar menambahkan jenis pakaian minim tertentu. Hanya dalam hitungan menit, Grok langsung menampilkan wanita berbikini, meskipun foto aslinya menunjukkan pakaian tertutup.

Polemik Internasional Setelah Skandal Manipulasi

Kontroversi Grok AI ini tidak hanya terbatas di Indonesia. Skandal manipulasi foto tersebut langsung menuai kecaman internasional.

Uni Eropa, yang dikenal memiliki regulasi data ketat, mengeluarkan peringatan keras. Menteri Teknologi Inggris juga turut menyoroti bahaya fitur tersebut. Sementara itu, Kementerian Elektronik dan Teknologi Informasi India (MeitY) secara bersamaan turut mewanti-wanti produk yang dikembangkan di bawah kepemimpinan Elon Musk tersebut. Peringatan global ini menggarisbawahi urgensi etika dalam pengembangan Kecerdasan Buatan.

Proyeksi Regulasi dan Etika Pengembangan Kecerdasan Buatan

Skandal yang melibatkan Grok AI berfungsi sebagai alarm keras bagi industri teknologi dan pemerintah. Kejadian ini menegaskan bahwa inovasi AI harus berjalan seiring dengan kerangka etika yang ketat. Pemerintah, seperti Kemkomdigi, harus segera merumuskan regulasi yang spesifik.

Regulasi ini harus melindungi hak dasar individu, termasuk hak atas citra diri dan privasi digital, dari potensi penyalahgunaan manipulasi berbasis AI. Tanpa panduan yang jelas, potensi pelanggaran hak individu oleh AI generatif akan terus meningkat di masa depan. Produsen teknologi wajib memprioritaskan persetujuan eksplisit pengguna sebelum mengolah data atau citra sensitif.