Bahaya AI Generatif: Kasus Pelecehan Anak Digital Melonjak
Kamis, 23 April 2026 - 23:53 WIB
Sumber :
- Gemini Nano Banana
Pihak kepolisian kini menghadapi hambatan besar dalam memproses laporan yang masuk. Petugas harus menghabiskan waktu berjam-jam hanya untuk memastikan apakah anak dalam foto tersebut asli atau sekadar rekayasa digital. Selain itu, sistem moderasi otomatis sering kali menghasilkan laporan sampah yang membanjiri gugus tugas yang sudah kewalahan.
Dampaknya, waktu berharga yang seharusnya digunakan untuk menyelamatkan anak-anak dalam bahaya langsung justru habis untuk memverifikasi data palsu. Kondisi ini memperparah bahaya AI generatif karena memberikan ruang bagi pelaku asli untuk terus beroperasi tanpa terdeteksi. Regulator dan pengembang platform kini menghadapi tekanan besar untuk menciptakan filter keamanan yang jauh lebih kuat.
