ChatGPT dan Grok Disalahgunakan Penjahat Siber untuk Menipu Pengguna di Google

Peneliti keamanan siber dari Huntress mengungkap pola serangan baru yang memanfaatkan chatbot populer seperti ChatGPT dan Grok melalui halaman hasil pencarian Google. Pelaku dikabarkan membuat percakapan AI tentang topik umum yang sering dicari, seperti cara mengelola ruang penyimpanan Mac, lalu menyisipkan instruksi terminal yang sebenarnya berisi perintah berbahaya. Percakapan tersebut diatur agar dapat diakses publik dan dipromosikan agar muncul di posisi atas hasil pencarian Google.

Ketika pengguna mencari topik serupa dan mengklik tautan yang tampak normal, mereka diarahkan ke percakapan AI yang terlihat kredibel. Instruksi yang disajikan chatbot kemudian diikuti tanpa kecurigaan, terutama karena pengguna menganggapnya berasal dari sumber terpercaya. Setelah perintah terminal disalin dan dijalankan, malware dapat terpasang secara otomatis di perangkat korban.

Huntress mencatat bahwa salah satu serangan yang dianalisis melibatkan penyebaran malware AMOS yang menargetkan perangkat macOS untuk mencuri data sensitif. Dalam uji coba internal, tim menemukan bahwa ChatGPT dan Grok mampu menghasilkan pola instruksi yang dapat dimanfaatkan apabila digunakan di luar konteks atau disalahgunakan oleh pihak tidak bertanggung jawab.

Metode ini dinilai berbahaya karena tidak menampilkan indikasi klasik serangan siber. Korban tidak menjalankan file mencurigakan atau membuka lampiran asing. Mereka hanya mengikuti saran pada percakapan AI yang nampak meyakinkan dan ditemukan lewat Google. Huntress menilai situasi ini memanfaatkan kepercayaan yang sudah melekat pada dua platform besar yaitu Google dan ChatGPT.

Setelah laporan Huntress dirilis, tautan percakapan ChatGPT yang berisi instruksi berbahaya tersebut telah dihapus dari hasil pencarian Google. Namun tautan itu dilaporkan sempat aktif lebih dari 12 jam dan berpotensi menjangkau banyak pengguna selama periode itu.

Insiden ini menjadi pengingat bagi pengguna internet untuk lebih berhati-hati saat menyalin perintah ke terminal komputer atau bilah alamat browser, terutama ketika sumber informasi berasal dari percakapan AI yang tidak diverifikasi. Penggunaan langkah keamanan dasar seperti pembaruan sistem, pemindaian antivirus, dan pemeriksaan ulang sumber informasi dapat membantu mengurangi risiko serangan malware.