Ancaman Mendesak: Tiga Pola Serangan Siber Agen AI Baru

• Adopsi agen AI secara fundamental memperluas permukaan ancaman siber bagi perusahaan.
• Penyerang kini fokus mengekstrak perintah sistem internal AI, bukan sekadar manipulasi keluaran (prompt injection).
• Serangan tidak langsung, yang memanfaatkan konten eksternal, membutuhkan upaya yang jauh lebih kecil dan efektif.
• Perusahaan wajib mendefinisikan ulang batasan kepercayaan untuk mengamankan sistem agentic pada tahun 2026.

---

Jakarta—Adopsi Kecerdasan Buatan (AI) dan AI Agen di berbagai sektor industri berlangsung sangat cepat. Namun, kecepatan ini sayangnya juga diikuti oleh adaptasi para penyerang siber. Penelitian terbaru menyoroti bahwa isu Keamanan Agen AI kini memasuki fase kritis karena musuh langsung mengeksploitasi sistem segera setelah kapabilitas baru AI diperkenalkan.

Mateo Rojas-Carulla, Kepala Penelitian Keamanan Agen AI di Check Point Software, menjelaskan bahwa transisi ini memperluas permukaan ancaman siber secara mendasar. Sistem agentic yang baru ini bersifat interaktif; mereka mampu menjelajahi dokumen, memanggil alat eksternal, dan mengatur alur kerja multi-langkah. Rojas-Carulla memperingatkan, risiko yang ditimbulkan oleh agen AI berbeda dari serangan berbasis API atau aplikasi web konvensional. Vektor serangan baru muncul lebih cepat dari yang organisasi antisipasi.

Transformasi Ancaman Siber: Permukaan Serangan Agen AI

Tim Check Point menganalisis perilaku penyerang pada kuartal keempat tahun 2025. Hasilnya menunjukkan musuh segera menyesuaikan taktik mereka begitu agen AI mulai berinteraksi dengan konten dan alat eksternal.

Para penyerang tidak lagi menggunakan metode lama. Mereka mencari celah spesifik dalam logika alur kerja AI yang baru. Analisis tersebut menemukan bahwa filter sanitasi masukan tradisional tidak lagi memadai saat model berinteraksi dengan sumber konten yang tidak tepercaya.

Transisi dari Model Statis ke Sistem Agentic

Agen AI berbeda dari model bahasa statis. Model bahasa statis hanya memproses permintaan dan memberikan keluaran. Sementara itu, sistem agentic bertindak otonom; mereka mengambil inisiatif berdasarkan instruksi internal.

Sistem agentic yang mampu mengatur alur kerja multi-langkah secara otomatis menciptakan risiko yang jauh lebih tinggi. Jika penyerang berhasil mengkompromikan instruksi internal agen, mereka secara efektif dapat mengambil kendali atas proses bisnis vital.

Tiga Pola Serangan Dominan yang Wajib Diwaspadai

Penelitian ini mengidentifikasi tiga pola serangan utama. Masing-masing memiliki implikasi mendalam bagi perancangan dan pengamanan sistem Kecerdasan Buatan di masa depan.

1. Target Baru: Ekstraksi Perintah Sistem

Penyerang kini semakin menargetkan perintah sistem (System Prompt Extraction). Ini adalah instruksi internal yang mendefinisikan peran dan logika kerja agen AI. Serangan ini lebih canggih daripada injeksi prompt sederhana yang bertujuan memanipulasi keluaran.

Penyerang menggunakan teknik seperti skenario hipotetis atau menyembunyikan instruksi berbahaya di dalam konten terstruktur. Tujuannya adalah memancing agen mengungkapkan detail internal yang seharusnya dilindungi.

2. Melewati Pengamanan Konten Tradisional

Pola kedua adalah Penyimpangan Halus pada Keamanan Konten (Content Safety Bypasses). Penyerang menghindari kontrol keamanan tradisional dengan membingkai konten berbahaya sebagai tugas analitis atau skenario bermain peran.

Model AI biasanya menolak permintaan langsung untuk konten berbahaya. Namun, model yang sama mungkin menghasilkan keluaran yang identik ketika diminta untuk "evaluasi" atau "meringkas" konten tersebut dalam konteks yang spesifik dan permisif.

3. Eksploitasi Kemampuan Khusus Agen

Serangan paling berkonsekuensi adalah munculnya Serangan Khusus Agen (Agent-Specific Attacks). Serangan ini secara spesifik mengeksploitasi kemampuan unik agen, misalnya kemampuan mengakses data rahasia dari penyimpanan dokumen internal yang terhubung.

Temuan mencolok menunjukkan serangan tidak langsung—yang memanfaatkan konten eksternal yang terreferensi—membutuhkan upaya lebih sedikit. Penyerang menyematkan instruksi berbahaya di dalam konten eksternal tersebut, membuat agen terpaksa mengeksekusinya tanpa pemeriksaan mendalam.

Redefinisi Arsitektur Keamanan dan Implikasi 2026

Laporan ini membawa implikasi mendesak bagi perusahaan yang berencana menerapkan AI agentic dalam skala besar pada tahun 2026 dan seterusnya. Keamanan Agen AI menuntut pemikiran ulang arsitektur sistem.

Perusahaan perlu mendefinisikan ulang batasan kepercayaan. Mereka harus mengadopsi model kepercayaan yang lebih bernuansa. Selain itu, pengembangan guardrails yang adaptif sangat penting. Guardrails ini harus sadar konteks dan mampu melakukan penalaran di seluruh alur kerja multi-langkah.

Memastikan transparansi dan audit atas setiap proses pengambilan keputusan agen menjadi esensial. Hal ini membutuhkan kolaborasi lintas disiplin yang kuat antara tim AI, keamanan siber, dan intelijen ancaman.

Terakhir, Rojas-Carulla menekankan regulator dan badan standar harus segera menyusul evolusi teknologi ini. Sistem agentic menciptakan kelas risiko baru yang memerlukan peraturan yang melampaui keamanan keluaran dan privasi data konvensional. Organisasi yang berhasil dalam era AI agentic adalah mereka yang memperlakukan keamanan sebagai prinsip desain fundamental sejak awal.