AI Agent Bisa Diretas? Ini Risiko Keamanan AI yang Wajib Kamu Ketahui

Artificial Intelligence (AI) semakin berkembang. Jika sebelumnya AI hanya digunakan untuk menjawab pertanyaan, sekarang teknologi ini juga bisa menjalankan tugas secara otomatis melalui sistem yang disebut AI Agent.

AI Agent dapat membantu mencari informasi, mengelola dokumen, membaca email, menulis kode, hingga berinteraksi dengan berbagai aplikasi. Teknologi ini berpotensi menghemat banyak waktu karena mampu menjalankan beberapa langkah pekerjaan tanpa harus diarahkan terus-menerus.

Namun, muncul satu pertanyaan penting: apakah AI Agent bisa diretas?

Jawabannya adalah ya. AI Agent dapat menjadi sasaran serangan siber, dimanipulasi melalui instruksi berbahaya, atau disalahgunakan akibat sistem keamanan yang lemah. Risikonya bahkan bisa lebih besar daripada chatbot biasa apabila AI Agent memiliki akses ke email, file pribadi, akun, atau sistem komputer.

OWASP dan National Institute of Standards and Technology (NIST) telah membahas risiko keamanan yang berkaitan dengan AI Agent, termasuk manipulasi instruksi dan tindakan otomatis yang tidak diinginkan.

Lalu, bagaimana cara AI Agent bisa diretas, apa dampaknya, dan bagaimana cara melindunginya?

Apa Itu AI Agent?

AI Agent adalah sistem kecerdasan buatan yang dapat merencanakan dan menjalankan serangkaian tindakan untuk mencapai tujuan tertentu.

Berbeda dengan chatbot biasa yang umumnya memberikan jawaban berdasarkan pertanyaan pengguna, AI Agent dapat menggunakan berbagai alat untuk menyelesaikan pekerjaan.

Contohnya, ketika kamu meminta AI Agent membantu mengatur pekerjaan, sistem tersebut mungkin dapat:

• Membaca dokumen yang relevan.

• Mencari informasi di internet.

• Membuat ringkasan.

• Menyusun email.

• Memperbarui data pada aplikasi yang terhubung.

• Menjalankan tugas berdasarkan jadwal atau kondisi tertentu.

Kemampuan tersebut bergantung pada fitur, izin, dan aplikasi yang terhubung dengan AI Agent.

Justru karena bisa melakukan tindakan nyata, keamanan menjadi hal yang sangat penting.

1. Bagaimana AI Agent Bisa Diretas?

Ada beberapa cara yang dapat digunakan penyerang untuk memanipulasi atau menyerang AI Agent.

Prompt Injection

Prompt injection adalah serangan ketika instruksi berbahaya membuat AI berperilaku berbeda dari tujuan yang seharusnya.

Misalnya, kamu meminta AI Agent membaca sebuah halaman web untuk merangkum informasi perjalanan. Namun, halaman tersebut sengaja berisi instruksi tersembunyi yang mencoba membuat AI mengungkapkan informasi rahasia atau menjalankan tindakan lain.

Jika sistem tidak memiliki perlindungan yang memadai, AI mungkin mengikuti instruksi berbahaya tersebut.

Serangan ini dapat terjadi melalui teks yang diberikan langsung oleh pengguna maupun konten eksternal seperti situs web, email, dan dokumen.

Menurut proyek keamanan AI OWASP, prompt injection merupakan salah satu risiko utama aplikasi berbasis model bahasa. https://genai.owasp.org/glossary/prompt-injection/

Penyalahgunaan Hak Akses

AI Agent terkadang diberikan izin untuk mengakses berbagai aplikasi dan data.

Misalnya, sebuah agen memiliki akses untuk membaca file, mengirim email, dan mengubah dokumen.

Jika agen tersebut berhasil dimanipulasi, penyerang mungkin dapat memanfaatkan izin yang tersedia untuk memicu tindakan yang tidak diinginkan.

Masalahnya bukan selalu karena AI berhasil ditembus secara langsung. Terkadang, sistem sejak awal memberikan izin terlalu luas.

Karena itu, AI Agent sebaiknya hanya mendapatkan akses yang benar-benar dibutuhkan.

Kebocoran Data

AI Agent dapat memproses informasi pribadi atau pekerjaan yang sensitif.

Jika sistem keamanannya lemah, informasi tersebut berisiko bocor melalui keluaran AI, koneksi aplikasi, log, atau tindakan otomatis yang tidak semestinya.

Contohnya meliputi dokumen internal, data pelanggan, informasi bisnis, atau kredensial yang secara keliru disimpan di dalam konteks AI.

Inilah alasan mengapa data rahasia tidak boleh diberikan sembarangan kepada sistem AI.

Serangan melalui Plugin atau Integrasi

Sebagian AI Agent menggunakan plugin, API, atau layanan pihak ketiga untuk menjalankan tugas.

Jika integrasi tersebut tidak aman, dikonfigurasi secara keliru, atau berasal dari penyedia yang tidak tepercaya, integrasi itu dapat menjadi jalur serangan.

Karena itu, pengguna tidak cukup hanya memercayai model AI. Mereka juga perlu memeriksa keamanan aplikasi dan alat yang terhubung dengannya.

2. Apa yang Terjadi Jika AI Agent Berhasil Diserang?

Dampaknya bergantung pada kemampuan dan izin yang dimiliki agen.

Berikut beberapa risiko yang perlu diperhatikan.

Risiko	Contoh dampak
Kebocoran informasi	Dokumen pribadi berpotensi terkirim ke pihak yang tidak berhak
Pengiriman pesan tanpa izin	Agen dapat dimanipulasi untuk menyusun atau mengirim email yang tidak diinginkan
Perubahan data	File atau catatan dapat diubah secara keliru
Penyalahgunaan akun	Integrasi dengan hak akses berlebihan dapat digunakan untuk tindakan yang tidak sah
Eksekusi perintah berbahaya	Agen yang memiliki akses eksekusi kode berisiko menjalankan tindakan yang merusak
Biaya membengkak	Penggunaan alat atau proses otomatis yang tidak terkendali dapat menghabiskan sumber daya

NIST pernah memublikasikan evaluasi mengenai agent hijacking, termasuk pengujian yang melibatkan upaya mendorong agen untuk mengunduh program, mengambil data, atau melakukan phishing melalui instruksi berbahaya. https://www.nist.gov/news-events/news/2025/01/technical-blog-strengthening-ai-agent-hijacking-evaluations

Hal ini menunjukkan bahwa keamanan AI Agent bukan sekadar persoalan jawaban yang salah. Risiko juga muncul ketika AI dapat bertindak atas nama pengguna.

3. Apakah AI Agent Bisa Mencuri Password?

AI Agent tidak otomatis dapat mengetahui semua password pengguna.

Namun, risiko dapat muncul jika agen diberi akses ke password yang tersimpan dalam dokumen, percakapan, variabel lingkungan, atau sistem lain yang terhubung.

Risiko juga meningkat jika penyerang berhasil mengeksploitasi integrasi yang memiliki akses ke kredensial tersebut.

Sebagai contoh, jika sebuah agen pemrograman dapat membaca file konfigurasi yang berisi API key, informasi itu berpotensi terekspos apabila agen dimanipulasi atau lingkungan kerjanya tidak diamankan.

Untuk mengurangi risiko:

• Jangan menaruh password atau API key di dalam prompt.

• Gunakan pengelolaan rahasia atau secrets manager jika tersedia.

• Batasi akses agen terhadap kredensial.

• Gunakan autentikasi multifaktor pada akun yang mendukungnya.

• Cabut token atau kunci akses yang tidak lagi diperlukan.

Penting: kemampuan mengambil data tidak sama dengan kemampuan otomatis membobol seluruh akun. Dampak serangan tetap bergantung pada akses yang tersedia dan perlindungan sistem.

4. Apakah AI Agent Bisa Diretas Tanpa Sepengetahuan Pengguna?

Dalam kondisi tertentu, ya.

Salah satu contohnya adalah indirect prompt injection. Penyerang memasukkan instruksi berbahaya ke dalam konten yang kemudian dibaca oleh AI Agent.

Pengguna mungkin hanya meminta agen meringkas sebuah dokumen. Pengguna tidak mengetahui bahwa dokumen tersebut mengandung instruksi yang mencoba memengaruhi tindakan agen.

Jika sistem tidak memisahkan instruksi tepercaya dari konten yang tidak tepercaya dengan baik, agen berisiko menjalankan tindakan yang tidak dimaksudkan pengguna.

Namun, keberhasilan serangan tidak selalu terjadi. Sistem yang memiliki pembatasan akses, validasi tindakan, isolasi lingkungan, dan persetujuan pengguna dapat mengurangi dampaknya.

5. Bagaimana Cara Melindungi AI Agent?

Kabar baiknya, ada sejumlah langkah yang dapat mengurangi risiko keamanan AI Agent.

Batasi Izin Akses

Jangan memberikan akses ke semua file, email, atau aplikasi jika agen hanya perlu menyelesaikan satu pekerjaan sederhana.

Misalnya, agen yang hanya bertugas merangkum dokumen seharusnya tidak membutuhkan izin untuk menghapus file atau mengirim email.

Prinsip ini dikenal sebagai least privilege, yaitu memberikan hak akses seminimal mungkin.

Minta Persetujuan Sebelum Tindakan Penting

Untuk tindakan yang berdampak besar, AI Agent sebaiknya meminta persetujuan manusia.

Contohnya:

• Mengirim email kepada banyak orang.

• Menghapus file.

• Mengubah pengaturan keamanan.

• Melakukan transaksi.

• Membagikan dokumen pribadi.

Persetujuan ini memberikan kesempatan untuk memeriksa apakah tindakan tersebut memang sesuai dengan keinginan pengguna.

Jangan Percaya Semua Konten yang Dibaca AI

Website, email, dokumen, dan hasil pencarian dapat mengandung instruksi yang tidak tepercaya.

AI Agent harus memperlakukan konten tersebut sebagai data yang perlu dianalisis, bukan otomatis sebagai perintah yang harus dijalankan.

Pengembang juga perlu menerapkan kontrol keamanan di luar model AI karena model saja tidak dapat menjamin bahwa semua prompt injection akan dikenali.

Gunakan Layanan dan Integrasi Tepercaya

Sebelum menghubungkan AI Agent ke aplikasi lain, periksa reputasi penyedia, izin yang diminta, dan kebijakan pengelolaan data.

Hindari memasang plugin atau menghubungkan layanan yang tidak jelas asal-usulnya.

Periksa Aktivitas Agen

Jika platform menyediakan riwayat aktivitas, log, atau pemberitahuan, gunakan fitur tersebut untuk memantau tindakan AI.

Periksa aktivitas yang tidak dikenal, terutama ketika agen memiliki akses ke akun atau dokumen penting.

Perbarui Sistem Secara Berkala

Pembaruan perangkat lunak dapat memperbaiki kerentanan yang ditemukan pada aplikasi, integrasi, atau sistem operasi.

Namun, pembaruan saja tidak cukup. Pembatasan izin dan pengawasan tetap diperlukan.

6. Apakah AI Agent Lebih Berbahaya daripada Chatbot Biasa?

Tidak selalu, tetapi AI Agent dapat memiliki risiko lebih besar ketika diberikan kemampuan untuk bertindak secara otomatis.

Perhatikan perbandingan berikut.

Aspek	Chatbot biasa	AI Agent
Fungsi utama	Menjawab pertanyaan	Menyelesaikan tugas
Akses aplikasi	Bisa terbatas	Bisa terhubung ke banyak alat
Tindakan otomatis	Umumnya terbatas	Bisa menjalankan beberapa langkah
Risiko kebocoran data	Bergantung pada data dan layanan	Bisa meningkat jika aksesnya luas
Risiko tindakan tanpa izin	Bergantung pada fitur	Lebih tinggi jika otonomi tidak dibatasi

Chatbot yang terhubung ke alat eksternal juga dapat menghadapi risiko serupa. Sebaliknya, AI Agent yang hanya memiliki akses terbatas dan bekerja dalam lingkungan terisolasi bisa memiliki risiko yang jauh lebih kecil.

Jadi, tingkat risiko bukan hanya ditentukan oleh kecerdasan AI, tetapi juga oleh izin, integrasi, dan cara sistem tersebut dirancang.

7. Apakah AI Agent Akan Aman di Masa Depan?

Keamanan AI Agent kemungkinan akan menjadi salah satu fokus penting dalam perkembangan teknologi AI.

Semakin banyak tugas yang diserahkan kepada AI, semakin penting pula sistem pengamanan yang mampu membatasi tindakan dan mendeteksi aktivitas mencurigakan.

Beberapa pendekatan yang dapat membantu adalah:

• Sistem izin yang lebih terperinci.

• Pemisahan data dan instruksi.

• Pengujian keamanan khusus untuk AI.

• Pemantauan aktivitas secara berkelanjutan.

• Lingkungan eksekusi yang terisolasi.

• Konfirmasi manusia untuk tindakan berisiko tinggi.

• Pengelolaan identitas dan kredensial yang lebih aman.

Tidak ada satu metode yang dapat menjamin keamanan sepenuhnya. Karena itu, pendekatan berlapis lebih baik daripada hanya mengandalkan satu filter atau instruksi kepada model.

Kesimpulan

AI Agent bisa diretas atau dimanipulasi, tetapi bukan berarti semua AI Agent tidak aman.

Risiko utamanya meliputi prompt injection, penyalahgunaan hak akses, kebocoran data, dan kelemahan pada plugin atau integrasi.

Bahaya menjadi lebih besar ketika AI Agent diberi akses luas ke email, file, akun, atau sistem komputer tanpa pembatasan yang memadai.

Bagi pengguna biasa, langkah paling penting adalah membatasi izin, menghindari pemberian informasi rahasia, menggunakan integrasi tepercaya, dan meminta konfirmasi sebelum tindakan penting dilakukan.

Bagi pengembang, keamanan harus dirancang sejak awal melalui pembatasan akses, isolasi lingkungan, validasi tindakan, serta pemantauan yang baik.

AI Agent memang berpotensi membuat pekerjaan lebih cepat dan praktis. Namun, semakin banyak wewenang yang diberikan kepada AI, semakin penting pula memastikan bahwa AI hanya dapat melakukan hal-hal yang memang diizinkan.

Masa depan AI bukan hanya tentang membuat agen semakin pintar, tetapi juga memastikan agen tersebut tetap aman dan dapat dikendalikan.

Bagikan Artikel ini