Prompt Injection: Ancaman Baru AI yang Perlu Kamu Waspadai

Apa Itu Prompt Injection?

Kecerdasan buatan atau Artificial Intelligence (AI) kini semakin sering digunakan untuk mencari informasi, merangkum dokumen, menulis artikel, membantu pekerjaan, hingga mengelola berbagai tugas secara otomatis. Namun, semakin banyak kemampuan yang dimiliki AI, semakin besar pula risiko keamanannya.

Salah satu ancaman yang perlu dipahami adalah prompt injection.

Prompt injection merupakan teknik serangan yang berusaha memanipulasi AI melalui instruksi tertentu agar AI memberikan jawaban atau melakukan tindakan yang tidak sesuai dengan tujuan awalnya. Ancaman ini dapat memengaruhi chatbot, asisten AI, dan AI Agent yang terhubung dengan situs web, email, dokumen, atau aplikasi lain.

Menurut OWASP GenAI Security Project, prompt injection merupakan salah satu risiko keamanan utama pada aplikasi berbasis Large Language Model (LLM).

Sederhananya, bayangkan kamu memiliki asisten digital yang bertugas merangkum dokumen. Seseorang menyisipkan instruksi berbahaya di dalam dokumen tersebut. Ketika AI membacanya, AI mungkin mengikuti instruksi tersembunyi itu alih-alih hanya merangkum isi dokumen.

Inilah yang membuat prompt injection menjadi masalah serius dalam perkembangan teknologi AI.

Bagaimana Cara Kerja Prompt Injection?

Untuk memahami ancaman ini, kita perlu mengetahui bagaimana AI memproses informasi.

Model AI berbasis bahasa menerima instruksi dan data dalam bentuk yang dapat diproses bersama. Karena itu, AI tidak selalu dapat membedakan secara sempurna antara instruksi yang sah dan teks berbahaya yang ditemukan di dalam sumber eksternal.

Penyerang dapat mencoba memanfaatkan kelemahan tersebut untuk mengubah perilaku AI.

Secara umum, prosesnya dapat digambarkan seperti berikut:

1. AI menerima tugas. Misalnya, pengguna meminta AI merangkum sebuah halaman web.

2. AI membaca sumber eksternal. Halaman tersebut berisi informasi yang relevan, tetapi juga dapat mengandung instruksi berbahaya.

3. Instruksi berbahaya memengaruhi AI. AI mungkin salah memperlakukan teks tersebut sebagai perintah yang perlu diikuti.

4. AI menghasilkan respons atau tindakan yang tidak diinginkan. Dampaknya bergantung pada kemampuan, akses, dan sistem pengaman AI tersebut.

Tidak semua upaya prompt injection berhasil. Dampaknya bergantung pada desain aplikasi, perlindungan yang digunakan, serta izin yang diberikan kepada AI.

Jenis-Jenis Prompt Injection

Ada dua jenis utama prompt injection yang perlu diketahui.

1. Direct Prompt Injection

Direct prompt injection terjadi ketika seseorang memasukkan instruksi manipulatif secara langsung ke dalam percakapan dengan AI.

Contohnya, seseorang mencoba menyuruh chatbot mengabaikan aturan yang berlaku atau meminta informasi yang seharusnya tidak diberikan.

Serangan ini biasanya lebih mudah dikenali karena instruksi berbahaya datang langsung dari input pengguna. Namun, keberhasilannya tetap bergantung pada sistem dan perlindungan yang diterapkan.

Teknik ini sering dikaitkan dengan istilah jailbreaking, yaitu upaya membuat AI mengabaikan batasan atau aturan yang seharusnya diikuti.

2. Indirect Prompt Injection

Indirect prompt injection terjadi ketika instruksi berbahaya disisipkan ke dalam sumber yang dibaca atau diproses oleh AI, seperti:

• Halaman web dan artikel online.

• Dokumen PDF atau Word.

• Email dan pesan.

• File yang diunggah pengguna.

• Data dari sistem atau aplikasi lain.

• Gambar atau konten multimodal yang dapat dipahami AI.

Misalnya, kamu meminta AI membaca sebuah artikel dan membuat ringkasan. Artikel tersebut tampak normal bagi manusia, tetapi di dalamnya terdapat instruksi yang mencoba mengalihkan tugas AI.

Jika AI mengikuti instruksi tersebut, hasilnya bisa menyimpang dari permintaan pengguna.

Jenis kedua ini sangat penting diperhatikan karena pengguna belum tentu mengetahui bahwa sumber yang mereka berikan kepada AI mengandung instruksi berbahaya.

Contoh Prompt Injection dalam Kehidupan Sehari-hari

Agar lebih mudah dipahami, berikut beberapa skenario yang mungkin terjadi ketika AI digunakan untuk aktivitas sehari-hari.

1. AI Salah Merangkum Artikel

Kamu meminta AI merangkum berita teknologi dari sebuah situs web. Namun, halaman tersebut berisi instruksi tersembunyi yang mencoba membuat AI mengabaikan isi artikel dan memberikan kesimpulan yang menyesatkan.

Akibatnya, ringkasan yang dihasilkan bisa tidak akurat atau tidak sesuai dengan isi sumber.

2. Asisten AI yang Terhubung ke Email

Bayangkan sebuah asisten AI memiliki izin untuk membaca dan mengirim email. Sebuah email berbahaya menyertakan instruksi yang mencoba memanipulasi asisten tersebut.

Jika sistem pengaman gagal, AI berpotensi melakukan tindakan yang tidak diinginkan, terutama apabila izin yang dimilikinya terlalu luas.

Karena itu, membaca email dan mengirim email sebaiknya diperlakukan sebagai dua kemampuan berbeda yang membutuhkan izin terpisah.

3. Dokumen yang Memengaruhi Keputusan

Perusahaan menggunakan AI untuk membantu mengevaluasi dokumen atau merangkum laporan. Seseorang memasukkan instruksi manipulatif ke dalam dokumen yang akan diproses.

AI mungkin menghasilkan penilaian yang bias atau memberikan rekomendasi yang tidak sesuai dengan data sebenarnya.

Hal ini menunjukkan bahwa prompt injection tidak hanya berhubungan dengan pencurian data, tetapi juga dapat memengaruhi kualitas informasi dan keputusan.

4. AI Agent yang Memiliki Banyak Akses

AI Agent dapat dirancang untuk melakukan beberapa langkah secara otomatis, seperti mencari informasi, membaca file, menggunakan API, atau mengelola tugas.

Jika AI Agent terpengaruh oleh prompt injection, dampaknya berpotensi lebih besar daripada chatbot yang hanya menghasilkan teks. AI mungkin memiliki akses untuk melakukan tindakan nyata di aplikasi yang terhubung dengannya.

Namun, risiko ini tidak berarti semua AI Agent mudah diretas. Besarnya dampak ditentukan oleh izin, arsitektur, dan pengamanan yang diterapkan.

Apa Bahaya Prompt Injection bagi Pengguna?

Prompt injection dapat menimbulkan beberapa risiko keamanan.

1. Kebocoran informasi sensitif

AI yang terhubung dengan data pribadi atau dokumen internal dapat dimanipulasi untuk mengungkapkan informasi yang seharusnya tidak disampaikan. Kebocoran hanya mungkin terjadi jika AI atau aplikasi terkait memiliki akses terhadap informasi tersebut dan pengamanannya gagal.

2. Informasi yang menyesatkan

AI bisa menghasilkan ringkasan, jawaban, atau rekomendasi yang telah dipengaruhi instruksi berbahaya. Pengguna yang langsung mempercayai hasil tersebut dapat mengambil keputusan yang keliru.

3. Tindakan tanpa izin

Dalam sistem yang memiliki akses ke aplikasi lain, prompt injection dapat mencoba memicu tindakan yang tidak diinginkan, seperti mengirim pesan, mengubah data, atau memanggil fungsi tertentu.

4. Penyalahgunaan akses aplikasi

Jika AI diberi izin terlalu luas, penyerang mungkin mencoba memanfaatkan akses tersebut melalui manipulasi instruksi. Karena itu, keamanan tidak cukup hanya bergantung pada kemampuan model untuk menolak permintaan berbahaya.

5. Hilangnya kepercayaan terhadap AI

Jika pengguna berulang kali menerima hasil yang salah atau melihat AI melakukan tindakan yang tidak diharapkan, kepercayaan terhadap teknologi tersebut dapat menurun.

Apakah Prompt Injection Berarti AI Mudah Diretas?

Tidak selalu.

Prompt injection bukan berarti seseorang otomatis dapat mengambil alih komputer atau meretas seluruh sistem hanya dengan mengetikkan kalimat tertentu. Serangan ini berbeda dari peretasan tradisional yang mengeksploitasi, misalnya, celah pada sistem operasi atau aplikasi.

Prompt injection berfokus pada manipulasi cara aplikasi AI memahami instruksi dan konteks. Serangan tersebut menjadi lebih berbahaya ketika AI terhubung dengan data sensitif atau alat yang dapat melakukan tindakan.

Sebagai contoh, chatbot yang hanya menjawab pertanyaan tanpa akses ke data pribadi memiliki potensi dampak yang berbeda dari AI Agent yang dapat membaca file perusahaan, mengirim email, dan menjalankan tindakan otomatis.

Dengan kata lain, semakin besar akses dan kewenangan AI, semakin penting pengamanan tambahan di luar model AI itu sendiri.

Cara Melindungi Diri dari Ancaman Prompt Injection

Pengguna biasa maupun perusahaan dapat mengambil beberapa langkah untuk mengurangi risiko prompt injection.

1. Jangan Memberikan Akses Berlebihan kepada AI

Berikan AI hanya izin yang benar-benar diperlukan untuk menyelesaikan tugasnya. Jika AI hanya perlu membaca dokumen, tidak perlu memberinya izin menghapus file atau mengirim email.

Prinsip ini dikenal sebagai least privilege.

2. Periksa Sumber yang Diproses AI

Berhati-hatilah ketika meminta AI membaca dokumen, email, atau halaman web dari sumber yang tidak dikenal. Konten eksternal harus diperlakukan sebagai informasi yang belum tentu tepercaya, bukan sebagai perintah yang otomatis harus diikuti.

3. Minta Konfirmasi untuk Tindakan Penting

Jika AI dapat mengirim email, menghapus file, mengubah pengaturan, atau melakukan transaksi, pastikan ada proses konfirmasi sebelum tindakan tersebut dijalankan.

Untuk tindakan berisiko tinggi, persetujuan manusia dan kontrol teknis yang terpisah dapat membantu membatasi dampak serangan.

4. Jangan Memasukkan Data Rahasia Sembarangan

Hindari memasukkan kata sandi, kunci API, data keuangan, dokumen rahasia, atau informasi pribadi ke layanan AI yang belum kamu pahami kebijakan privasinya.

5. Gunakan Aplikasi AI yang Memiliki Pengamanan Memadai

Pilih layanan yang menjelaskan cara mereka melindungi data, mengatur izin, serta menangani aktivitas berisiko. Untuk penggunaan di perusahaan, pengelola sistem sebaiknya menerapkan pemantauan, pengujian keamanan, dan pembatasan akses yang sesuai.

6. Jangan Menganggap Filter Prompt Sudah Cukup

Bagi pengembang, memblokir frasa seperti “abaikan instruksi sebelumnya” saja tidak cukup. Instruksi berbahaya dapat disampaikan dengan bahasa berbeda, disamarkan, atau disisipkan dalam konten eksternal.

Pendekatan yang lebih kuat mencakup pembatasan akses, validasi hasil AI, pemisahan data tepercaya dan tidak tepercaya, pengujian serangan, serta persetujuan manusia untuk tindakan penting. Rekomendasi ini sejalan dengan panduan OWASP tentang pencegahan prompt injection.

Apakah Prompt Injection Akan Semakin Berbahaya di Masa Depan?

Risiko prompt injection berpotensi semakin penting seiring meningkatnya penggunaan AI Agent, asisten AI berbasis browser, dan sistem yang mampu memproses banyak jenis konten.

AI masa kini tidak hanya menerima teks. Sebagian sistem juga dapat membaca gambar, memproses dokumen, mencari informasi di internet, serta berinteraksi dengan aplikasi lain. Setiap sumber data dan kemampuan tambahan dapat memperluas permukaan serangan jika tidak dirancang dengan aman.

Di masa depan, tantangan keamanan bukan hanya membuat AI lebih pintar, tetapi juga memastikan AI dapat membedakan instruksi yang sah dari konten yang tidak tepercaya, membatasi tindakan berisiko, dan meminta persetujuan ketika diperlukan.

Meski begitu, prompt injection bukan alasan untuk berhenti menggunakan AI. Teknologi ini tetap bermanfaat jika digunakan dengan pemahaman risiko dan pengamanan yang tepat.

Kesimpulan

Prompt injection adalah ancaman keamanan AI yang memanfaatkan instruksi manipulatif untuk memengaruhi respons atau tindakan model. Serangan dapat terjadi secara langsung melalui percakapan maupun secara tidak langsung melalui halaman web, email, dokumen, dan sumber data lainnya.

Dampaknya bisa berupa informasi menyesatkan, kebocoran data, hingga tindakan yang tidak diinginkan pada sistem yang terhubung dengan AI. Namun, keberhasilan serangan tidak otomatis terjadi dan sangat bergantung pada izin serta perlindungan aplikasi.

Bagi pengguna, langkah paling penting adalah menjaga kerahasiaan data, memeriksa sumber informasi, dan membatasi izin AI. Bagi pengembang, keamanan harus dibangun melalui beberapa lapisan perlindungan, bukan hanya mengandalkan instruksi dalam prompt.

Semakin banyak tugas yang dipercayakan kepada AI, semakin penting pula memastikan bahwa AI bekerja sesuai tujuan pengguna—bukan mengikuti instruksi berbahaya yang kebetulan ditemukannya.

Kata kunci SEO: prompt injection, keamanan AI, ancaman AI, AI Agent, serangan prompt injection, keamanan chatbot, cara melindungi AI.

Bagikan Artikel ini