Kecerdasan Buatan

OWASP Top 10 untuk Aplikasi LLM: Risiko Keamanan pada Aplikasi AI Generatif

Prompt injection, kebocoran data sensitif, hingga agen AI dengan wewenang berlebihan — inilah risiko utama aplikasi berbasis LLM menurut OWASP dan cara memitigasinya.

Oleh Redaksi Oemah Solution 2 menit baca
Ilustrasi jaringan saraf tiruan berbentuk otak dari jalur sirkuit dengan chip di tengahnya
Foto: Artificial Neural Network with Chip oleh mikemacmarketing / original posted on flickr Liam Huang / clipped and posted on flickr · CC BY 2.0 · Wikimedia Commons

Aplikasi berbasis model bahasa besar (LLM) membawa jenis risiko keamanan baru yang tidak sepenuhnya tercakup oleh daftar keamanan web tradisional. Proyek OWASP Top 10 for LLM Applications (kini bagian dari OWASP GenAI Security Project) memetakan risiko-risiko tersebut.

Daftar edisi 2025

  1. LLM01 Prompt Injection — masukan (langsung maupun tersembunyi di dokumen/halaman web) yang membelokkan perilaku model.
  2. LLM02 Sensitive Information Disclosure — model membocorkan data pribadi, rahasia, atau informasi internal.
  3. LLM03 Supply Chain — risiko dari model, dataset, dan plugin pihak ketiga.
  4. LLM04 Data and Model Poisoning — data pelatihan atau fine-tuning yang dimanipulasi.
  5. LLM05 Improper Output Handling — keluaran model dipakai tanpa validasi, misalnya dieksekusi sebagai kode atau query.
  6. LLM06 Excessive Agency — agen AI diberi fungsi, izin, atau otonomi melebihi kebutuhan.
  7. LLM07 System Prompt Leakage — instruksi sistem yang berisi informasi sensitif terungkap.
  8. LLM08 Vector and Embedding Weaknesses — celah pada pipeline RAG dan basis data vektor.
  9. LLM09 Misinformation — jawaban keliru yang meyakinkan dan dipercaya begitu saja.
  10. LLM10 Unbounded Consumption — penggunaan sumber daya tanpa batas yang memicu biaya membengkak atau gangguan layanan.

Prinsip mitigasi

  • Perlakukan keluaran model sebagai input tak tepercaya: validasi dan sanitasi sebelum ditampilkan atau dieksekusi.
  • Least privilege untuk agen: batasi alat dan izin, wajibkan konfirmasi manusia untuk tindakan berdampak tinggi (mengirim email, mengubah data, transaksi).
  • Jangan menaruh rahasia di system prompt; kelola otorisasi di lapisan aplikasi, bukan mengandalkan instruksi ke model.
  • Kontrol akses di level retrieval: dokumen yang dimasukkan ke konteks harus sesuai hak akses pengguna.
  • Batasi laju dan kuota per pengguna untuk mencegah penyalahgunaan dan lonjakan biaya.
  • Pantau dan catat interaksi untuk mendeteksi pola serangan, dengan memperhatikan pelindungan data pribadi.
  • Uji secara adversarial (red teaming) sebelum dan sesudah peluncuran.

Keamanan aplikasi AI adalah perpanjangan dari keamanan aplikasi pada umumnya — prinsip dasarnya tetap sama, tetapi permukaan serangannya kini mencakup bahasa alami.

#keamanan ai#owasp#llm#prompt injection

Sumber & referensi

Artikel ini merupakan ringkasan dan interpretasi tim Oemah Solution atas sumber-sumber di bawah. Untuk detail dan konteks lengkap, rujuk sumber aslinya.

  1. OWASP Top 10 for LLM Applications 2025 OWASP GenAI Security Project · genai.owasp.org