Modul 6 · LLM, Prompt Engineering & Context Engineering
Keamanan dan Keandalan LLM: pelajaran
Halusinasi, prompt injection, dan guardrail — risiko yang harus dipahami sebelum aplikasi LLM menyentuh pengguna.
3 pelajaran · 45 min
Apa yang diajarkan modul ini, apa yang perlu Anda kuasai lebih dulu, dan cara Anda berlatih ada di halaman silabusnya.
Buka silabusHalusinasi dan Grounding
15 minModel memilih token yang paling masuk akal, bukan yang paling benar. Obatnya bukan permintaan untuk "jangan mengarang", tapi menaruh sumbernya di konteks, meminta kutipan yang bisa dicek, dan mengizinkan "tidak ditemukan".
Termasuk dalam jalurnya Ada simulasinyaPrompt Injection
16 minModel membaca instruksi Anda dan ulasan produk lewat saluran yang sama: token. Ketika data berisi perintah, tidak ada prompt yang bisa memisahkannya — yang bisa adalah arsitektur yang membatasi kerusakan.
Termasuk dalam jalurnya Ada simulasinyaGuardrail dan Monitoring
14 minGuardrail adalah kode yang memeriksa masukan dan keluaran tanpa memercayai model. Monitoring adalah yang memberi tahu Anda bahwa kualitas turun — sebelum pengguna yang memberi tahu.
Termasuk dalam jalurnya Ada simulasinya