Cara Kerja LLM
Token, embedding, attention, dan prediksi token berikutnya — mekanika yang menjelaskan hampir semua perilaku LLM.
- 4 pelajaran
- 1j 4m
- 3 simulasi
Apa yang masuk ke jendela konteks, dari mana asalnya, dan dalam urutan apa — keterampilan inti membangun aplikasi LLM.
Ini simulasi asli dari modulnya. Tanpa akun.
Hanya saran, tidak pernah mengunci — Anda bisa mulai di sini.
Judul dan ringkasan setiap pelajaran terbuka untuk umum. Isi pelajarannya terbuka setelah Anda memiliki jalurnya.
Semua pelajaran di LLM, Prompt Engineering & Context EngineeringInstruksi, data, contoh, riwayat, dan alat — menyusun konteks sebagai sebuah desain.
Chunking, embedding, pencarian, dan reranking — dan cara tahu apakah retrieval-nya bekerja.
Lost in the middle, distraksi, dan kapan meringkas lebih baik daripada menyertakan semuanya.
Riwayat yang dipangkas, ringkasan berjalan, dan memori jangka panjang yang bisa diaudit.
Token, embedding, attention, dan prediksi token berikutnya — mekanika yang menjelaskan hampir semua perilaku LLM.
Instruksi yang jelas, contoh, penalaran bertahap, dan keluaran terstruktur — teknik yang terbukti, tanpa mantra.
Memanggil API, streaming, tool calling, caching, dan mengendalikan biaya serta latensi di produksi.
Dataset evaluasi, LLM-as-judge, dan uji regresi untuk prompt — mengganti "kelihatannya bagus" dengan angka.