Modul · Menengah
Sistem ML di Produksi
Kenapa model memburuk setelah dirilis, apa bedanya inferensi batch dan online, dan apa yang harus dipantau.
- 4 pelajaran
- 1j 4m
- 4 simulasi
Termasuk di MLOps: Deploy Model Machine Learning & Deep Learning· $9
Menyajikan Deep Learning dan LLM
GPU, batching, kuantisasi, dan format seperti ONNX — membuat model besar cukup cepat dan cukup murah.
- Tingkat
- Menengah
- Pelajaran
- 4
- Total waktu
- 1j 6m
- Simulasi
- —
Termasuk di MLOps: Deploy Model Machine Learning & Deep Learning · $9
Tools yang dipakai
Python
Docker
FastAPI
Kubernetes
GitHub
Keterampilan
- ONNX
- Kuantisasi
- Dynamic batching
Yang akan Anda bisa
- Menimbang latensi, throughput, dan biaya GPU
- Mengurangi ukuran model tanpa kehilangan kualitas berarti
Sebelum mulai
Hanya saran, tidak pernah mengunci — Anda bisa mulai di sini.
- packaging-and-serving-models
Modul yang membantu lebih dulu
Silabus
4 pelajaran · 1j 6mJudul dan ringkasan setiap pelajaran terbuka untuk umum. Isi pelajarannya terbuka setelah Anda memiliki jalurnya.
Semua pelajaran di MLOps: Deploy Model Machine Learning & Deep LearningLatensi, Throughput, dan Batching
16 minKenapa batch yang lebih besar menaikkan throughput dan latensi sekaligus, di mana titik jenuhnya, dan dua kenop yang mengendalikannya di server inferensi.
Termasuk dalam jalurnyaONNX dan Optimasi Model
16 minMengekspor model ke satu format graf yang dijalankan runtime C++ di CPU, GPU, dan ponsel — dan memverifikasi bahwa hasilnya masih model yang sama.
Termasuk dalam jalurnyaKuantisasi
16 minint8 dan 4-bit: bagaimana bobot float dipetakan ke bilangan bulat kecil, apa yang hilang, apa yang didapat, dan cara mengukurnya pada model Anda sendiri.
Termasuk dalam jalurnyaMenyajikan LLM
18 minKV cache, continuous batching, dan server inferensi: kenapa menyajikan model bahasa adalah soal memori GPU, dan kenop mana yang menentukan berapa pengguna yang bisa dilayani satu kartu.
Termasuk dalam jalurnya
Akses seumur hidup
$9Lainnya di MLOps: Deploy Model Machine Learning & Deep Learning
Modul · Menengah
Mengemas dan Menyajikan Model
Dari notebook ke layanan: menyimpan model, API dengan FastAPI, dan container Docker yang bisa diulang.
- 3 pelajaran
- 48 min
Termasuk di MLOps: Deploy Model Machine Learning & Deep Learning· $9
Modul · Menengah
Pipeline ML dan CI/CD
Pelacakan eksperimen, model registry, dan pipeline otomatis dari data mentah sampai model yang dirilis.
- 3 pelajaran
- 47 min
- 2 simulasi
Termasuk di MLOps: Deploy Model Machine Learning & Deep Learning· $9
Modul · Menengah
Monitoring dan Pelatihan Ulang
Deteksi drift, performa dengan label terlambat, strategi pelatihan ulang, dan rilis yang aman.
- 3 pelajaran
- 48 min
- 4 simulasi
Termasuk di MLOps: Deploy Model Machine Learning & Deep Learning· $9