Sistem ML di Produksi
Kenapa model memburuk setelah dirilis, apa bedanya inferensi batch dan online, dan apa yang harus dipantau.
- 4 pelajaran
- 1j 4m
- 4 simulasi
Dari notebook ke layanan: menyimpan model, API dengan FastAPI, dan container Docker yang bisa diulang.
Hanya saran, tidak pernah mengunci — Anda bisa mulai di sini.
Judul dan ringkasan setiap pelajaran terbuka untuk umum. Isi pelajarannya terbuka setelah Anda memiliki jalurnya.
Semua pelajaran di MLOps: Deploy Model Machine Learning & Deep LearningArtefak, versi dependensi, dan kenapa `model.pkl` saja tidak cukup untuk memuat model yang sama tiga bulan kemudian.
Endpoint prediksi dengan validasi masukan, health check, dan versi model di setiap respons — layanan yang bisa dipanggil tim lain tanpa tahu apa itu scikit-learn.
Image yang kecil, cepat dibangun ulang, dan berjalan persis sama di laptop, di CI, dan di server — karena lingkungannya ikut dikirim bersama kodenya.
Kenapa model memburuk setelah dirilis, apa bedanya inferensi batch dan online, dan apa yang harus dipantau.
GPU, batching, kuantisasi, dan format seperti ONNX — membuat model besar cukup cepat dan cukup murah.
Pelacakan eksperimen, model registry, dan pipeline otomatis dari data mentah sampai model yang dirilis.
Deteksi drift, performa dengan label terlambat, strategi pelatihan ulang, dan rilis yang aman.