MLOps: Deploy Model Machine Learning & Deep Learning: semua pelajaran

Artefak, versi dependensi, dan kenapa `model.pkl` saja tidak cukup untuk memuat model yang sama tiga bulan kemudian.

Endpoint prediksi dengan validasi masukan, health check, dan versi model di setiap respons — layanan yang bisa dipanggil tim lain tanpa tahu apa itu scikit-learn.

Image yang kecil, cepat dibangun ulang, dan berjalan persis sama di laptop, di CI, dan di server — karena lingkungannya ikut dikirim bersama kodenya.

Kenapa batch yang lebih besar menaikkan throughput dan latensi sekaligus, di mana titik jenuhnya, dan dua kenop yang mengendalikannya di server inferensi.

Mengekspor model ke satu format graf yang dijalankan runtime C++ di CPU, GPU, dan ponsel — dan memverifikasi bahwa hasilnya masih model yang sama.

int8 dan 4-bit: bagaimana bobot float dipetakan ke bilangan bulat kecil, apa yang hilang, apa yang didapat, dan cara mengukurnya pada model Anda sendiri.

KV cache, continuous batching, dan server inferensi: kenapa menyajikan model bahasa adalah soal memori GPU, dan kenop mana yang menentukan berapa pengguna yang bisa dilayani satu kartu.

Mencatat parameter, metrik, dan artefak setiap run secara otomatis, lalu mempromosikan model ke produksi lewat registry — bukan dengan menimpa file.

Enam langkah yang bisa diulang dari data mentah ke model yang divalidasi — dan kenapa validasi data serta preprocessing di dalam model adalah bagian yang menyelamatkan Anda.

Menguji kode, data, dan perilaku model sebelum setiap rilis — dan gerbang yang membandingkan challenger dengan champion pada data uji yang dibekukan.

PSI dengan bin kuantil, uji KS, kenapa p-value selalu "signifikan" pada data besar, dan cara mengkalibrasi ambang agar alarm tidak berbunyi setiap pagi.

Kapan melatih ulang — terjadwal, dipicu drift, atau dipicu performa — pada jendela data yang mana, dan kenapa pemicu bukan izin untuk merilis.

Menjalankan model baru di samping yang lama — tanpa konsekuensi (shadow), lalu pada sebagian kecil trafik (canary) — dan menghitung berapa banyak trafik yang dibutuhkan sebelum hasilnya bisa dipercaya.

Serverless, container terkelola, atau VM — dipilih dari tiga angka yang harus Anda ketahui dulu: volume permintaan, anggaran latensi, dan apakah ada GPU.

Satu model nyata, dari pipeline pelatihan yang dilacak sampai API dalam container, CI, job drift malam hari, dan runbook — semua bagian track ini dalam satu repo yang bisa dijalankan orang lain.