Sistem ML di Produksi: pelajaran

Model dilatih pada masa lalu dan dipakai pada masa depan. Ketika dunia bergeser, akurasinya turun — sering tanpa satu pun error di log.

Ketika fitur dihitung berbeda saat pelatihan dan saat prediksi — bug paling umum di ML produksi, dan yang paling jarang muncul di log.

Prediksi terjadwal atau per permintaan: pilihan ini menentukan latensi, biaya, fitur yang bisa dipakai, dan cara sistemnya gagal.

Lima pertanyaan yang harus dijawab sebelum satu baris kode deployment ditulis — karena kegagalan ML yang paling mahal bukan bug, melainkan sistem yang dibangun untuk pertanyaan yang salah.