Lewati ke konten
Kurikulum

A/B testing

Mengukur apakah sebuah perubahan benar-benar berhasil, dengan dua grup acak dan hasil yang dibaca jujur.

4 unit16 biteSekitar 48 menit

Yang dibahas di kursus ini

Metode untuk menjawab "apakah perubahan ini menaikkan pesanan?" tanpa tertipu musim, gajian, atau kebetulan. Anda belajar apa yang bisa dan tidak bisa dijawab A/B test, memilih satu metrik utama, kenapa pembagian acak mengalahkan perbandingan sebelum-sesudah, kenapa tes kecil menyesatkan, dan cara membaca selang selisih B − A. Lalu uji hipotesis, ukuran sampel dan power, serta jebakan yang sering ditemui di perusahaan. Widget interaktif menunjukkan bagaimana jumlah pengunjung mengubah apa yang bisa Anda simpulkan.

Baru mengenal AI? Mulai dari Dasar-dasar AI & data.

Bagian dari jalur karier:Data analystData scientist

Yang akan bisa Anda lakukan

  • Merancang A/B test dengan satu metrik utama dan guardrail
  • Menjelaskan kenapa perbandingan sebelum-sesudah menyesatkan
  • Memperkirakan berapa pengunjung yang dibutuhkan sebuah tes
  • Membaca selang selisih B − A dan mengambil keputusan yang jujur

Unit dan bite

  1. Unit 15 biteSekitar 15 menit

    Dasar A/B test

    Apa yang dijawab A/B test, satu metrik utama, kenapa harus acak, kenapa tes kecil menyesatkan, dan cara membaca hasilnya.

    1. Apa yang dijawab A/B test

      Satu perubahan, dua grup acak, satu periode: A/B test menjawab "apakah perubahan ini menyebabkan selisihnya?" dan tidak lebih dari itu.

      3 menit
    2. Satu metrik utama

      Tentukan satu metrik yang memutuskan hasil tes sebelum tes dimulai, dan beberapa guardrail yang tidak boleh memburuk.

      3 menit
    3. Kenapa harus acak

      Perbandingan "sebelum vs sesudah" mencampur efek perubahan dengan semua hal lain yang ikut berubah. Pembagian acak memisahkannya.

      3 menit
    4. Tes kecil menyesatkan

      Dengan sedikit pengunjung, angka konversi bergoyang begitu lebar sehingga "pemenang" bisa muncul dari kebetulan saja.

      3 menit
    5. Membaca hasil A/B test

      Lihat selang selisih B − A terhadap 0: seluruhnya di atas, seluruhnya di bawah, atau mencakup 0. Lalu tanyakan apakah besarnya sepadan.

      3 menit
  2. Unit 23 biteSekitar 9 menit

    Merancang tes

    Rancangan, ukuran sampel, dan kapan berhenti. Distribusi dan p-value dibahas di kursus Statistik.

    1. Merancang A/B test

      Unit randomisasi, metrik utama, dan guardrail sebelum tes dimulai.

      3 menit
    2. Ukuran sampel dan power

      Berapa lama tes harus berjalan untuk melihat kenaikan 0,5 poin persentase.

      3 menit
    3. Mengintip dan berhenti terlalu cepat

      Menghentikan tes saat p-value pertama kali di bawah 0,05 melipatgandakan alarm palsu.

      3 menit
  3. Unit 34 biteSekitar 12 menit

    Jebakan A/B test

    Hal-hal yang membuat tes yang dirancang dengan baik tetap memberi jawaban yang salah.

    1. Efek kebaruan

      Pengguna mengklik karena sesuatu baru, bukan karena lebih baik. Cara melihatnya dari data per minggu.

      3 menit
    2. Grup yang tidak seimbang

      Rencananya 50/50, hasilnya 52/48. Kenapa itu tanda ada yang rusak, bukan kebetulan.

      3 menit
    3. Memancing di segmen

      "Tidak menang secara keseluruhan, tapi menang di pengguna Android di Surabaya": kenapa itu hampir selalu kebetulan.

      3 menit
    4. Grup yang saling memengaruhi

      Di marketplace dan ojek online, grup A dan B berbagi penjual dan pengemudi yang sama.

      3 menit
  4. Unit 44 biteSekitar 12 menit

    Eksperimen di perusahaan

    Dari satu tes ke kebiasaan: rencana tertulis, guardrail, jadwal tes, dan berbagi hasil yang jujur.

    1. Menulis rencana tes

      Hipotesis, metrik utama, ukuran sampel, dan aturan berhenti, ditulis sebelum tes dimulai.

      3 menit
    2. Metrik guardrail

      Metrik yang tidak boleh memburuk: pembatalan, keluhan, kecepatan aplikasi, margin.

      3 menit
    3. Beberapa tes sekaligus

      Kapan dua tes boleh berjalan bersamaan, dan menghindari tes saat 11.11 atau Lebaran.

      3 menit
    4. Berbagi hasil tes

      Menulis hasil yang kalah dan yang tidak jelas sejujur yang menang, supaya perusahaan belajar.

      3 menit

Pertanyaan tentang kursus ini

Belajar

Berapa lama menyelesaikan A/B testing?

Sekitar 48 menit total: 4 unit yang terdiri dari 16 bite, masing-masing sekitar tiga menit, dan setiap bite diakhiri pertanyaan singkat. Anda bisa mengerjakan satu bite sehari atau beberapa sekaligus.

Apakah saya perlu bisa coding?

Tidak untuk memulai. Kursus fondasi menjelaskan setiap ide dengan bahasa sehari-hari lebih dulu; kalau sebuah kursus memakai SQL atau Python, kursus itu mengajarkannya dari awal, dengan playground di dalam pelajaran.

Saya harus mulai dari mana?

Kalau Anda baru mengenal AI, mulai dari Dasar-dasar AI & data. Kalau Anda sudah tahu pekerjaan yang dituju, ikuti jalur kariernya; A/B testing punya tempat di dalamnya.

Kapan saya bisa mulai belajar?

Datamew segera hadir di iOS dan Android. Belum ada tanggal rilis maupun harga yang diumumkan: gabung waitlist dan kami akan memberi tahu saat aplikasinya tersedia.

Apakah tersedia dalam Bahasa Indonesia?

Ya. Datamew ditulis dalam Bahasa Indonesia dan Bahasa Inggris.

Pusat Bantuan

Kursus lainnya

Kurikulum

Bacaan sambil menunggu

Panduan dari tim Datamew, gratis di web hari ini.

Waitlist

Jadi yang pertama memakai aplikasinya

Tinggalkan email Anda dan kami akan memberi tahu saat Datamew tersedia di ponsel Anda. Satu email saat rilis, tanpa spam.