Dasar-Dasar Neural Network
Apa yang sebenarnya dihitung sebuah neural network, kenapa nonlinearitas adalah intinya, dan bagaimana bobotnya belajar.
- 4 pelajaran
- 1j 20m
- 7 simulasi
Optimizer, jadwal learning rate, inisialisasi, normalisasi, dan regularisasi — hal-hal yang membuat pelatihan benar-benar konvergen.
Ini simulasi asli dari modulnya. Tanpa akun.
Hanya saran, tidak pernah mengunci — Anda bisa mulai di sini.
Judul dan ringkasan setiap pelajaran terbuka untuk umum. Isi pelajarannya terbuka setelah Anda memiliki jalurnya.
Semua pelajaran di Pengantar Deep Learning & Neural NetworkApa yang sebenarnya dilakukan Adam, dan kapan SGD biasa masih menang.
Cosine decay, warmup, dan cara mencari learning rate dalam sepuluh menit.
Kenapa Xavier dan He ada, dan apa yang diperbaiki BatchNorm dan LayerNorm.
Tiga cara mencegah jaringan menghafal, dan cara memilih di antaranya.
Apa yang sebenarnya dihitung sebuah neural network, kenapa nonlinearitas adalah intinya, dan bagaimana bobotnya belajar.
Tensor, autograd, nn.Module, DataLoader, dan pelatihan di GPU — PyTorch secukupnya untuk bekerja sendiri.
Konvolusi, pooling, dan arsitektur CNN — kenapa berbagi bobot membuat gambar bisa dipelajari.
Dari RNN dan LSTM ke self-attention — arsitektur di balik setiap LLM modern.