Dasar-Dasar Neural Network
Apa yang sebenarnya dihitung sebuah neural network, kenapa nonlinearitas adalah intinya, dan bagaimana bobotnya belajar.
- 4 pelajaran
- 1j 20m
- 7 simulasi
Dari RNN dan LSTM ke self-attention — arsitektur di balik setiap LLM modern.
Ini simulasi asli dari modulnya. Tanpa akun.
Hanya saran, tidak pernah mengunci — Anda bisa mulai di sini.
Judul dan ringkasan setiap pelajaran terbuka untuk umum. Isi pelajarannya terbuka setelah Anda memiliki jalurnya.
Semua pelajaran di Pengantar Deep Learning & Neural NetworkMemproses urutan satu langkah demi satu, dan kenapa itu sulit dilatih untuk urutan panjang.
Query, key, value — setiap token memutuskan token mana yang perlu ia lihat.
Multi-head attention, positional encoding, dan blok yang ditumpuk di setiap LLM.
Apa yang sebenarnya dihitung sebuah neural network, kenapa nonlinearitas adalah intinya, dan bagaimana bobotnya belajar.
Optimizer, jadwal learning rate, inisialisasi, normalisasi, dan regularisasi — hal-hal yang membuat pelatihan benar-benar konvergen.
Tensor, autograd, nn.Module, DataLoader, dan pelatihan di GPU — PyTorch secukupnya untuk bekerja sendiri.
Konvolusi, pooling, dan arsitektur CNN — kenapa berbagi bobot membuat gambar bisa dipelajari.