Peta Matematika untuk AI
Modul 19GeneralMatematika Deep LearningBebas diakses tanpa akun
Vanishing dan Exploding Gradients
MulaiLangkah 1 dari 14
Pemancing berpikir
Berhenti sebentar sebelum menghitung.
Analisis matematis penyebab gradien yang hilang/meledak pada Deep Network, dan solusi seperti ResNet (Residual Connections).
Sebelum menghitung, prediksi: bagian mana dari vanishing dan exploding gradients yang tetap dan bagian mana yang berubah? Jelaskan alasanmu dengan satu representasi visual.
peluruhan gradien per lapisan
Bekal sebelum mulai
Kalau salah satu terasa samar, buka dulu modulnya:
Pertanyaan esensial
Bagaimana vanishing dan exploding gradients dapat dipahami, direpresentasikan, dan diperiksa tanpa hanya menghafal langkah?