1.基本を理解
読み方・用語解説- 読み方
- こうはいしょうしつもんだい
- 英語名
- Vanishing Gradient Problem
- 提唱者・年代
- 層を深くするに伴い顕在化(ReLU・正規化・残差接続で打開)
💡 豆知識——“vanish=消える”——微分値の掛け算が繰り返され、奥の層の勾配が0に近づく、あの問題。
【セットで覚えたい関連用語】
逆
逆伝播勾配を逆方向に計算する学習の仕組み。バ
バッチ正規化・レイヤー正規化学習を安定させる正規化技術。R
ReLU勾配消失の打開に寄与した活性化関数。2.意味(定義)と例え話
一言で言うと?
逆伝播の過程で勾配が繰り返し掛け合わされ、入力層に近い層に届く頃には極めて小さくなり学習が進まなくなる現象。
背景・歴史的流れ
層を深くするに伴い、微分値の掛け算で勾配が指数関数的に減衰し、下層の重みが更新されなくなる現象。ReLU・正規化・残差接続などの登場で打開した。
3.直前に理解(Q&A)
7問Q1. 勾配消失問題とは?最頻出
逆伝播の過程で勾配が繰り返し掛け合わされ、入力層に近い層に届く頃には極めて小さくなり学習が進まなくなる現象。
Q2. なぜ起きる?最頻出
微分値の掛け算が層をまたぐごとに繰り返され、勾配が指数関数的に減衰するから。
Q3. 何が起きる?頻出
下層(入力層に近い層)の重みがほとんど更新されず、学習が進まない。
Q4. 「勾配消失は、勾配が巨大になる問題」は正しい?ひっかけ
誤り。小さくなって消える問題。巨大になるのは“勾配爆発(exploding gradient)”。
Q5. どの時代の問題?頻出
シグモイドなど微分値が小さい活性化+深層化で顕在化した古典的問題。
Q6. 対策は?頻出
ReLUの採用、バッチ正規化・レイヤー正規化、残差接続(ResNet)など。
Q7. 位置づけは?親と子
ニューラルネットの学習⊃勾配消失問題(深層化の難題)。
4. まとめ
勾配消失問題=逆伝播で勾配が掛け算され減衰し、下層が学習できない深層の難題。