1.基本を理解
読み方・用語解説- 読み方
- かっせいかかんすう
- 英語名
- Activation Function
- 提唱者・年代
- ニューラルネットワークの基本概念(1940年代のパーセプトロンから現在まで)
💡 豆知識——“非線形”の3文字が試験の眼。線形だけでは層を積んでも意味がない。
【セットで覚えたい関連用語】
重
重み入力への影響力を決定するパラメータ。活性化関数とセット。隠
隠れ層活性化関数を含む層(“深さ”の正体)。2.意味(定義)と例え話
一言で言うと?
人工ニューロンの重み付け和を受け取り、出力(発火の有無や大きさ)を決定する非線形関数。
背景・歴史的流れ
ニューロンの線形計算(重み付け和・一次関数)では層を重ねても表現力は増さない——そこで非線形性を導入する活性化関数が、複雑な関数の近似を可能にした。
身近な例え話
蛇口のような“閾値スイッチ”。水の量(入力)が一定を超えてから流し始める、みたいな制御。
AIとの関係
シグモイド・ReLU・tanhなど。現代のCNN・Transformerの各層に欠かせない。
おすすめの活用法・注目ポイント
「非線形性を入れる=複雑な関数を近似・層の重ねが意味を持つ」が得点セット。代表的なReLUを思い出そう。
3.直前に理解(Q&A)
7問Q1. 活性化関数とは?最頻出
人工ニューロンの重み付け和を受け取り、出力(発火の有無や大きさ)を決定する非線形関数。
Q2. なぜ“非線形”が重要?最頻出
線形計算(一次関数)では層を重ねても表現力は増さないが、非線形性を導入することで複雑な関数の近似が可能になる。
Q3. 代表例は?頻出
シグモイド・ReLU・tanhなど。
Q4. どこに置かれる?頻出
各ニューロン(層)の線形計算の後に置かれる。隠れ層・出力層に使用。
Q5. 「活性化関数は線形関数である」は正しい?ひっかけ
誤り。非線形関数であり、複雑な関数の近似を可能にする。
Q6. 層の深さと関係は?頻出
非線形な活性化関数を含む層を重ねることで、表現力が伸びる(深層化の要)。
Q7. 位置づけは?親と子
ニューラルネットワーク ⊃ 活性化関数(+重み)。
4. まとめ
活性化関数=重み付け和に“非線形”を加え、発火を決定する関数。層の深さの要。