機械学習手順書 - ryo-1/human-counter GitHub Wiki

データ分析がんばるぞい!って時の手順をまとめます。

〜〜あとで書きます〜〜

困ったときの対処法

[問題]      過学習起きてるかも?  [原因]      重みの初期値が大きする可能性      もしくは均等な値で初期化されているかも  [解決法]      初期値の係数を小さくする      ランダムに初期値を発生させる      訓練データセットを増やす      モデルの複雑性を減らす(特徴量を減らす)      Early Stopping(早期終了)      モデルの複雑さにペナルティを与える(正則化)      Dropout(学習の途中でランダムにニューロンを削除する)  [参考]      「0から作る〜」      p178 ~ p179      https://deepage.net/deep_learning/2016/10/17/deeplearning_dropout.html      [問題]      隠れ層を増やしても結果が変わらない  [原因]      勾配消失もしくは表現力の制限が発生している可能性  [解決法]      重みの初期値を調整      sigmoid関数, tanh関数等の線形関数を用いている場合 → Xavierの初期値      ReLUの場合 → Heの初期値  [参考]      「パラメータの重みの初期値」      https://qiita.com/m-hayashi/items/02065a2e2ec3e2269e0b      「0から作る〜」      p179 ~ p185