機械学習手順書 - ryo-1/human-counter GitHub Wiki
データ分析がんばるぞい!って時の手順をまとめます。
〜〜あとで書きます〜〜
困ったときの対処法
[問題] 過学習起きてるかも? [原因] 重みの初期値が大きする可能性 もしくは均等な値で初期化されているかも [解決法] 初期値の係数を小さくする ランダムに初期値を発生させる 訓練データセットを増やす モデルの複雑性を減らす(特徴量を減らす) Early Stopping(早期終了) モデルの複雑さにペナルティを与える(正則化) Dropout(学習の途中でランダムにニューロンを削除する) [参考] 「0から作る〜」 p178 ~ p179 https://deepage.net/deep_learning/2016/10/17/deeplearning_dropout.html [問題] 隠れ層を増やしても結果が変わらない [原因] 勾配消失もしくは表現力の制限が発生している可能性 [解決法] 重みの初期値を調整 sigmoid関数, tanh関数等の線形関数を用いている場合 → Xavierの初期値 ReLUの場合 → Heの初期値 [参考] 「パラメータの重みの初期値」 https://qiita.com/m-hayashi/items/02065a2e2ec3e2269e0b 「0から作る〜」 p179 ~ p185