応用数学レポート - s-manabe2/DeepLearningForEngeneerJUDACertificate GitHub Wiki
応用数学レポート
第1章:線形代数
行列
- 連立一次方程式は行列を用いて表現できる。
- 行基本変形をすることで、連立方程式の解を求めることができる。
- 左から逆行列を掛けると連立方程式を解ける。
- 逆行列は掃き出し法を使って求めることができる。(左側の係数を単位行列に変換していくことで右側係数が逆行列になる)
- 逆行列が存在しない行列もある。これは解が一組に定まらないタイプの連立方程式。ベクトルで考えるとベクトルが平行で、2つのベクトルで挟まれる平行四辺形の面積が0となる。
- 3つ以上のベクトルでできている行列式は展開できる。
固有値と固有ベクトル、固有値分解
- 固有値と固有値ベクトルの導出方法について学んだ。固有値は正方行列で導出できる。
- 固有値分解により3つの行列の積の形に変形することにより、行列の累乗の計算が楽にできる。
特異値と特異値分解
- 固有値は正方行列であったが、正方行列以外の場合の適用を考えたものが特異値
- 行列とその転置行列の積をとることにより、正方行列として特異値分解できるように工夫している。
- 特異値分解して画像データの成分の小さい部分を取り除くと、高周波成分のみが削られ、見た目には分からない画像の圧縮をおこなうことができる。
<気付き>
-
あらためて学びなおすと、行列と連立方程式が密接に関連していたことに気付けた。学生時代に分かっていれば、もう少し楽しく勉強できたのではと思った。
-
逆行列、固有値、固有値ベクトル、固有値分解、特異値分解など、各種計算問題がまだ手に馴染んでいない。試験までに計算に慣れておく必要がある。
第2章:確率・統計
- 条件付き確率:ある条件化での確率のこと
- 独立な事象の同時確率:因果関係のない事象の場合は単なる確率の積となる。
- ベイズ則:条件付き確率のこと。
- 確率変数と確率分布
- 期待値:あり得そうな値。平均の値。確率Pと確率変数f(x)を積分したもの
- 分散:データのばらつき具合。期待値からの差分の二乗平均。式を変形すると「分散=f(x)の2乗の平均 - f(x)の平均の2乗」となる。
- 共分散:2つのデータ系列の傾向の違い表現。正の値なら似た傾向。負なら逆の傾向。ゼロなら関連が少ない。
- 標準偏差:分散の平方根。分散は2乗しているため、単位を戻すために平方根を取っている。
- 二項分布:ベルヌーイ分布の多試行版。そん為、nCxを掛けている。
- ガウス分布:釣鐘型の連続分布。
<気付き>
- 普段あまり区別(意識)しないが、条件付き確率は知らず知らずのうちに使っている。
<課題>
- ベイズ則、共分散、二項分布について、まだ理解が十分でないため、試験までに復習が必要
第3章:情報理論
- 自己情報量:増加量ではなく、全体に対する増加の割合を表したもの。人の感覚と同じ。logであらわされる。
- シャノンエントロピー:自己情報量の期待値。0.5が最大。
- カルバック・ライブラー ダイバージェンス:同じ事象に対して、元の(予想した)確率分布Qと実際の確率分布Pの違いを表わす。
- 交差エントロピー:Qについての自己情報量をPの分布で平均している
<気付き>
- 人間の感覚は増加の絶対量ではなく、増加の割合で感じている。それを数式で表すとlogになる。新たな気付きでした。
<課題>
- 初めて学んだ内容のため、この章は要復習