Week2の課題でRegularizationを使用するとJは小さくなるか？

Coursera-Machine Learning-Week2 Coursera-Machine Learning-応用

前回の日記でWeek2のMultiの課題にPolynomialを使用しても、 Jは20億から下がりませんでしたので、 Week3で予測精度を上げるテクニックの1つとして紹介されている Regularizationを使ってJが小さくなるかどうか見てみたいと思います。 Regularizationとは↑の…

2020-01-23

Week2の課題でPolynomial=多項式化するとどうなるか？-後半-

Coursera-Machine Learning-Week2 Coursera-Machine Learning-応用

Polynomialで予測精度が向上してJが小さくなったか、 Learning Curveの形は変わったか、をプログラミングしながら検証していきます。まずDataをSetします。 Train setとTest Setの分け方は同じです。プログラミングを続けます。多項式＝polynomialの部分…

2020-01-21

Week2の課題でPolynomial=多項式化するとどうなるか？-前半-

Coursera-Machine Learning-Week2 Coursera-Machine Learning-応用

前回の日記で行ったWeek2のMuiltiの課題がunderift=『予測当たらなさすぎ』と Learning Curveでは結果が出てきたので、対策の1つに挙げられているAdding polynomial fearuresに取り組んでみたいと思います↓ Polynomial=多項式化することで期待しているのは…

2020-01-18

Week2の予測結果をWeek6の仮説精度検証とLearning Curveで評価してみたらどうなるか？

Coursera-Machine Learning-Week2 Coursera-Machine Learning-応用

Week6では↓のように仮説の精度検証の方法が説明されていたので、この方法で前回の日記で取り組んでいたWeek2の予測結果を評価してみたいと思います。今回は仮説検証なのでデータを70対30に2分割します。（余談ですが、モデル選択の場合は60対20対20の3分…

2020-01-17

Week2の課題をPCAしてみるとどうなるか？

Coursera-Machine Learning-Week2 Coursera-Machine Learning-応用

PCAはWeek8で紹介された内容でした。 PCAはデータが膨大で計算負荷が大きいときに類似と判断できるデータを削減して、計算負荷を小さくすることが目的のものでした。具体的なPCAの計算方法は↓でした。これ↑がｎ次元をｋ次元にする方法でした。今回は2次…

2020-01-16

Coursera Machine Learning Week2 課題　2周目⑩　-苦闘記憶- Normal Equation

Coursera-Machine Learning-Week2

最後のOptionでNormal Equasionです。 Videoでは（出典;『Coursera Machine Learning』 By Mr. Andrew Ng) と説明されていて、 nが大きいと時間かかるけど、nが小さかったら一発で解答にたどり着くというイメージなのでとても楽しみにしていました。まずは…

2020-01-15

Coursera Machine Learning Week2 課題　2周目⑨　-苦闘記憶- 最適なαを探す

Coursera-Machine Learning-Week2

もうOptionの部分に入って長いですが、引き続きOptionの部分を行います。まずは問題文を読みます。適切なlearning rateを選びなさいという趣旨ですね。 Iterationを50にして、learning rate=alphaを0.3/0.1/0.03/0.01というように変化させてJの収束具合を…

2020-01-14

Coursera Machine Learning Week2 課題　2周目⑧　-苦闘記憶- Costfunction/Gradient with multi

Coursera-Machine Learning-Week2

今回はLinear Regression with multiのCostfunction/Gradientに取り組みます。まずは問題文を読んでみます。なんと、Food Truckの予測と同じ式が使えると書いてあります。 ↓がFood Truckの考え方でした。このときXを基にした予測値は X X thetaでした。 …