プログラミング初心者が機械学習を1ヶ月勉強し続ける #day21

今日の目標

courseraのDeepLearningを引き続きやっていきます。

コース２「Improving Deep Neural Networks」を終わらせられたらいいですね。

21日目でやった事

コース１：Neural Networks and Deep Learning 　week4終了

かかった時間：3時間

難易度：★★☆☆☆

内容はforward propagationとbackpropagationについての総まとめといった感じです。この辺は何回か学習しているので動画はさらっと聞いていました。

プログラミング課題も誘導がかなりしっかりしていて、ヒントが散りばめられているので迷うことなく進めることができました。

コース２：Improving Deep Neural Networks　week1終了

かかった時間：4時間

難易度：★★☆☆☆

train,val,testdataについて、biasとvariance、regularization、gradient checkingなどはMLの内容と多少かぶっています。

dropoutの実装方法やweight initializationはとても勉強になりました。

コース２：Improving Deep Neural Networks　week2終了

かかった時間：3時間

難易度：★★☆☆☆

ミニバッチ勾配降下法とmomentum,RMSprop,Adamについて学びました。

これはゼロから作るディープラーニングで一度触れていたものの、かなり曖昧な理解だったのでもう一度しっかり学ぶことができてよかったです。

本よりこちらの動画の説明の方が個人的にはわかりやすかったです。

コース２：Improving Deep Neural Networks　week3　課題手前まで

かかった時間：2時間

難易度：★★★☆☆

　内容はハイパーパラメータの調整法、BatchNormalization、softmax、tensorflow導入です。

ハイパーパラメータの調整は今までgridでやるものだと思っていたので、ランダムに取るというのは少し意外でした。BatchNormalizationは初めて学んだ概念で、さらにパラメータを増やすことに驚きましたが、その必要性についてはなんとなく理解できました。この辺りになると、もはや日本語字幕がないので動画を適宜止めつつ英語字幕と格闘していました。softmaxはディープラーニング本で学んだこと以上のことは特にありませんでした。tenforflowは初めて扱うので、動画の説明だけだともはやよくわかりませんでした。。

明日の課題を実際にやってみて感覚が掴めるといいのですが、、

明日に向けて

予定より少し遅れてしまっているので、明日はコース3まで終わらせて遅れを取り戻したいと思います。