プログラミング初心者が機械学習を1ヶ月勉強し続ける #day25

今日の目標

courseraのDeepLearningを始めて6日目になります。

コース5のweek1まで終わらせるのが目標です。

25日目でやった事

コース5：Sequence models week1 終了

かかった時間：5時間

難易度：★★★★☆

プログラミング課題はGRUとLSTMのForward/Backward Propagationの実装、恐竜の名前生成、jazz音声生成でかなりボリュームのある課題でした。

LSTMのbackpropagationはかなり複雑で丁寧な誘導があってやっとできたって感じです、自分でイチから実装するとかまず無理ですね。。

恐竜の名前生成は面白かったです。存在している恐竜の名前から、可能性の高い恐竜の名前をRNNを用いて生成していきます。この技術は遊びレベルで汎用性が高そうです。（何かのネーミングを決める時の参考にできそう）

jazzの音声生成も面白かったです。この課題の元ネタとなったサービスはdeepjazzというのですが、ハッカソンで32時間で書き上げられたものらしいというのが驚きです。音をどのように分解しているかまではわからなかったのですが、音楽までも生成できてしまうことに感動しました。

コース5：Sequence models week2 終了

かかった時間：4.5時間

難易度：★★★★☆

２週目はword embedding,word2vec, negative sampling, Glove word vectors, Sentiment Classification, バイアスの除去について学びました。

個人的には自然言語処理は画像処理よりも何が起こっているかの感覚が掴みづらく、難しく感じます。今回もなかなか理解に苦戦しました。

プログラミング課題はコサイン類似度を用いた単語の類推とLSTMを用いて文章を基にした絵文字の推定を行いました。少ないサンプル量でも精度の高い類推ができていたのが驚きでした。

明日に向けて

明日でdeeplearningのコースを始めて7日目なので、最後のweek3を終わらせて、課金なしで修了しようと思います！