Deep Learningをやっている。 1,2,3月振り返り
月一で更新する予定が全然できていなかった笑
Deep Learningを真面目にやっている
掲題の通り、最近はDeep Learningをやっている。
なぜやっているかといえば、
UdacityのDeep Learning nanodegree foundationというプログラムに参加しているからである。↓
なぜ入ったかというと、単純にプログラム内容が魅力的だったからである。
だって、画像認識とかは当たり前だけど、
映画のセリフをDeep Learningで自動生成、翻訳、音楽生成とかめっちゃ楽しそうやん!!!
ただそんだけ。あとやっぱ知っておいたほうが良いかな的な
主に、Tensorflowでの実装ですね。その前にもPythonで簡単なパーセプトロンでの3層構造くらいのNNは実装しました。
誤差逆伝播法(Back propagation)とかはふーーんくらいに思っていたけど、きちんと理解しておかないとどの活性化関数を選ぶべきかとか、勾配消失問題とかが理解できなくなるので大事だなと思います。
ちなみにこれについて載っているサイトはこれです↓
※最近Mediumはまじめな記事が充実しているんですね。
あとRNNのLSTMをめっちゃわかり易く説明しているリンクが下記です。おすすめ
Understanding LSTM Networks -- colah's blog
学んだことをただまとめるサイトを作り始めた
上記のリンクのように、コースをやっている中で外部リンクが紹介されることが多いので、それをどうやって管理しようかなぁという問題があったのでメモがてらで、リンクを集めるサイトを作った。(Google siteだけどね)
あとは、自己学習時におけるハードルって結構色々あると思っていて、自分も過去&現在でその課題を感じているので、何かしらの方法で解決できないかなを模索しようという意思もあり、実験的に作り始めた。
それが以下である。
である。(これは普通に便利だと思います。英語多いけど)
他にも勉強したこと&していること
3ヶ月分あるからざっくりでいいやw
本
もっと詳細な理論とか知りたいなと思って読んだ。完全には理解していない部分もあるw DBMとか。でもCNNやRNNの理解には役に立ったなぁ
馬田さん本。最後の章が一番おもしろかった
他にも色々読んだ気がするけど忘れたからいいやw
オンライン講座
データをいかに取得し加工するかという話。前処理ってやつですかね。データサイエンスの8割はこの作業に時間を費やされるとか。大変ですな。まだ、落とし込めている感が一ミリもないから、もう一回復習しようかなって思っている
今やっているなうだけどSklearnを主に使って、基礎的な機械学習が学べる、SVM, Naive bayes, Decision treeとかさ。Sklearn使うとマジ簡単だねw
基礎的なやーつ 大事だね。Siraj(Youtuberでデータサイエンスの面白いやつ)っていうやつのおすすめ
結論
独学は頑張ればすべてオンラインで完結する。
お金も必要じゃない。
けど、まだまだハードル高いから解決する何かを作りたい
それが Academic Wiki が目指すところ。
P.S.
Kaggleやりたい。やります。