2019年4月1日月曜日

ニューラルネットやってみてる

最近ニューラルネットやってみてる
理屈を学ぼうと思って、まずはオブジェクト的に作ってみてる
(ベクトル化とかは後回しで)

sigmoid, tanh, ReLU
MSE, cross entorpy
あたりを小規模にいじってみてます
でも今 soft max の逆伝搬ができなくて困ってる
ネットの説明みても数式がわからない感じ

数学は興味はあるけど、実際やろうとすると拒否感がすごい
分かると楽しいのではないかと思うんだけど、
記号の意味わからなさ(コードと違って識別子が説明的じゃないし)と
学校教育の初期でドロップアウトしたことで
どうもだめです
それでもなんとか3Dやるのに困らない感じには
(ベクトルとか行列とかテンソルとかイナーシャとか…)
カンを頼りにコードに起こしてるけど
苦手意識がはんぱない

ニューラルネットはものすごい昔に本とか読んだ
当時、なんというか脳内のホルモン的なものによる
感情的なものの簡易的なエミュレートとかやってみたいなと思ってた
んで今やってみようと

逆伝搬は個人的にあまり興味がないので、別の方法とかないかなと思ってて
最近金子勇氏の講演動画にいきあたったりして
すごい興味あるんだけども、もうこの世にはいない 残念だ

学習に浮動小数点数を使用するのも、もっとこう簡易的に byte とかで
済ませらんないのかな?とか
ごく簡単な方法とかないのかなとか 探してみたい

なんとなく俯瞰的に見て、ニューロンであるかないかはあまり関係なくて、
単体が非線形で、他の単体との関係性があるモデルであることが重要なのかなとか
思うのが、バードイドとか
あの辺、単体には簡単なルールしかないのに全体として面白い動きをするあたり、
ちょっと似た感じをうける
ライフゲームとかもそうだろうか
そのうち、この辺を一般化した考え方みたいなのが出てくるんじゃないだろうか
動物と生態系とか人間と都市社会とか
そのネスト関係とか

話がおかしくなったけど、
当面やりたいのは、ゲーム的な環境の中に自律したキャラクターを置いて、
仮想ペットみたいなのにしたりとか
そいういのがしたいかんじ

ニューラルネットやってみてる

最近ニューラルネットやってみてる 理屈を学ぼうと思って、まずはオブジェクト的に作ってみてる (ベクトル化とかは後回しで) sigmoid, tanh, ReLU MSE, cross entorpy あたりを小規模にいじってみてます でも今 soft max の逆伝...