[解決方法]バックプロパゲーション・誤差伝播で、誤差がある0ではない値に収束する時
パーセプトロンを誤差伝播、バックプロパゲーションで学習させている時に、学習が終わらなくなった時のトラブルシューティングです。 症状としては、 誤差がある0ではない値に収束して学習が進まない、出力層の出力を確認すると出力がすべて0になっているか、-1になっている状態です。 こんな時に考えるバグは 最初に逆伝搬させている勾配が、損失関数（誤差関数）の微分ではなく損失関数自体になっている ……
月: 2019年7月
記事一覧
[随時更新]多層パーセプトロンでmnistを学習さえて、CとPythonの速度を比較する
研究室的にやたらニューラルネットワークをCとPythonで動かしたときの速度差が気になる。 人工知能を学習する上で使う言語はPython一択ですし、Cでネットワークを実装するとなると使えるライブラリがなくてかなり厳しいことになります。なんで、そんなこと気になる人ってほとんどいないと思います。 ところが、自分で所属している研究室ではニューラルネットワークをフルスクラッチで（主にCで）実装していくとい……
NHKの受信料を払いたくないならもうテレビを家に置かなければいい
NHKの取り立てのお兄さんに詐欺られて、住んでるアパートでBS見れないのに衛星放送契約をさせられたという記事を書いたらたくさんの人に読んでいただいています。 以前友人たちとやっていたwebマガジンでも一緒に記事書いてた奴にNHKのアンチがいたのですが、そいつが書いたNHK批判はかなりのpv数を稼いでいました。世間の受信料問題の関心の高さを感じるし、年々高まってきてますよね。なんか最近の選挙ではこの……
現代就活生の新しいキャリア観 動的安定志向とは？
ある逆求人型リアルイベントのサイトで、東大大学院生が書いた企業の人事向けの記事の中に「動的安定志向」という言葉を見つけました。 ITエンジニア採用に関連する記事だったので、この記事を書いた大学院生というのは情報系の学生だと思うのですが、「動的」という言葉がいかにも情報系の学生らしいです。英語にしたらdynamic stability orientation 略してDSOですかね笑。 その記事を読ん……
カンボジアでで時間が余ったらプノンペンで髪を洗ってもらう
髪を洗ってもらうのって好きですか？ 僕は好きです。 美容室に行ったときお金がもったいなーと思うんですけど、いつも髪を洗ってもらいます。２回くらいトリートメントもしてもらう。 どうせ余計に払うお金は1000円もしないので、1000円払っても髪を洗ってもらう価値はあると思うんですよね。ちょっとくせ毛が治る気がするし・・・笑。 余談ですけど、この間実家に帰った時に親が犬のトリミング代に月２万円もかけてい……
きのこの英訳 MushroomとToadstoolの違い
最近英語を勉強するために、スマホゲームを英語でやっています。 で、Toadstoolという単語が出てきてなんのことやらと思いました。 なんとなくきのこっぽいことはわかったのですが、じゃぁMushroomとなにが違うの？と思って調べたのでまとめておきます。 上のサイトを見る限り、２つの違いははっきり定義されているわけじゃないけど、 Mushroomは(柄が白っぽくて)傘のある食べれそうなきのこ &n……