現役大学院生が書く大学生向け情報。就活、受験、技術など(ぴからぼ)

機械学習

カテゴリ一 記事一覧

ホームディレクトリ変更

[解決方法]バックプロパゲーション・誤差伝播で、誤差がある0ではない値に収束する時

パーセプトロンを誤差伝播、バックプロパゲーションで学習させている時に、学習が終わらなくなった時のトラブルシューティングです。 症状としては、 誤差がある0ではない値に収束して学習が進まない、出力層の出力を確認すると出力がすべて0になっているか、-1になっている状態です。 こんな時に考えるバグは 最初に逆伝搬させている勾配が、損失関数(誤差関数)の微分ではなく損失関数自体になっている   ……

ホームディレクトリ変更

[随時更新]多層パーセプトロンでmnistを学習さえて、CとPythonの速度を比較する

研究室的にやたらニューラルネットワークをCとPythonで動かしたときの速度差が気になる。 人工知能を学習する上で使う言語はPython一択ですし、Cでネットワークを実装するとなると使えるライブラリがなくてかなり厳しいことになります。なんで、そんなこと気になる人ってほとんどいないと思います。 ところが、自分で所属している研究室ではニューラルネットワークをフルスクラッチで(主にCで)実装していくとい……