人生のオープンソース化。

pickerLab

IT・開発

研究や趣味でコードを書く初心者プログラマが思ったこと躓いたこと

[解決方法]バックプロパゲーション・誤差伝播で、誤差がある0ではない値に収束する時 IT・開発

[解決方法]バックプロパゲーション・誤差伝播で、誤差がある0ではない値に収束する時

パーセプトロンを誤差伝播、バックプロパゲーションで学習させている時に、学習が終わらなくなった時のトラブルシューティングです。 症状としては、 誤差がある0ではない値に収束して学習が進まない、出力層の出力を確認すると出力がすべて0になっているか、-1になっている状態です。 こんな時に考えるバグは 最初に逆伝搬させている勾配が、損失関数（誤差関数）の微分ではなく損失関数自体になっている   ......
[随時更新]多層パーセプトロンでmnistを学習さえて、CとPythonの速度を比較する IT・開発

[随時更新]多層パーセプトロンでmnistを学習さえて、CとPythonの速度を比較する

研究室的にやたらニューラルネットワークをCとPythonで動かしたときの速度差が気になる。 人工知能を学習する上で使う言語はPython一択ですし、Cでネットワークを実装するとなると使えるライブラリがなくてかなり厳しいことになります。なんで、そんなこと気になる人ってほとんどいないと思います。 ところが、自分で所属している研究室ではニューラルネットワークをフルスクラッチで（主にCで）実装していくとい......
numpyはマルチコアによる並列処理に対応しているか？ IT・開発

numpyはマルチコアによる並列処理に対応しているか？

この間Cupyを試しました。結果は確かに早いけど、行列の大きさがそこそこ大きくないとメリットがそんななくて、自分の環境だとあまり利用価値がないなという結論に行きつきました。 pickerLab今まで使ってなかったCupyとNumpyの速度比較https://pickerlab.net/2019/05/20/verification-of-cupy研究室でいろいろ悲しい事情があり、ガチのニューラルネ......
numpyのデータタイプによる速度検証 IT・開発

numpyのデータタイプによる速度検証

研究室のゼミでニューラルネットワークの結果が出てきた時、なんとなくみんな思うことがあります。 こんなに精度いらないんじゃ・・・ ちょっと調べたんですが、これはみんな思っていることみたいですね。 1.5655364990234375 長ったらしい少数点を見て無駄だなーーと思う。 体感としては小数第四位ぐらいで十分なんですよね。しかも、うちはガチの神経から得たデータ使ってるんでノイズが入ってて第二位位......
“たった１日で基本が身に着く！Androidアプリ開発超入門”　はだれが読むべき本なのか？　読んでみた感想 IT・開発

“たった１日で基本が身に着く！Androidアプリ開発超入門”　はだれが読むべき本なのか？　読んでみた感想

大学院生の研究室では普段はPythonとCしか使わないのですが、就職する前に一度Javaをガッツリ勉強したいと思ってました。 ただ、Javaって企業では現役バリバリの言語ですが、個人が趣味で使おうとする使いどころがありませんよね・・・。一部機械学習のライブラリでJavaで動くものもありますが、だったらPythonでいいじゃん！ってなっちゃいます。あと、web系だったらRubyとかになる。 そんなな......
Android Studioのrunマークがグレー・・・実行できない理由は？ IT・開発

Android Studioのrunマークがグレー・・・実行できない理由は？

最近Javaができたらいいなぁーってぼんやり思っている時間が長くなりました。昔はJavaとか何年前の言語だよって思ってましたが、就活している現実を知りますね。インターンでもjavaができなくて不自由なことがありました。 で、なんとなくJavaができる機会を探していたら、Androidアプリを作るという話が舞い込んできました。 言語(自然言語も)は実用に迫られたとき気合で覚えるのが僕のモットーなので......
python でインスタンスの関数を読み出すと”simulate() missing 1 required positional arguments: ‘self’,…”と表示される IT・開発

python でインスタンスの関数を読み出すと”simulate() missing 1 required positional arguments: ‘self’,…”と表示される

Pythonの初歩的なエラーの話です。 研究室でPythonをヘビーに使うようになってちょうど一年がたちます。 ただ、最近就活関連で研究室を空けることが多く、新しくコードを書き始めることが今年に入ってからはなかったのですが、今週から新しいプログラムを書いています。 いつも通りクラスを定義して、モジュールをとして読みだして、インスタンスを定義する。ただそれだけのことをすればよかったのですが、インスタ......
プログラムの先頭にエラーが出るときのデバッグ IT・開発

プログラムの先頭にエラーが出るときのデバッグ

今日勉強したことを報告します。 今いる研究室で誰かが数年前に書いたコードをいじる必要になり、書き換えたけどコンパイルで読み込んだファイルの先頭の行にエラーが出続けるので困っていました。 自分も学生だけど学生が書いたコードなんてほんと読む気しません。しかも10ファイル以上に分かれていて、2000行を超えるプログラムもありました。 やりたいことはホント大したことなくて、半日もあれば余裕と思っていたのに......
Jupyter Notebookのホームディレクトリを変更する IT・開発

Jupyter Notebookのホームディレクトリを変更する

皆さん、Jupyter notebook使ってますか？（この記事を見てるってことは使ってますよね笑） Pythonを始めてばかりのころは、Jupyter notebook上でしかコードを書いていませんでしたが、最近は普通にpyファイルを編集することも多くなってきました。（結局vc codeの拡張機能でJupyter使ってます） で、前から困っていたことがあるんですよね。それはanacondaからJ......