SONYのNeural Network Consoleを動かすのにWindows10かWindows8.1が必要だが，職場にWindows8以上のマシンは1台しかない．Core2Quad 2.4GHz，メモリ4GBの古いマシンだ．i7を積んだハイスペックマシンはlinuxかWindows7で動いている．このマシンではメモリが…

sonyのnnablaを使おうと，git cloneをしたのだが，引っ張ってきたのがDockerfileというテキストファイル．dockerイメージを作るためのスクリプトが書いてあるようだが，どうやって使うの？いろいろ調べるとdocker buildコマンドを使えば良いことが分かった d…

SONYがまた面白いものを開発した．アプリなのでWindows8.1かWindows10が必要だ．Windows10が初めて役に立つかも．これまではWindows7の亜種としての意味しかなかった．そのWindows7もWindows2000の亜種でしかなかったが． Consoleがあればライブラリを使って…

ディープラーニングが流行っている．私もその流行に乗っているが，ディープラーニングを使った人工知能？は全然脅威ではない．ディープラーニングでは，教師データがない問題や報酬値を算出できない問題は本質的に解けないからだ．人間の天才が行う発見や発…

図書館で書架の間をぶらぶらしていて見つけた．人工知能学会なんてあったんだ．知らなかった．最近はディープラーニングが流行っているので関心のある人も多いだろう．1冊借りてきて読んでみた．平易な文章で面白い．また面白い雑誌を見つけてしまった． 特…

googleもニューラルネットには2012年以前から興味を持っていたようだ．先見の明だな．しかし，チップの開発が加速したのは2013年から．やっぱりヒントン教授の成果に後押しされたようだ．googleのチップはTPUという．最初に作られたTPUは推論しかできなかっ…

図書館で数理科学をながめていた．そしたら別冊の「複素ニューラルネットワーク」を見つけた．2005年発行だから，2012年からのディープニューラルネットワークの流行とは関係ない．実はニューラルネットワークの重みに複素数を使ったらどうなるだろうかと以…

PYNQ-Z1をUSB給電で動かそうとしたが，5V/2.1Aの500円ACアダプタでは動かなかった．電流計では0.6A流れたがボードは起動しなかった．たぶん電流不足．40ドル余計に出せば12V/3Aの専用ACアダプタと動作イメージが書き込まれたキングストンの8GB SDカードが付…

PYNQ-Z1はpynqを1.4にアップデートしたら全て動くようになったのだが，今日電源を入れてみるとまたjupyter notebookが動かない．もしやと思い付き，時計を合わせたら動くようになった．jupyter notebookかpythonは時計が合ってないと変な動きをするみたいだ…

ホームの下のscripts/update_pynq.shを実行すると A branch named 'master' already exists というエラーになる．直すにはupdate_pynq.shを編集して --track が2箇所あるので削除すれば良い．

PYNQ-Z1のIPアドレスはデフォルトではDHCPで与えられる．クラスBなのでIP Scannerなんか使うと犯罪になる．困ったなと思ったらPYNQ-Z1にはシリアルポートにターミナルを繋げられることをGetting Startedで知った．USB端子はシリアル端子も兼ねていた．PCに繋…

5nmプロセス世代のトランジスタが見えてきた「Nanosheet」技術の記事をPC Watchで読んだ．個人的にはプロセスの微細化は7nmまでで，それより小さいと量子効果が効いてきて動かないと信じていた．だからムーアの法則も7nmまでだと予想していた．トランジスタ…

BNN-PYNQを使うためにPYNQ-Z1ボードを購入した．使い方はココに解説がある．いきなり使う前にjupyter notebookを使ってみようという訳で，ココを参考にリモートからブラウザで使えるようにした． jupyter notebookはキーボードショートカットを覚えないと素…

Titan Xで快適にCUDAを使っていたんだが，実験でTitan Xを占有したいという人が出たので譲ってしまった．手元にあるのはQuadro NVS 290という古いカード．いちおうCUDA対応らしいので，これで動かすことにする．元の環境は CUDA 8.0 cuDNN 6 chainer 2.0.1 d…

ディープラーニングで相場の動きを予測しようと独学で研究したきたが，今日参考文献を読んでみて私がシコシコ作ってきたディープラーニングはRecurrent Neural Networkであることが分かった．相場は時系列データを利用するから自然にこうなった．世の中的に…

アマゾンで1位の"ゼロから作るDeep Learning“を読んでいる．プログラムを手で打ち込んで走らせると理解が深まるとの方針のもと，さまざまなプログラムが載っていて，それを走らせながらDeep Learningを学んでいく．最初は軽いプログラムだったが，学習関係の…

Pythonで書かれたプログラムを読んでいる．classの記述が出てくるととたんに読みにくくなる．C++でもクラスが出てくると読みにくくなっていた．オブジェクト指向プログラミング言語で読みやすかったのはsmalltalkだけだった．なぜだろう．私だけか？それとも…

Pythonのコマンドプロンプトから，xxx.pyを実行したかったんだが，Python3.6.1にはexecfile()が無かった．ネットをさまよったら，やっと方法が分かった．こんな基本的なこと，入門本に書いて欲しかったよ．

出るとは思っていたがついに出たか．どいつもこいつも欲まみれだ．ああ，情けない．そのうちdeep learning専用ビデオカードも出るだろうな．deep learning専用ASICかFPGAが出てくるまでの寿命だろうが．

import matplotlib.pyplot as pltとやるとエラーになる．Tkが入ってないからだ． apt-get install tk-dev をやってpythonを再インストール（しないとダメだった） pyenv uninstall 3.6.1 pyenv install 3.6.1

CSLAIERにはTensorFlowも選べる．ドキュメントによるとTensorFlowのバージョンは0.11までとなっている．しかし，TensorFlowのサイトにあるバージョンは今は0.12～1.2だけだ．ダメもとで1.2を入れてみた． sudo pip install tensorflow CSLAIERでTensorFlowを…

CSLAIERでChainer2.0.0を動かしていたんだが，学習が終わらない．ソースの変更が間違っているのじゃないかという気がしてきた．Chainerをversion1に戻してやり直し．GPUを持っていないのでまたしばらく待つことになる． $sudo pip uninstall chainer $sudo p…

macでCSLAIERを走らせて4日間経過した．学習が終わっているだろうかとディスプレイの電源をONにしてみたら，ELAPSED TIMEが14時間しか経っていない？？？どうもディスプレイの電源がOFFの間，マシンが止まっていたようなのだ．なぜ？iMacじゃなくてMac Proな…

もらってきたPCをディープラーニングマシンにしようとubuntu16.04LTSをインストールした． マザボ：MSI B85-G43 CPU：i7-4770k メモリ：DDR3-1600 16GB HDD：1TB インストールはすんなり終わったんだけど，起動するとめちゃくちゃ遅い．ディスクアクセスを延…

メモリ4GBのマシンで学習に失敗したので，メモリを32GB積んでいるMac ProでCSLAIERを動かしてみた．Macへのインストール方法はココを参照した．Chainerのバージョン違いのバグはそのままあるので，モデルを作ったらちょっとソースを変更する必要がある．これ…

日経linuxに載っていたのでUbuntu16.04LTSのマシンにCSLAIERを入れてみた．インストールは問題なく終わり，学習を始めたんだが．タイトルのエラーが出てそこで止まる．変数の値がおかしいとか言っているようだがよく分からない．デバッグしようかな．いや，…

昨日，株とFXでお小遣いを得たので，PYNQ-Z1 Boardを買おうと思う．こいつで動くPYNQプロジェクトはdeep learingの推論だけなんだよな．私がやりたいのは学習だ．そのためにはPYNQ-Z1ではロジックセルもメモリも全然足りない（たぶん二桁以上足りない）．で…

近頃，特に外国でdeep learningにFPGAを使う動きが加速している．CPUやGPUやスパコンを使うのに比べ，LSIの設計は難易度が高いので，まだFPGAはマイノリティだ．ある人はこんなことを言っていた． 「FPGAを使いこなすスキルを身に付ける一方で、アプリケーシ…

ディープラーニングではCNN（Convolutional Neural Network）が基本になっているけど，なぜconvolutional＝畳み込みなのかをみんな直感的に理解しているだろうか．その答はココにあった．ポイントは 畳み込みにより点ではなく領域ベースでの特徴抽出が可能に…

日本ロボット学会誌に「Google翻訳が深層学習バージョンにアップデートされた」とあった．へえー，そうなんだと思い，初めてGoogle翻訳を使ってみた．長い文章が一瞬で翻訳された．なぜにこんなに早いのか？できあがった文章は私が翻訳するよりずっと上手だ…