FPGA開発日記

FPGAというより、コンピュータアーキテクチャかもね! カテゴリ別記事インデックス https://sites.google.com/site/fpgadevelopindex/

CNTK

CNTK 2.0 のチュートリアル試行: CNTK 103 Recognize hand written digits (OCR) with MNIST data

CNTK 2.0のチュートリアルを試行する。 今回はある程度翻訳という形で実施してみた。だいぶ誤訳はあるだろうが、ザックリ概要をつかむという形でやっていきたい。 CNTK 103のチュートリアルは4編で構成されている。MNISTの数値認識のチュートリアルについて…

CNTK 2.0 のチュートリアル試行: CNTK 102 Feed Forward network with NumPy

CNTK 2.0のチュートリアルを試行する。 今回はある程度翻訳という形で実施してみた。だいぶ誤訳はあるだろうが、ザックリ概要をつかむという形でやっていきたい。 github.com 以降の文章については、CNTK 2.0の翻訳を含んでいるが、誤訳を含んでいる可能性が…

CNTK 2.0 のチュートリアル試行: CNTK 101 Logistic Regression and ML Primer

CNTK 2.0について勉強する。CNTKはTensorFlowと同様にチュートリアルが用意されており、これを進めていくことにしよう。 まずは、Logistic Regression(回帰分析)をCNTKのニューラルネットワークで構成し、回帰分析を学習してみる。 https://github.com/Micro…

CNTK 2.0のBrainScriptを使用できるようにするための環境構築

CNTK 2.0のインストール方法は複数存在する。まず、一見簡単そうに見える、pipを使ったインストール、そして、スクリプトを使ってセットアップファイルをダウンロードしてインストールする方式だ。 pipを使ったインストール方法は簡単なのだが、Pythonインタ…

Microsoft CNTK 2.0のチュートリアル試行 (SimpleMNIST.py)

CNTK 2.0にも、フィードフォワードのMNISTのサンプルが乗っている。これを試行して、中身を可能な限り理解してみよう。 まず、MNISTのデータセットを取得する必要があるのだが、これは以下のチュートリアルに則る。 github.com cd Examples/Image/Classifica…

Microsoft CNTK 2.0のチュートリアル試行 (FeedForwardNet.py)

CNTKの使い方を勉強しているが、どうも上手く行かない。やはりユーザが少ないからか、きちんとフィードバックがかかっていない気がするな。 CNTK 2.0からはPythonインタフェースが利用できるようになった。Pythonインタフェースでは、TensorFlowと同様にネッ…

Microsoft CNTK 2.0がリリース (インストール試行)

TensorFlowばかりで余り目立っていないが、Microsoftの機械学習ツールキットのCNTKのv2.0がリリースされた。 CNTKって、Cognitive Toolkitの略称なのか。初めて知った気がする。 The Microsoft Cognitive Toolkit | Microsoft Docs CNTKが最初にリリースされ…

Microsoftの機械学習ツールキットCNTKの実行結果をVisual Profilerで解析する

前回、CNTKをGPGPUで動作させることに成功した。今回は、標準的なMNISTを使って、どのようにしてGPGPUが呼ばれているのかを解析していこう。 利用したのは、NVIDIAのプロファイラであるVisual Profilerだ。このツールはGPGPUでどのような関数がどれくらいの…

Microsoftの機械学習ツールキットCNTKをGPGPUで実行してその威力を知る(Windows編)

前回の記事でCNTKをWindowsに無事にインストールできたので、早速GPGPUで実行してどれくらい加速されるのか確かめてみよう。 CNTKの威力は、GPGPUで実行されたときのその速度にある。それを確認するためには、関数のプロファイリングとかを取ってみたいとこ…

Microsoftの機械学習ツールキットCNTKをGPGPU付きでインストールする(Windows編)

やはりCNTKは、GPGPU付きで使いたい。そのためには、今までのようにVagrantの上で動作するLinuxで動かすより、Windows上で動作させる方が良いだろう。 Windows上にCNTKの環境をセットアップする方法について探っていこう。 1. Windows上にCNTKをインストール…

CNTK Tutorialの計算ネットワークの仕組みを読み解く (2.1 - 2.2章)

最近仕事が忙しく徹夜続きになってしまっている。あまり趣味の実装が続かないのだが、とりあえず勉強のために読んでいる資料を読み解いていこう。 http://research.microsoft.com/pubs/226641/CNTKBook-20160121.pdf この資料には、CNTKの使い方はもちろん、…

CNTKを使って関数のフィッティングに挑戦(NDLを使ってネットワーク構築に挑戦)

以下のやってみた日記は、機械学習初心者が書いているため、間違っている内容が含まれている可能性があります。 間違いがあれば、ご指摘頂ければうれしいです。 前回、CNTKを使って、シンプルなネットワークを構築して関数のフィッティングに挑戦した。 その…

CNTKを使って関数フィッティングに挑戦(CNTKの構造を理解する)

以下のやってみた日記は、機械学習初心者が書いているため、間違っている内容が含まれている可能性があります。 間違いがあれば、ご指摘頂ければうれしいです。 CNTKのリファレンスとして、チュートリアルをたくさんやってきたが、まだCNTKを理解できている…

CNTKのチュートリアル(MNIST)の読み解きに挑戦

またまたCNTKである。次に、どこでもかしこでも登場してくるMNISTの認識(手書き文字認識)のチュートリアルに挑戦してみよう。 (僕の思う)CNTKとTensorFlowにおけるネットワーク構成方法の違い TensorFlowでも、MNISTは最初のチュートリアルで登場してきた。…

CNTKのSimple2dに対して別のデータセットを与えて特徴を掴む(はずが謎が深まる)

仕事をしながら考えていたのだが、前回のSimple2dの問題は、0と1に分類するときに、どの程度の確率で0と1に分類されるかについて示されているんじゃないかと思った。 という訳で、もう一度データを見ながらリトライしてみよう。 注意: この記事は機械学習初…

CNTKのチュートリアル(Simple2d)の読み解きに挑戦

とりあえず前回までにCNTKのインストールは完了したので、サンプルを見ながら何が出来るのか、調査していこう。 msyksphinz.hatenablog.com 目次 目次 Simple2dをCNTKで実行する 何が起きているのか? Simple2dのサンプルで実行しているのは、CNNの構築 トレ…

Microsoftの機械学習ツールキットCMTKが公開されたので使ってみる(CPUオプションのみでインストール)

前回、CMTKを頑張ってソースコードからインストールしようとして、途中で大量のエラーが出て失敗してしまった。いったい何が駄目だったのだろう? msyksphinz.hatenablog.com 良く見てみると、僕の環境はUbuntu-12.10を使っていた。これが古すぎるのかもしれ…

Microsoftの機械学習ツールキットが公開されたので使ってみる(インストール)

TensorFlowに続いて、Microsoftの機械学習ツールキットもオープンソースとして公開された。最近は機械学習のツールを公開するのが流行っているのかね? ある意味では、自社の技術力を宣伝するのには良いのかもしれない。クローズに開発しても良いものではな…