見逃せない 7 つのディープニューラルネットワーク可視化ツール

TensorBoard: TensorFlow 統合可視化ツール

GitHub 公式プロジェクト: https://github.com/tensorflow/tensorflow/tree/master/tensorflow/tensorboard

TensorBoard で行われる操作は、多くの場合、大規模なディープニューラルネットワークのトレーニングで発生する複雑で理解しにくい操作です。

TensorFlow プログラムの理解、デバッグ、最適化を容易にするために、Google は TensorBoard と呼ばれる視覚化ツールのセットをリリースしました。 TensorBoard を使用すると、TensorFlow グラフを表示したり、グラフによって生成された定量的なメトリックをプロットしたり、データを添付したりできます。

TensorBoard がセットアップされると、次のようになります。

tensorboard を起動するには、次のコマンドを入力します。

 tensorboard --logdir=/path/to/log-directory

ここでのパラメーター logdir は、SummaryWriter シリアル化データのストレージパスを指します。 logdir ディレクトリのサブディレクトリに別の実行のデータが含まれている場合、TensorBoard はすべての実行のデータを表示します。 TensorBoard が実行されると、ブラウザに localhost:6006 と入力して TensorBoard を表示できます。 TensorBoard インターフェースに入ると、右上隅にナビゲーションタブが表示されます。各タブには、視覚化されたシリアル化されたデータセットのセットが表示されます。表示するタブごとに、TensorBoard にそのタブに関連付けられたデータがない場合、関連付けられたデータをシリアル化する方法を説明するプロンプトが表示されます。

TensorFlow のグラフ計算は強力かつ複雑であり、グラフの視覚化は理解とデバッグに非常に役立ちます。

詳細については、以下を参照してください。

[TensorFlow 中国語コミュニティ] TensorBoard: ビジュアル学習
[TensorFlow 中国語コミュニティ] TensorBoard: チャートの視覚化
[Geek Academy] TensorBoard: ビジュアル学習

Netscope: Caffe をサポートするニューラルネットワーク構造のオンライン視覚化ツール

公式サイト: http://ethereon.github.io/netscope/quickstart.html

GitHub プロジェクト: https://github.com/ethereon/netscope

「ニューラルネットワークアーキテクチャ (または技術的には任意の有向非巡回グラフ) を視覚化するための Web ベースのツールです。現在は Caffe の prototxt 形式をサポートしています。」

Netscope は、prototxt 形式で記述されたニューラルネットワーク構造をサポートするオンライン視覚化ツールです。これを使用すると、ネットワーク構造を Caffe 構造の prototxt 形式で視覚化できます。使い方も非常に簡単です。このアドレス http://ethereon.github.io/netscope/#/editor を開き、ニューラルネットワーク構造を記述した prototxt ファイルを編集ボックスにコピーし、Shift + Enter キーを押すと、ネットワーク構造がグラフィカルに直接表示されます。

たとえば、mnist の Lenet と imagenet の AlexNet を例にとると、Caffe から Caffe ファイル caffe/examples/mnist/lenet_train_test.prototxt と caffe/models/bvlc_alexnet/train_val.prototxt をコピーできます。

ファイルの内容を左側のコンパイルボックスにコピーし、Shift + Enter キーを押すと、次のように各レイヤーの特定のパラメータを含む視覚的な構造図がすぐに表示されます。

Netscope は、いくつかの一般的な CNN ネットワーク構造の例を提供します。

AlexNet | アレックス・クリジェフスキー、イリヤ・サツケヴァー、ジェフリー・ヒントン
CaffeNet | Yangqing Jia、Evan Shelhamer 他
完全畳み込みネットワーク — 3 つのストリーム | Jonathan Long、Evan Shelhamer、Trevor Darrell
GoogleNet | Christian Szegedy 他
ネットワークの中のネットワーク | ミン・リン、チャン・チェン、シュイチェン・ヤン
VGG 16 レイヤー | カレン・シモニャン、アンドリュー・ジッサーマン

上記のネットワークの prototxt ソースファイルは、 https://github.com/ethereon/netscope/tree/gh-pages/presets にあります。

python/draw_net.pyを使用してネットワークモデルを描画します。

python/draw_net.py、このファイルはネットワークモデルを描画するために使用されます。つまり、ネットワークモデルを prototxt から画像に変換するために使用されます。

描画する前に、2つのライブラリをインストールする必要があります

1. GraphVizをインストールする

$ sudo apt-get GraphVizをインストール

ここではインストールに pip ではなく apt-get が使用されていることに注意してください。

2. pydotをインストールする

$ sudo pip pydotをインストール

apt-get の代わりに pip を使用してインストールします。

インストールしたら、スクリプトを呼び出して絵を描くことができます。

draw_net.py は、次の 3 つのパラメータで実行されます。

最初のパラメーター: ネットワークモデルの prototxt ファイル。
2 番目のパラメーター: 保存された画像のパスと名前。
2 番目のパラメーター: - - rankdir = x、x には LR、RL、TB、BT の 4 つのオプションがあります。ネットワークの方向（左から右、右から左、上から下、下から上）を示すために使用されます。デフォルトはLRです。

例: Lenet モデルのプロット

$ sudo python python/draw_net.py examples/mnist/lenet_train_test.prototxt netImage/lenet.png --rankdir=BT

参考文献:

Netscope: Caffe をサポートするニューラルネットワーク構造のオンライン視覚化ツール
Caffe学習シリーズ（18）：ネットワークモデルの描画
Caffe 学習シリーズ - ツール: ニューラルネットワークモデル構造の視覚化
ディープネットワークの設計と可視化ツール

ニューラルネットワークプレイグラウンド

公式サイト: http://playground.tensorflow.org

GitHub プロジェクト: https://github.com/tensorflow/playground

Deep Playground は、d3.js を使用して TypeScript で記述されたニューラルネットワークのインタラクティブな視覚化です。

PlayGround は、教育目的でシンプルなニューラルネットワークのオンラインデモンストレーションと実験を行うためのプラットフォームです。ニューラルネットワークのトレーニングプロセスを非常に強力に視覚化します。

参考文献:

[Zhihu] TensorFlow Playground に示されているニューラルネットワークの概念を詳しく説明できる人はいますか?
[ブログ] TensorFlow PlayGround と組み合わせたシンプルなニューラルネットワークの原理の説明

コンブネットJS

公式サイト: http://cs.stanford.edu/people/karpathy/convnetjs/

GitHub プロジェクト: https://github.com/karpathy/convnetjs

ConvNetJS は、ブラウザー内で完全にディープラーニングモデル (ニューラルネットワーク) をトレーニングするための JavaScript ライブラリです。タブを開くだけでトレーニングを開始できます。ソフトウェア要件、コンパイラ、インストール、GPU は一切不要で、手間もかかりません。

いくつかのオンラインデモ

MNIST 数字の畳み込みニューラルネットワーク
CIFAR-10 の畳み込みニューラルネットワーク
おもちゃの2Dデータ
おもちゃの1D回帰
MNIST 数字でのオートエンコーダのトレーニング
Deep Q Learning 強化学習デモ
画像回帰（「絵画」）
MNIST における SGD/Adagrad/Adadelta の比較

詳細については、公式ウェブサイトおよび GutHub プロジェクトの README をご覧ください。

WEVI

公式サイト: wevi: 単語埋め込みビジュアルインスペクター

GitHub プロジェクト: https://github.com/ronxin/wevi

具体的な参考資料: wevi: Word Embedding Visual Inspector

CNNVis

出典: 深層畳み込みニューラルネットワークのより良い分析に向けて arxiv.org/abs/1604.07043

詳細については、以下を参照してください。深層畳み込みニューラルネットワークをより深く理解し、分析するのに役立ちます。今日は、これを読んだ後に使用できる新しい視覚化ツールである CNNVis について説明します。

概要: 深層畳み込みニューラルネットワーク (CNN) は、多くのパターン認識タスクで大きなパフォーマンスのブレークスルーを達成しました。ただし、高品質の深層モデルの開発には、深層モデルの仕組みを十分に理解していないため、多数の試行が必要です。この論文では、機械学習の専門家が深層畳み込みニューラルネットワークをよりよく理解、分析、設計できるようにするための視覚化分析システム CNNVis を提案します。

<<: Spark機械学習APIの選び方

>>: ゲームにおける経路探索アルゴリズムの深い理解