PyTorch でシンプルな分類器を実装する

[[328922]]

私自身の PyTorch の学習過程を思い出すと、最初はいろいろな情報を見つけ、それを書き留めて実行することはできましたが、学習プロセスを体験していませんでした。チュートリアルの中には、CNN を書くところから始まるものもあります。内容は実はとてもシンプルなのですが、いきなり始めると要点を見失い、混乱してしまいがちです。一部のチュートリアルは表面的な内容のみです。インストラクターが入り口まで案内してくれますが、中に入る前にチュートリアルが終わってしまったように感じてしまいます。

そこで私は、自分の元々の学習経路を要約し、引き続き Python Torch の基礎を強化する準備をしました。一方で、Python Torch にまったく触れたことがない状態から始めて、最新の論文の一部を完成させるまで、ゼロからチュートリアルを整理したいと考えていました。メインスレッドは自分の勉強ノートを整理し、誰でも参照できるようにすることです。

最初のノートでは、まず単純な分類器を完成させます。主なプロセスは次の 3 つの部分に分かれています。

1. 2 次元平面上のいくつかのポイントを 2 つのカテゴリに分割したトレーニングセットをカスタマイズして生成します。

2. 特徴に適合する浅いニューラルネットワークを構築します。主に、PyTorch でネットワーク構造を構築する方法を理解するためです。

3. トレーニングとテストの部分を完了し、pytorch がネットワークをトレーニングおよびテストする方法を理解します。

1. データセットをカスタマイズする

n_data =トーチ.ones (100, 2)  
 x0 =トーチ.normal (2*n_data, 1)  
 y0 =トーチゼロ(100)  
 x1 =トーチ.normal (-2*n_data, 1)  
 y1 =トーチ.ones (100)  
 x = torch.cat ((x0, x1)).type(torch.FloatTensor)  
 y = torch.cat ((y0, y1)).type(torch.LongTensor)

この記事では、ニューラルネットワークモデルを最も簡単な方法で理解し、それを PyTorch で構築できるように、まず自分で定義した単純なデータセットに分類を実装することを検討します。

NumPy に精通している学生であれば、このコードの内容を推測できるはずですが、これは NumPy では NumPy 配列であり、PyTorch ではテンソルです。ここでは、考えを整理する必要のある学生を支援するために、これらのコード行の機能を簡単に紹介します。

まず、n_dataは他のデータを生成するために使われるベンチマークデータです。100行2列のテンソルで、値はすべて1です。 x0 は、この n_data によって生成されるデータの種類の座標値です。

具体的な生成方法は、torch.normal() 関数を使用し、最初のパラメータが mean、2 番目のパラメータが std です。したがって、返される結果 x0 は n_data と同じ形状になりますが、データは平均 2、標準偏差 1 の正規分布からランダムに選択されます。 y0は値がすべて0である100次元テンソルです。

x0 と y0 はこのように理解できます。x0 の形状は 100 行 2 列のテンソルです。値は 2 を中心にランダムに分布しており、正規分布に従います。これらの点のラベルは y0 に設定されており、これは 0 です。一方、x1 に対応する中心は -2 で、ラベルは y1 です。つまり、各点のラベルは 1 です。

最終的に生成された x と y はすべてのデータをマージした結果であり、x0 と x1 はデータとしてマージされ、y0 と y1 はラベルとしてマージされます。

2. 浅いニューラルネットワークを構築する

クラス Net(torch.nn.Module):  
    def __init__(self, n_feature, n_hidden, n_output):  
        super(Net, self).__init__()  
 self.n_hidden = torch.nn.Linear (n_feature、n_hidden) です。  
自己出力= torch.nn.Linear (n_hidden、n_output)  
    def forward(self, x_layer):  
 x_layer = torch.relu (self.n_hidden(x_layer))  
 x_layer =自分自身.out(x_layer) 
  x_layer = torch.nn. functional.softmax (x_layer) の x_layer ...  
        x_layerを返す 
ネット=ネット( n_feature = 2 、 n_hidden = 10 、 n_output = 2 )  
 # 印刷(ネット)  
オプティマイザー= torch.optim.SGD (net.parameters(), lr = 0.02 )  
 loss_func = torch.nn.CrossEntropyLoss () です。

上記の Net() クラスは、ニューラルネットワークを構築する手順です。 PyTorch を使用してニューラルネットワークを作成するのが初めてであれば、これは十分に単純な例です。コンテンツは、__init__() 関数と forward() 関数の 2 つの部分で構成されます。

簡単に言えば、__init__() 関数はネットワーク構造、存在するレイヤー、および各レイヤーの機能を定義します。たとえば、この関数では、self.n_hidden は線形フィッティング関数、つまり、隠し層へのマッピングと同等の完全接続層を定義します。入力は n_feature で、出力は隠れ層 n_hidden のニューロン数です。そして、self.out も完全に接続された層です。入力は隠れ層のニューロン数 n_hidden で、出力は最終出力結果 n_output です。

次は forward() 関数です。これはニューラルネットワークの実行順序を定義することと同じです。ここでは、上記の隠し層関数が最初に入力 x_layer、つまり最初の完全に接続された self.n_hidden() で実行され、次に活性化関数 relu が出力で実行されることがわかります。次に、同じメソッドが繰り返され、出力層 self.out() を通じて最終出力が取得されます。出力 x_layer が返されます。

optimizer はここで定義される最適化手法であり、lr は学習率パラメータです。次に、損失関数としてクロスエントロピー損失関数を選択します。これは上記のコードの最後の行です。アルゴリズムと損失関数を最適化するには、pytorch でさまざまな API インターフェースを直接選択できます。形式に関しては、上記の固定形式を直接参照できます。

3. トレーニングとテストを完了する

iが範囲(100)内にある場合:  
アウト=ネット(x)  
    # print(out.shape, y.shape)  
損失= loss_func (出力、y)  
    オプティマイザ.zero_grad()  
    損失.後方()  
    オプティマイザ.ステップ()

次に、トレーニングプロセスがどのように実行されるかを見てみましょう。 net() は Net() クラスからインスタンス化するオブジェクトなので、net() を使用してモデルを直接実行できます。out はモデルによって予測された結果であり、loss はクロスエントロピー損失関数に従って真の値から計算された誤差です。

次の 3 行のコードは、勾配バックプロパゲーションを実行する方法を示した標準形式です。この時点で、トレーニングは実際に完了しており、このネットワークを直接使用してテストデータセットを予測および分類できるようになりました。

 # 列車の結果 
トレーニング結果=ネット(x)  
 # 印刷(train_result.shape)  
訓練予測= torch.max (訓練結果、1)[1]  
 plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c = train_predict .data.numpy(), s = 100 , lw = 0 , cmap = 'RdYlGn' )  
 plt.show()

このモデルの役割を誰もがよりよく理解できるように、ここで視覚化作業を行ってモデルの学習効果を確認してみましょう。この目標は、Python で非常に一般的なデータ視覚化ライブラリである matplotlib を通じて達成できます。matplotlib の具体的な使用法についてはここでは紹介しません。

ここでの目的は、トレーニングセットに対するトレーニング済みモデルの分類効果、つまりトレーニングエラーを示すことです。

 ＃ テスト 
 t_data =トーチゼロ(100, 2)  
テストデータ= torch.normal (t_data, 5)  
テスト結果=ネット(テストデータ)  
予測= torch.max (テスト結果、1)[1]  
 plt.scatter(test_data[:, 0], test_data[:, 1], s = 100 、 c = prediction .data.numpy()、 lw = 0 、 cmap = 'RdYlGn' )  
 plt.show()