CPU と比較して、GPU がディープラーニングに適しているのはなぜですか?

1. CPUとGPUの比較

CPUは複数の機能を備えた優れたリーダーです。その利点は、強力なスケジュール管理、管理、調整機能にあり、次にコンピューティング能力が優れています。 GPU は、CPU によってスケジュールされる「大きな計算能力」を持つ従業員に相当します。

次の図はプロセッサの内部構造を示した図です。

DRAM（ダイナミック ランダム アクセス メモリ）は、一般的なシステム メモリです。

キャッシュ メモリ: コンピュータ内の高速キャッシュ メモリ。CPU とメイン メモリ DRAM の間にあります。サイズは小さいですが、非常に高速です。

算術論理ユニット (ALU) は、複数のグループの算術演算と論理演算を実行できる組み合わせ論理回路です。

ビッグデータで同じことを実行する必要がある場合は GPU の方が適しており、同じデータで多くのことを実行する必要がある場合は CPU が最適です。

GPU は何ができるのでしょうか? GPU は、グラフィックスや機械学習アルゴリズムなどの大規模な行列演算でその力を発揮します。

つまり、CPU は全体の状況を制御するなどの複雑な操作が得意であり、GPU はビッグデータに対する単純な繰り返し操作が得意です。 CPU は複雑な知的作業を実行するアシスタントであり、GPU は大量の並列計算を実行する物理的なワーカーです。

2. 機械学習によるディープラーニング

ディープラーニングは、人間の脳の神経系をシミュレートするために構築された数学的なネットワークモデルです。このモデルの最大の特徴は、トレーニングにビッグデータが必要であることです。したがって、コンピュータ プロセッサには大量の並列反復計算が必要であり、GPU にはこの専門知識があります。時代は英雄を生み出し、GPU は重要なタスクを引き受けるために登場しました。

GPU には次の特性があります。

1. 多数のコアを備えたマルチコア並列コンピューティング インフラストラクチャを提供し、大量のデータの並列コンピューティングをサポートします。並列コンピューティングはシリアルコンピューティングに関連しています。一度に複数の命令を実行できるアルゴリズムであり、問​​題解決の規模を拡大することで計算速度を向上させ、大規模で複雑な計算問題を解決することを目的としています。
2. メモリアクセス速度が高速です。
3. より高い浮動小数点機能。浮動小数点演算能力は、プロセッサのマルチメディアおよび 3D グラフィックス処理に関連する重要な指標です。今日のコンピュータ技術では、多数のマルチメディア技術の応用により、3Dグラフィックスのレンダリングなど、浮動小数点数の計算が大幅に増加しています。そのため、浮動小数点演算の能力は、プロセッサの計算能力を調べるための重要な指標です。

これら 3 つの特性はディープラーニングに非常に適しています。

3. GPUのビッグデータ処理能力を活用する方法

GPU はグラフィック カードのコア コンポーネントにすぎず、単独では動作しません。動作を補助するためにキャッシュも必要です。独立型グラフィック カードでは、GPU がグラフィック カードの回路基板に直接はんだ付けされており、専用の冷却ファンが搭載されています。統合グラフィックスでは、GPU と CPU が統合され、キャッシュが共有され、共通の冷却ファンが使用されます。

コンピュータは、一度に 1 つのデータを処理するよりも、大きなデータ ブロックを効率的に処理できるため、命令実行のオーバーヘッドが大幅に削減されます。これは、大きなデータ ブロックを処理するには、並列処理に必要なトランジスタの数が増えるためです。今日の主力グラフィック カードには、100 億個を超えるトランジスタが搭載されています。

したがって、ビッグデータ処理に GPU を使用するには、少なくとも現時点では、別途 GPU ボードを購入することはできません。統合型グラフィック カードの中でも、優れた GPU パフォーマンスを備えたスーパー独立型グラフィック カード、または優れた GPU パフォーマンスを備えたマザーボードのみを購入できます。