一般的な負荷分散アルゴリズムをいくつ知っていますか?

[[275226]]

コールドスタンバイとホットスタンバイ

コールドスタンバイとは、通常は稼働していない予備の機器を使用することを指します。稼働中の機器に障害が発生した場合、予備の機器を使用して交換します。
ホットスタンバイとは、デバイスが稼働している間にスタンバイデバイスを稼働させることを意味します。稼働中のデバイスに障害が発生した場合、スタンバイデバイスは自動的に置き換えられます。

フェイルオーバーとフェイルバック

フェイルオーバーとは、予備設備において、稼働中の機器を停止し、予備設備を使用して作業するプロセスを交換と呼び、英語ではフェイルオーバーまたはスイッチオーバーと呼ばれます。
フェイルバックとは、交換後に元の稼働中のデバイスに復元するプロセス、つまり稼働中のバックアップデバイスから元の稼働中のデバイスに切り替えるプロセスのことで、英語ではフェイルバックまたはスイッチバックとも呼ばれます。

冗長性タイプ

1. アクティブ・スタンバイ

ルーターを 2 台用意し、そのうち 1 台は通常業務を遂行するアクティブデバイス (マスターデバイスまたはプライマリデバイスとも呼ばれます) にします。もう一方のデバイスは、障害が発生した場合に交換するスタンバイデバイスとして機能します。バックアップデバイス、スレーブデバイス、セカンダリデバイスとも呼ばれます。アクティブデバイスとスタンバイデバイスは、デバイスに関するセットアップ情報を共有する必要があります。

2. アクティブ-アクティブ

ルーターを 2 台用意し、1 台をプライマリデバイス、もう 1 台をセカンダリデバイスとして同時に実行して冗長構造を形成します。この方法は、負荷分散デバイスと組み合わせて使用したり、クライアント側で DNS やルーティング情報を設定したりすることで、負荷分散の目的を達成できます。

3. クラスター

アクティブスタンバイモードまたはアクティブアクティブモードでは、3 つ以上のハードウェアユニットを使用して冗長構造を形成します。

負荷分散とは

負荷分散（英語名は Load Balance）とは、複数のサーバーを対称的に構成したサーバーセットを指します。各サーバーは同等のステータスを持ち、他のサーバーの支援なしに独立して外部にサービスを提供できます。何らかの負荷分散技術により、外部から送信されたリクエストは対称構造のサーバーに均等に分散され、リクエストを受信したサーバーはクライアントのリクエストに独立して応答します。ロードバランシングにより、クライアント要求をサーバーアレイに均等に分散できるため、重要なデータへの高速アクセスが可能になり、大量の同時アクセスサービスの問題が解決されます。このクラスターテクノロジにより、最小限の投資でメインフレームに近いパフォーマンスを実現できます。

負荷分散アルゴリズムは、サービスガバナンスや分散キャッシュなど、さまざまな場所で使用されています。この記事では、主にいくつかの一般的な負荷分散アルゴリズムを紹介します。

1. 投票方法

ポーリング方式は理解しやすいです。リクエストを順番にサーバーに分散します。各バックエンドサーバーを均等に扱い、接続数やサーバーの負荷を気にしません。次のコードはこのアルゴリズムを示しています。

パブリッククラスBalanceServer{
公共 静的リスト<String> サーバー =
 Arrays.asList( "192.168.0.1" , "192.168.0.2" , "192.168.0.3" , "192.168.0.4" ,
 "192.168.0.5" );
公共 静的 整数位置 = 0;
公共 静的文字列getServer() {
 文字列サーバー = null ;
 if (pos >= servers.size ()) {
 位置 = 0;
 }
 サーバー = servers.get(pos);
 位置++;
サーバーを返す。
 }
公共 静的void main(String[] args) {
 ( int i=0;i<10;i++)の場合{
 System.out.println (BalanceServer.getServer()) ;
 }
 }
 }

ポーリング戦略の目的は、リクエストの絶対的なバランスを確保することですが、実際にはサーバーがまったく同じではない場合があり、その結果、一部の高性能サーバーがリソースを十分に活用できない可能性があります。

2. ランダム法

システムのランダム機能により、バックエンドサーバーリストのサイズに応じて、バックエンドサーバーの 1 つがランダムに取得され、アクセスされます。呼び出し回数が増えるにつれて、実際の効果は各サーバーに均等に分散されることに徐々に近づいていきます。ポーリングの効果と同様に、コードは次のようになります。

パブリッククラスBalanceServer{
公共 静的リスト<String> サーバー = Arrays.asList( "192.168.0.1" , "192.168.0.2" , "192.168.0.3" , "192.168.0.4" ,
 "192.168.0.5" );
公共 静的 整数位置 = 0;
公共 静的文字列getServer() {
 文字列サーバー = null ;
 ランダム random = new Random();
 int randomPos = random.nextInt ( servers.size ());
 サーバー = servers.get(randomPos);
サーバーを返す。
 }
 }

ポーリングアルゴリズムと比較すると、同時実行シナリオではポーリングにロックが必要であり、ランダムメソッドの方がパフォーマンスが優れています。

3. 送信元アドレスハッシュ方式

ソースアドレスハッシュ方式の考え方は、クライアントがアクセスした IP アドレスを取得し、ハッシュ関数を通じてハッシュ値を計算し、そのハッシュ値を使用してサーバーリストのサイズに対してモジュロ演算を実行することです。得られた値は、アクセスするサーバーのシリアル番号です。コードは次のとおりです。

パブリッククラスBalanceServer{
公共 静的リスト<String> サーバー = Arrays.asList( "192.168.0.1" , "192.168.0.2" , "192.168.0.3" , "192.168.0.4" ,
 "192.168.0.5" );
公共 静的 整数位置 = 0;
公共 静的文字列 getServer(文字列 ip) {
 文字列サーバー = null ;
 intハッシュコード = ip.hashCode();
 pos = ハッシュコード % servers.size ();
 サーバー = servers.get(pos);
サーバーを返す。
 }
 }

ハッシュ方式の利点は、サーバーリストが変更されない場合、クライアントがアクセスするサーバーは毎回同じサーバーになることです。この機能を使用すると、ステートフルセッションを実現できます。スティッキーセッションは、追加操作なしで実装できます。

4. 加重ラウンドロビン

前述のように、サーバーによってパフォーマンスが異なるため、一般化することはできません。パフォーマンスが低いサーバーには低い重みを与え、パフォーマンスが高いサーバーには高い重みを与える必要があります。コードは次のとおりです。

パブリッククラスBalanceServer{
公共 静的Map<String, Integer > serverMap = 新しい HashMap<String, Integer >();
公共 静的 整数位置 = 0;
静的{
 serverMap.put( "192.168.0.1" , 1);
 serverMap.put( "192.168.0.2" , 1);
 serverMap.put( "192.168.0.3" , 4);
 serverMap.put( "192.168.0.4" , 3);
 serverMap.put( "192.168.0.5" , 3);
 serverMap.put( "192.168.0.6" , 2);
 }
公共 静的文字列getServer() {
 <文字列>を設定します。keySet = serverMap.keySet();
 イテレータ<String> it = keySet.iterator();
 List<String> サーバー = 新しい ArrayList<String>();
 (it.hasNext()) の間 {
 文字列 server = it.next ();
整数の重み = serverMap.get(server);
 ( int i = 0; i < 重み; i++) {
 servers.add (サーバー);
 }
 }
 文字列サーバー = null ;
 if (pos >= servers.size ()) {
 位置 = 0;
 }
 サーバー = servers.get(pos);
 位置++;
サーバーを返す。
 }
公共 静的void main(String[] args) {
 ( int i=0;i<14;i++)の場合{
 System.out.println (BalanceServer.getServer()) ;
 }
 35 }
 36}

5. 加重ランダム法

加重ラウンドロビン方式と同様に、加重ランダム方式でも、バックエンドサーバーのさまざまな構成と負荷条件に基づいて異なる重みが構成されます。違いは、順序ではなく重みに基づいてサーバーをランダムに選択することです。重み付けランダム法のコード実装は次のとおりです。

パブリッククラス WeightRandom
 {
公共 静的文字列 getServer()
 {
 // サーバーの起動と停止による同時実行の問題を回避するためにマップを再構築します
 マップ<文字列、整数> serverMap =
 新しい HashMap<String, Integer >();
 serverMap.putAll(IpMap.serverWeightMap);
 // IPアドレスリストを取得
<文字列>を設定します。keySet = serverMap.keySet();
 イテレータ<String> iterator = keySet.iterator();
 リスト<文字列> serverList = 新しい ArrayList<文字列>();
 (イテレータ.hasNext()) の間
 {
 文字列サーバー = iterator.next ();
 int重み = serverMap.get(server);
 ( int i = 0; i < 重み; i++)の場合
 serverList.add (サーバー);
 }
 java.util.Random ランダム = new java.util.Random();
 int randomPos = random.nextInt(serverList.size ( ));
 serverList.get(randomPos);を返します。
 }
 }