インタビュアー: 負荷分散アルゴリズムを理解していますか?

インタビュアー: 負荷分散アルゴリズムを理解していますか?

前回の記事では、ポーリング、ランダム、最小接続の 3 つの負荷分散アルゴリズムについて説明しました。ただし、他の負荷分散アルゴリズムも存在するため、それらについても調べる必要があります。また、面接でそれらについて質問される可能性もあります。

[[286766]]

高性能なクラスターを実現するには、適切なロード バランサーを選択することが重要です。また、さまざまなビジネス シナリオに適したロード バランシング アルゴリズムを選択することも非常に重要です。これまでにいくつかのアルゴリズムを挙げてきました。次に、残りのアルゴリズムについて説明しましょう。

1. 送信元アドレスハッシュアルゴリズム

これは戦略を失わない唯一のアルゴリズムですが、負荷分散はソース データ情報とハッシュ アルゴリズムに大きく関係します。

ソース アドレス ハッシュ方式の考え方は、クライアントを要求しているサービス コンシューマーの IP アドレスに基づいてハッシュ関数を介してハッシュ値を取得し、このハッシュ値とサーバー リストのサイズに対してモジュロ演算を実行することです。結果は、アクセスするサーバー アドレスのシリアル番号になります。送信元アドレス ハッシュ方式は、負荷分散に使用されます。同じ IP クライアントのサーバー リストが変更されていない場合は、同じバックエンド サーバーにマップされてアクセスされます。

前回の操作の疑似コード:

  1. プライベート静的Map<String, Integer > serviceWeightMap = new HashMap<String, Integer >();
  2.  
  3. 静的{
  4. serviceWeightMap.put( "192.168.1.100" , 1);
  5. serviceWeightMap.put( "192.168.1.101" , 1);
  6. serviceWeightMap.put( "192.168.1.102" , 4);
  7. serviceWeightMap.put( "192.168.1.103" , 1);
  8. }
  9.  
  10. 公共 静的文字列testConsumerHash(文字列remoteIp) {
  11.  
  12. Map<String, Integer > serverMap = new HashMap<String, Integer >();
  13. serverMap.putAll(サービス重みマップ);
  14.  
  15. //IPアドレスリストを取得
  16. <文字列>を設定します。keySet = serverMap.keySet();
  17. ArrayList<String> keyList = 新しいArrayList<String>();
  18. キーリストにすべてを追加します(キーセット)。
  19.  
  20. intハッシュコード = remoteIp.hashCode();
  21. int pos = ハッシュコード % keyList.size ( ) ;
  22.  
  23. keyList.get(pos);を返します
  24. }

このコードは Will.Shun によって書かれています。最初見たときは意味がよくわかりませんでした。後で調べてみると、説明と非常によく似ていることがわかりました。ハッシュ値はハッシュ関数によって計算されます。ハッシュ値はサーバーリストのサイズを法として計算され、結果はアクセスするサーバーアドレスのシリアル番号になります。

2. 加重ラウンドロビンアルゴリズム

重み付けラウンドロビンアルゴリズムを見てみましょう。まず、Nginx の重み設定を見てみましょう。

  1. http {
  2. 上流クラスター
  3. サーバーaの重み=1;
  4. サーバーbの重み=2;
  5. サーバーc 重み=3;
  6. }

Nginx が 6 つのクライアント要求を受信した場合、そのうち 1 つをバックエンド a に、2 つをバックエンド b に、3 つをバックエンド c に転送します。

重み付けポーリング アルゴリズムの結果は、サーバー シーケンスを生成することです。リクエストが届くたびに、次のサーバーがシーケンスから取り出され、リクエストが処理されます。

加重ラウンドロビンアルゴリズムの疑似コード:

  1. プライベート静的Map<String, Integer > serviceWeightMap = new HashMap<String, Integer >();
  2.  
  3. 静的{
  4. serviceWeightMap.put( "192.168.1.100" , 1);
  5. serviceWeightMap.put( "192.168.1.101" , 1);
  6. serviceWeightMap.put( "192.168.1.102" , 4);
  7. serviceWeightMap.put( "192.168.1.103" , 1);
  8. }
  9.  
  10.  
  11. 公共 静的文字列testWeightRoundRobin() {
  12.  
  13. // サーバーのオンラインとオフラインによって発生する同時実行の問題を回避するためにマップを再作成します
  14. Map<String, Integer > serverMap = new HashMap<String, Integer >();
  15. serverMap.putAll(サービス重みマップ);
  16.  
  17. //IPアドレスリストを取得
  18. <文字列>を設定します。keySet = serverMap.keySet();
  19. イテレータ<String> it = keySet.iterator();
  20.  
  21. リスト<文字列> serverList = 新しい ArrayList<文字列>();
  22.  
  23. (it.hasNext()) の間 {
  24. 文字列 server = it.next ();
  25. 整数の重み = serverMap.get(server);
  26. ( int i=0; i<weight; i++)の場合{
  27. serverList.add (サーバー);
  28. }
  29. }
  30.  
  31. 文字列サーバー = null ;
  32.  
  33. 同期(正){
  34. if (pos > serverList.size ()) {
  35. 位置 = 0;
  36. }
  37.  
  38. サーバー = serverList.get(pos);
  39. 位置++;
  40. }
  41.  
  42. サーバーを返す
  43. }

実際、加重ラウンドロビン アルゴリズムには欠陥があります。特定の特別な重みでは、加重ラウンドロビン スケジューリングによって不均一なインスタンス シーケンスが生成されます。この不均一な負荷により、一部のインスタンスに瞬間的に高い負荷がかかり、システム ダウンタイムが発生するリスクがあります。このスケジューリングの欠点を解決するために、滑らかな重み付けラウンドロビン スケジューリングがあります。興味のある学生は、この滑らかな重み付けラウンドロビン スケジューリングを調べてみてください。

3. 重み付きランダムアルゴリズム

加重ランダム方式は、加重ポーリング方式に似ています。バックグラウンド サーバーのさまざまな構成と負荷条件に応じて、異なる重みが構成されます。違いは、順序ではなく重みに基づいてサーバーをランダムに選択することです。

  1. プライベート静的Map<String, Integer > serviceWeightMap = new HashMap<String, Integer >();
  2.  
  3. 静的{
  4. serviceWeightMap.put( "192.168.1.100" , 1);
  5. serviceWeightMap.put( "192.168.1.101" , 1);
  6. serviceWeightMap.put( "192.168.1.102" , 4);
  7. serviceWeightMap.put( "192.168.1.103" , 1);
  8. }
  9.  
  10. 公共 静的文字列testWeightRandom() {
  11. // サーバーのオンラインとオフラインによって発生する同時実行の問題を回避するためにマップを再作成します
  12. Map<String, Integer > serverMap = new HashMap<String, Integer >();
  13. serverMap.putAll(サービス重みマップ);
  14.  
  15. //IPアドレスリストを取得
  16. <文字列>を設定します。keySet = serverMap.keySet();
  17. リスト<文字列> serverList = 新しい ArrayList<文字列>();
  18. イテレータ<String> it = keySet.iterator();
  19.  
  20. (it.hasNext()) の間 {
  21. 文字列 server = it.next ();
  22. 整数の重み = serverMap.get(server);
  23. ( int i=0; i<weight; i++)の場合{
  24. serverList.add (サーバー);
  25. }
  26. }
  27.  
  28. ランダム random = new Random();
  29. int randomPos = random.nextInt(serverList.size ( ));
  30.  
  31. 文字列サーバー = serverList.get(randomPos);
  32.  
  33. サーバーを返す
  34. }

ここでの違いは、サーバーがランダムアルゴリズムを通じて取得されることです。

実際、次のような例を考えることができます。たとえば、次のシナリオでは、セット S があり、その中に 4 つの項目 A、B、C、D が含まれています。このとき、その中からランダムに 1 つのアイテムを選択したいのですが、抽選の確率が異なります。たとえば、A を引く確率は 50%、B と C を引く確率は 20%、D を引く確率は 10% であるとします。一般的に言えば、各項目に重みを付けることができ、抽出の確率はこの重みに比例します。

4. HTTP 国際化

HTTP メッセージは、画像、ムービー、またはあらゆる種類のメディアを伝送できるのと同様に、任意の言語のコンテンツを伝送できます。 HTTP にとって、エンティティ本体は単なるバイナリ情報のコンテナです。

国際的なコンテンツをサポートするには、サーバーは各ドキュメントのアルファベットと言語をクライアントに伝え、クライアントがドキュメント内の情報を正しく文字に展開してユーザーにコンテンツを提示できるようにする必要があります。

サーバーは、HTTP プロトコルの Content-Type ヘッダーと Content-Language ヘッダーの charset パラメータを通じて、ドキュメントのアルファベットと言語をクライアントに通知します。これらのヘッダーは、エンティティ本体の「情報ボックス」の内容、画面に表示するためにコンテンツを適切な文字に変換する方法、およびその中の単語が表す言語について説明します。

同時に、クライアントは、ユーザーが理解できる言語と、ブラウザにインストールされているアルファベットエンコードアルゴリズムをサーバーに伝える必要があります。クライアントは Accept-Charset ヘッダーと Accept-Language ヘッダーを送信して、サーバーが理解できる文字セット エンコーディング アルゴリズムと言語、およびそれらの優先順位をサーバーに伝えます。

<<:  2D ガール ジェネレーター、駆動可能なニューラル ネットワーク... 2019 年の優れた機械学習プロジェクト 17 選

>>:  AIとビッグデータでカスタマージャーニーを変革する方法

ブログ    
ブログ    

推薦する

合理性への回帰とアプリケーションとの統合 - AI時代のモバイル技術革新カンファレンス

人工知能の出現により、ますます多くの企業がそれを業務や生産に応用しています。新しいモバイル開発技術が...

...

...

アメリカはAIイノベーションをリードしているのか?フォーブス誌のグローバルAIスタートアップトップ50

NetEase Intelligence News: 人工知能はまもなく私たちの世界を変えるでしょ...

ドローンのバッテリー寿命の悩みをどう解決するか?答えは3つの主要な方向から得られる

近年、我が国のドローン産業は、継続的な技術革新、継続的な政策奨励、加速した資本注入、段階的な市場改善...

AIが本当に成功する方法

[[412385]]人工知能は現在、特に自動運転車でより広く深く活用されています。人工知能を使用して...

5Gの導入により、インテリジェント交通は4つの大きな質的変化をもたらします。

現在、あらゆるToB市場において、5G+AIが並行して未来を創造しています。 [[331677]] ...

やがて世界は人工知能に支配されるようになる。ホーキング博士の死後、人工知能の発展に冷水を浴びせるのは誰だろうか?

ホーキング博士は人類に対し、人工知能に対して慎重になるよう警告し続けている。人工知能が発達すると、制...

...

AIの5つの本当の危険性

偽造品、アルゴリズムの偏り、その他の問題が私たちの日常生活に及ぼす影響[[323166]]過去数年間...

Nvidiaの生成AIスーパーチップGH200はH100の2倍の計算能力を持つ。黄仁訓:それは狂ったように推論できる

アーキテクチャの革新を待つことができず、Nvidia は生成 AI 専用のチップを「先行して」リリー...

ビッグデータの時代に、「アルゴリズム崇拝」に陥らないためにはどうすればいいのでしょうか?

「データ」は今日、これほど広く注目されたことはありません。以前は、携帯電話番号などの情報を何気なく...

...

...

海外メディア:ウルトラマンのOpenAIへの復帰は主にチェスキー氏とナデラ氏の支援にかかっている

12月25日のニュース、シリコンバレーのテクノロジー企業の幹部たちは理解しにくい人々の集まりだ。彼ら...