Server Load Balancer:接続ドレインを使用してサービスのグレースフルアンデプロイメントを実装する

シナリオ1: バックエンドサーバーの削除

ECS01を削除し、接続ドレインを有効にし、接続ドレインタイムアウト期間を指定します。 ECS01のステータス変更を次の図に示します。

シナリオ2: 異常なバックエンドサーバー

WebSocketセッションの接続ドレイン

ステップ1: 接続のドレインを有効にする

この例では、サーバグループが既に用意されている。 接続のドレインは、サーバーグループを変更することで構成されます。 サーバーグループがない場合は、サーバーグループを作成するときに接続のドレインを有効にできます。

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. [サーバーグループ] ページで、管理するサーバーグループのIDをクリックします。

5. [詳細] タブで、[基本情報] セクションの [基本情報の変更] をクリックします。

6. [基本情報の変更] ダイアログボックスで、[詳細設定] をクリックし、[接続ドレイン] をオンにします。

7. 接続ドレインタイムアウトを300秒に設定し、[保存] をクリックします。

ステップ2: Verify the result

バックエンドサーバーでの接続ドレインの設定

1. リモートでECS01にログオンします。 詳細については、「接続方法の概要」をご参照ください。

2. 次のコマンドを実行してWebSocketファイルを作成し、WebSocketディレクトリを開きます。

   mkdir WebSocket
   cd WebSocket

3. 次のコマンドを実行して、依存関係パッケージをインストールします。

   pip install tornado
   pip install websocket-client

4. 次のコマンドを実行して、server.py設定ファイルを変更します。

   vim server.py

   1. Iキーを押してエディターを開き、次のパラメーターを設定してWebSocketサービスを有効にします。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import tornado.websocket
      import tornado.ioloop
      import tornado.web
      from datetime import datetime
      
      
      # The WebSocket handler
      class WebSocketHandler(tornado.websocket.WebSocketHandler):
          def open(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "The WebSocket connection is established")
      
          def on_message(self, message):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "Received a message:", message)
              self.write_message("The server received your message:" + message)
      
          def on_close(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "The WebSocket connection is closed")
      
      # Routes
      application = tornado.web.Application([
          (r"/websocket", WebSocketHandler),
      ])
      
      if __name__ == "__main__":
          print("WebSocket Server Start on 8080 ...")
          application.listen(8080)
          tornado.ioloop.IOLoop.current().start()
      

   2. 変更が完了したら、Escキーを押して :wqと入力し、enterキーを押して設定ファイルを保存して閉じます。

5. server.pyファイルのディレクトリで、次のコマンドを実行してWebSocketサービスを有効にします。

   python3 server.py

   次の応答メッセージは、WebSocketサービスが有効になっていることを示します。

   Websocket Server Start on 8080 ...

サーバーグループへのECS01の追加

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. [サーバーグループ] ページで、管理するサーバーグループを見つけ、[操作] 列の [バックエンドサーバーの変更] をクリックします。

5. [バックエンドサーバー] タブで、[バックエンドサーバーの追加] をクリックし、[サーバーの選択] で [ECS01] を選択し、[次へ] をクリックします。

6. [ポート /重み] ステップで、[ECS01] を選択し、ポートを [8080] に設定して、[OK] をクリックします。

クライアントでの接続ドレインの設定

1. クライアントにログインし、コマンドラインインターフェイス (CLI) を開きます。 次のコマンドを実行してWebSocketファイルを作成し、WebSocketディレクトリを開きます。

   mkdir WebSocket
   cd WebSocket

2. 次のコマンドを実行して、依存関係パッケージをインストールします。

   mkdir WebSocket
   cd WebSocket

3. 次のコマンドを実行して、client.pyファイルを変更します。

   vim client.py

   1. Iキーを押してエディターを開き、次のパラメーターを設定してWebSocketクライアントのアクセスサービスを有効にします。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import websocket
      import time
      from datetime import datetime
      
      def on_message(ws, message):
          print("Received a server message:", message)
      
      if __name__ == "__main__":
          ws = websocket.WebSocket()
          ws.connect("ws://<ALB domain name>:80/websocket") # Enter the domain name of your ALB instance
          print("The WebSocket connection is established")
          try:
              while True:
                  current_time = datetime.now()
                  formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
                  print("Packet time:", formatted_time)
                  ws.send("Hello, Server!")
                  result = ws.recv()
                  on_message(ws, result)
                  time.sleep(1)
          except Exception:
              print("The WebSocket connection is closed")
      

   2. 変更が完了したら、Escキーを押して :wqと入力し、enterキーを押して設定ファイルを保存して閉じます。

4. client.pyファイルのディレクトリで、次のコマンドを実行してECS01にアクセスします。

   python3 client.py

   次の応答メッセージは、クライアントがECS01にアクセスできることを示します。

   The WebSocket connection is established
   Packet time: 2024-04-28 17:00:53
   Received server message: The server received your message: Hello, Server!
   Packet time: 2024-04-28 17:00:54
   Received server message: The server received your message: Hello, Server!

   ECS01は次の応答メッセージを返します。

   WebSocket Server Start on 8080 ...
   Time: 2024-04-28 17:00:53 The WebSocket connection is established
   Time: 2024-04-28 17:00:53 Received message: Hello, Server!
   Time: 2024-04-28 17:00:54 Received message: Hello, Server!

バックエンドサーバーの削除

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. バックエンドサーバーを削除するサーバーグループのIDをクリックします。

5. [バックエンドサーバー] タブでECS01を見つけ、[操作] 列の [削除] をクリックします。

6. [バックエンドサーバーの削除] メッセージで、[OK] をクリックします。

接続のドレインタイムアウト期間が終了するまで待ちます

この例では、接続ドレインタイムアウト期間を300秒に設定しています。 その結果、ECS01の接続は、ECS01を削除してから300秒後に閉じられます。

• クライアントは次の応答メッセージを返します。

  Packet time: 2024-04-28 17:06:23
  Received server message: The server received your message: Hello, Server!
  Packet time: 2024-04-28 17:06:24
  The WebSocket connection is closed

• ECS01は次の応答メッセージを返します。

  Time: 2024-04-28 17:06:22 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 Received message: Hello, Server!
  Time: 2024-04-28 17:06:23 The WebSocket connection is closed

HTTPセッションの接続ドレイン

HTTPSシナリオでは、クライアントが受け取る応答は、接続の排出タイムアウト期間、接続要求のタイムアウト期間、およびバックエンドサーバーの処理時間によって異なります。

• 接続の排出タイムアウト期間がバックエンドサーバーの処理時間より短い場合、ECS01からの応答は中断されます。 その結果、クライアントはHTTP 500ステータスコードを受信します。

• バックエンドサーバーの処理時間が接続要求のタイムアウト期間より長い場合、ECS01からの応答はタイムアウトします。 その結果、クライアントはHTTP 504ステータスコードを受信します。

この例では、接続の排出タイムアウト期間は15秒に設定され、バックエンドサーバーの処理時間は30秒に設定されています。 この例では、ECS01からの応答が中断され、クライアントがHTTP 500ステータスコードを受信します。

ステップ1: 接続ドレインの有効化

この例では、サーバグループが既に用意されている。 接続のドレインは、サーバーグループを変更することで構成されます。 サーバーグループがない場合は、サーバーグループを作成するときに接続のドレインを有効にできます。

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. [サーバーグループ] ページで、管理するサーバーグループのIDをクリックします。

5. [詳細] タブで、[基本情報] セクションの [基本情報の変更] をクリックします。

6. [基本情報の変更] ダイアログボックスで、[詳細設定] をクリックし、[接続ドレイン] をオンにします。

7. タイムアウト期間を15秒に設定し、[保存] をクリックします。

手順2: 接続要求のタイムアウト時間の指定

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、ALBインスタンスがデプロイされているリージョンを選択します。

3. [インスタンス] ページで、管理するALBインスタンスのIDをクリックします。

4. [リスナー] タブで、管理するHTTPリスナーのIDをクリックします。

5. [基本情報] セクションで、[リスナーの変更] をクリックします。

6. [リスナーの変更] ダイアログボックスで、[詳細設定] の右側にある [変更] をクリックします。

7. [Connection Request Timeout] をデフォルトのタイムアウト時間である60秒に設定し、[Save] をクリックします。

ステップ3: Verify the result

バックエンドサーバーでの接続ドレインの設定

1. リモートでECS01にログオンします。 詳細については、「接続方法の概要」をご参照ください。

2. 次のコマンドを実行してHTTPフォルダを作成し、HTTPディレクトリを開きます。

   mkdir http
   cd http

3. 次のコマンドを実行して、http_server.py設定ファイルを変更します。

   vim http_server.py

   1. Iキーを押してエディターを開き、次のパラメーターを設定してHTTP Serverサービスを有効にします。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      from http.server import SimpleHTTPRequestHandler, HTTPServer
      from datetime import datetime
      import time
      
      class DelayedHTTPRequestHandler(SimpleHTTPRequestHandler):
          def do_GET(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("Time:", formatted_time, "Received the GET request and will respond in 30 seconds....")
              time.sleep(30) # Configure the time.sleep function to simulate the backend server processing time
              SimpleHTTPRequestHandler.do_GET(self)
      
      PORT = 8080
      server = HTTPServer(("", PORT), DelayedHTTPRequestHandler)
      print(f"Serving HTTP on 0.0.0.0 port {PORT} (http://0.0.0.0:{PORT}/) ...")
      server.serve_forever()
      

   2. 変更が完了したら、Escキーを押して :wqと入力し、enterキーを押して設定ファイルを保存して閉じます。

4. http_server.pyのディレクトリに入り、次のコマンドを実行してHTTP Serverサービスを開始します。

   python3 http_server.py

   次の応答メッセージは、HTTP Serverサービスが実行中であることを示します。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...

ECS01をサーバーグループに追加する

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. [サーバーグループ] ページで、管理するサーバーグループを見つけ、[操作] 列の [バックエンドサーバーの変更] をクリックします。

4. [バックエンドサーバー] タブで、[バックエンドサーバーの追加] をクリックし、[サーバーの選択] で [ECS01] を選択し、[次へ] をクリックします。

5. [ポート /重み] ステップで、[ECS01] を選択し、ポートを [8080] に設定して、[OK] をクリックします。

クライアントでの接続ドレインの設定

1. クライアントにログインし、コマンドラインインターフェイス (CLI) を開きます。 次のコマンドを実行してECS01にアクセスします。

   curl http://<ALB domain name>:80/ -v

   次の応答メッセージは、ALBインスタンスがバックエンドサービスにアクセスできることを示しています。

   * About to connect() to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com port 80 (#0)
   *   Trying 10.X.X.225...
   * Connected to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com (10.X.X.225) port 80 (#0)
   > GET / HTTP/1.1
   > User-Agent: curl/7.29.0
   > Host: alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com
   > Accept: */*

   サーバーは次の応答メッセージを受信します。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...
   Time: 2024-02-07 13:57:33 Received the Get request and will respond in 30 seconds....

バックエンドサーバーの削除

1. ALBコンソールにログインします。

2. 上部のナビゲーションバーで、サーバーグループがデプロイされているリージョンを選択します。

3. 左側のナビゲーションウィンドウで、ALB > サーバーグループを選択します。

4. バックエンドサーバーを削除するサーバーグループのIDをクリックします。

5. [バックエンドサーバー] タブでECS01を見つけ、[操作] 列の [削除] をクリックします。

6. [バックエンドサーバーの削除] メッセージで、[OK] をクリックします。

接続のドレインタイムアウト期間が終了するまで待ちます

結果は、接続の排出タイムアウト期間がバックエンドサーバーの処理時間より短い場合、クライアントはHTTP 500ステータスコードを受信することを示しています。

* About to connect() to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com port 80 (#0)
*   Trying 10.X.X.224...
* Connected to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com (10.1.0.224) port 80 (#0)
> GET / HTTP/1.1
> User-Agent: curl/7.29.0
> Host: alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com
> Accept: */*
> 
< HTTP/1.1 500 Internal Server Error
< Date: Wed, 07 Feb 2024 06:02:24 GMT
< Content-Type: text/html
< Content-Length: 186
< Connection: close
< Via: HTTP/1.1 SLB.87
< 
<html>
<head><title>500 Internal Server Error</title></head>
<body bgcolor="white">
<center><h1>500 Internal Server Error</h1></center>
<hr><center>nginx</center>
</body>
</html>
* Closing connection 0