通过ALB连接优雅中断实现业务平稳下线

场景一：移除后端服务器

移除后端服务器ECS01，开启连接优雅中断功能并设置超时时间后，ECS01的状态流程如下图所示：

场景二：健康检查异常

WebSocket会话中断效果

步骤一：开启连接优雅中断

本文前提条件中已创建过服务器组，本步骤仅以编辑服务器组并开启连接优雅中断为例进行配置说明。如果您未创建服务器组，您也可以在创建服务器组时开启连接优雅中断功能。

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在左侧导航栏，选择应用型负载均衡ALB > 服务器组。

4. 在服务器组页面，找到目标服务器组，单击服务器组ID。

5. 在详细信息的基本信息区域，单击编辑基本信息。

6. 在编辑基本信息对话框，单击高级配置，然后开启连接优雅中断。

7. 设置连接优雅中断超时时间为300秒，然后单击保存。

步骤二：结果验证

登录服务器端进行配置

1. 远程登录ECS01实例，具体操作，请参见连接方式概述。

2. 执行以下命令创建一个WebSocket文件夹并进入WebSocket目录。

   mkdir WebSocket
   cd WebSocket

3. 执行以下命令安装相关依赖包。

   pip install tornado
   pip install websocket-client

4. 执行以下命令，编辑server.py配置文件。

   vim server.py

   1. 按i键切换至编辑模式，配置以下参数以启动一个WebSocket服务。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import tornado.websocket
      import tornado.ioloop
      import tornado.web
      from datetime import datetime
      
      
      # WebSocket处理程序
      class WebSocketHandler(tornado.websocket.WebSocketHandler):
          def open(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("时间：", formatted_time, "WebSocket连接已打开")
      
          def on_message(self, message):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("时间：", formatted_time, "接收到消息：", message)
              self.write_message("服务器收到了你的消息：" + message)
      
          def on_close(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("时间：", formatted_time, "WebSocket连接已关闭")
      
      # 路由
      application = tornado.web.Application([
          (r"/websocket", WebSocketHandler),
      ])
      
      if __name__ == "__main__":
          print("WebSocket Server Start on 8080 ...")
          application.listen(8080)
          tornado.ioloop.IOLoop.current().start()
      

   2. 修改完成后，按下Esc键，输入:wq并回车以保存并关闭配置文件。

5. 进入server.py所在的目录，执行以下命令，启动WebSocket服务。

   python3 server.py

   当收到以下回复信息时，表示 WebSocket后端服务已开启。

   Websocket Server Start on 8080 ...

添加后端服务器ECS01到服务器组

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在左侧导航栏，选择应用型负载均衡ALB > 服务器组。

4. 在服务器组页面，找到目标服务器组，然后在操作列单击编辑后端服务器。

5. 在后端服务器页签，单击添加后端服务器，然后在添加后端服务器面板选择ECS01并单击下一步。

6. 在配置端口和权重配置向导中，勾选ECS01实例并设置端口为8080，然后单击确定。

登录客户端进行配置

1. 登录客户端，打开命令行窗口。执行以下命令创建一个WebSocket文件夹并进入WebSocket目录。

   mkdir WebSocket
   cd WebSocket

2. 执行以下命令安装相关依赖包。

   pip install websocket-client

3. 执行以下命令，编辑client.py文件。

   vim client.py

   1. 按i键切换至编辑模式，配置以下参数启动一个WebSocket Client访问服务。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      import websocket
      import time
      from datetime import datetime
      
      def on_message(ws, message):
          print("接收到服务器的消息：", message)
      
      if __name__ == "__main__":
          ws = websocket.WebSocket()
          ws.connect("ws://<ALB域名>:80/websocket") # ALB域名请根据实际情况配置
          print("WebSocket连接已打开")
          try:
              while True:
                  current_time = datetime.now()
                  formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
                  print("发送时间：", formatted_time)
                  ws.send("Hello, Server!")
                  result = ws.recv()
                  on_message(ws, result)
                  time.sleep(1)
          except Exception:
              print("WebSocket连接已关闭")
      

   2. 修改完成后，按下Esc键，输入:wq并回车以保存并关闭配置文件。

4. 进入client.py所在的目录，执行以下命令，访问ECS01服务器端。

   python3 client.py

   当收到以下回复信息时，表示访问成功。

   WebSocket连接已打开
   发送时间： 2024-04-28 17:00:53
   接收到服务器的消息： 服务器收到了你的消息：Hello, Server!
   发送时间： 2024-04-28 17:00:54
   接收到服务器的消息： 服务器收到了你的消息：Hello, Server!

   此时ECS01服务器端输出以下回复信息。

   WebSocket Server Start on 8080 ...
   时间： 2024-04-28 17:00:53 WebSocket连接已打开
   时间： 2024-04-28 17:00:53 接收到消息： Hello, Server!
   时间： 2024-04-28 17:00:54 接收到消息： Hello, Server!

移除后端服务器

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在左侧导航栏，选择应用型负载均衡ALB > 服务器组。

4. 找到目标服务器组，单击服务器组ID。

5. 单击后端服务器页签，找到目标后端服务器ECS01，然后在操作列单击移除。

6. 在移除服务器对话框中，单击确定。

等待连接优雅中断

本文设置的优雅中断超时时间为300秒，因此通过测试结果可以看到ALB会在移除ECS01后约300秒终止会话。

• 客户端输出以下回复信息。

  发送时间： 2024-04-28 17:06:23
  接收到服务器的消息： 服务器收到了你的消息：Hello, Server!
  发送时间： 2024-04-28 17:06:24
  WebSocket连接已关闭

• ECS01服务端实例输出以下回复信息。

  时间： 2024-04-28 17:06:22 接收到消息： Hello, Server!
  时间： 2024-04-28 17:06:23 接收到消息： Hello, Server!
  时间： 2024-04-28 17:06:23 WebSocket连接已关闭

HTTP会话中断效果

HTTP场景下优雅中断超时时间、连接请求超时时间以及后端服务器处理时长设置的不同，客户端收到的响应不同。

• 若优雅中断超时时间<后端服务器处理时长，则ECS01还未发送完响应之前就会被中断，此时客户端会收到500错误响应。

• 若后端服务器处理时长>连接请求超时时间，则ECS01会响应超时，此时客户端会收到504错误响应。

本文以优雅中断超时时间为15秒，后端服务器处理时长为30秒进行配置说明。在此场景下，ECS01在未发送完响应之前会被中断，客户端会收到500错误响应。

步骤一：开启连接优雅中断

本文前提条件中已创建过服务器组，本步骤仅以编辑服务器组并开启连接优雅中断为例进行配置说明。如果您未创建服务器组，您也可以在创建服务器组时开启连接优雅中断功能。

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在左侧导航栏，选择应用型负载均衡ALB > 服务器组。

4. 在服务器组页面，找到目标服务器组，单击服务器组ID。

5. 在详细信息的基本信息区域，单击编辑基本信息。

6. 在编辑基本信息对话框，单击高级配置，然后开启连接优雅中断。

7. 设置连接优雅中断超时时间为15秒，然后单击保存。

步骤二：设置ALB连接请求超时时间

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择ALB实例所属的地域。

3. 在ALB实例页面，找到目标ALB实例，单击实例ID。

4. 单击监听页签，找到目标HTTP监听，然后单击监听实例ID。

5. 在监听基本信息区域，单击编辑监听。

6. 在编辑监听对话框，单击高级配置后的修改。

7. 修改连接请求超时时间为60秒（默认值），然后单击保存。

步骤三：结果验证

登录服务器端进行配置

1. 远程登录ECS01实例，具体操作，请参见连接方式概述。

2. 执行以下命令创建一个HTTP文件夹并进入HTTP目录。

   mkdir http
   cd http

3. 执行以下命令编辑http_server.py配置文件。

   vim http_server.py

   1. 按i键切换至编辑模式，配置以下参数启动一个http server服务。

      #!/usr/bin/env python3
      # encoding=utf-8
      
      from http.server import SimpleHTTPRequestHandler, HTTPServer
      from datetime import datetime
      import time
      
      class DelayedHTTPRequestHandler(SimpleHTTPRequestHandler):
          def do_GET(self):
              current_time = datetime.now()
              formatted_time = current_time.strftime("%Y-%m-%d %H:%M:%S")
              print("时间：", formatted_time, "收到GET请求，延迟30秒响应....")
              time.sleep(30) # 设置time.sleep函数，模拟后端服务器处理时长
              SimpleHTTPRequestHandler.do_GET(self)
      
      PORT = 8080
      server = HTTPServer(("", PORT), DelayedHTTPRequestHandler)
      print(f"Serving HTTP on 0.0.0.0 port {PORT} (http://0.0.0.0:{PORT}/) ...")
      server.serve_forever()
      

   2. 修改完成后，按下Esc键，输入:wq并回车以保存并关闭配置文件。

4. 进入http_server.py所在的目录，执行以下命令，启动http server服务。

   python3 http_server.py

   当收到以下回复信息时，表示http server后端服务已开启。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...

添加后端服务器ECS01到服务器组

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在服务器组页面，找到目标服务器组，然后在操作列单击编辑后端服务器。

4. 在后端服务器页签，单击添加后端服务器，然后在添加后端服务器面板选择ECS01并单击下一步。

5. 在配置端口和权重配置向导中，勾选ECS01实例并设置端口为8080，然后单击确定。

登录客户端进行配置

1. 登录客户端，打开命令行窗口。执行以下命令访问后端服务器ECS01。

   curl http://<ALB域名>:80/ -v

   当收到以下回复信息时，表示ALB可以访问后端服务。

   * About to connect() to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com port 80 (#0)
   *   Trying 10.X.X.225...
   * Connected to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com (10.X.X.225) port 80 (#0)
   > GET / HTTP/1.1
   > User-Agent: curl/7.29.0
   > Host: alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com
   > Accept: */*

   此时服务端收到如下回复信息。

   Serving HTTP on 0.0.0.0 port 8080 (http://0.0.0.0:8080/) ...
   时间：2024-02-07 13:57:33 收到Get请求，延迟30秒响应....

移除后端服务器

1. 登录应用型负载均衡ALB控制台。

2. 在顶部菜单栏，选择后端服务器组所属的地域。

3. 在左侧导航栏，选择应用型负载均衡ALB > 服务器组。

4. 找到目标服务器组，单击服务器组ID。

5. 单击后端服务器页签，找到目标后端服务器ECS01，然后在操作列单击移除。

6. 在移除服务器对话框中，单击确定。

等待连接优雅中断

通过测试结果可以看出，当ALB设置的优雅中断超时时间<后端服务器处理时长时，客户端会收到500错误响应。

* About to connect() to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com port 80 (#0)
*   Trying 10.X.X.224...
* Connected to alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com (10.1.0.224) port 80 (#0)
> GET / HTTP/1.1
> User-Agent: curl/7.29.0
> Host: alb-nssnq5a********.cn-guangzhou.alb.aliyuncs.com
> Accept: */*
> 
< HTTP/1.1 500 Internal Server Error
< Date: Wed, 07 Feb 2024 06:02:24 GMT
< Content-Type: text/html
< Content-Length: 186
< Connection: close
< Via: HTTP/1.1 SLB.87
< 
<html>
<head><title>500 Internal Server Error</title></head>
<body bgcolor="white">
<center><h1>500 Internal Server Error</h1></center>
<hr><center>nginx</center>
</body>
</html>
* Closing connection 0