MCP灰度发布

MCP服务支持配置多版本后端服务,并通过配置服务权重实现灰度发布。本文介绍如何配置后端服务的灰度发布。

前提条件

本方案为验证AI网关MCP服务后端服务灰度发布能力,在执行验证前需创建两个服务,并确保服务返回结果有明显差异,便于验证灰度发布结果。

操作步骤

本操作步骤执行完,用户将获得一个配置了两个服务版本,且两个版本的路由比重为1:1MCP服务。多服务及权重设置可按场景需要自定义。

  1. AI 网关控制台的实例页面,在顶部菜单栏选择目标实例所在地域。

  2. 实例页面,单击目标网关实例ID。

  3. 在左侧导航栏选择MCP 管理,单击创建MCP服务

  4. 协议选择HTTPMCP,使用场景选择按比例(多服务)。

  5. 在后端服务中,服务名称选择已创建的服务来源,服务权重设置为50。

  6. 单击添加,完成另一个服务的配置,服务权重同样设置为50。

  7. 完成描述域名配置,单击保存并发布

验证结果

根据后端服务与权重配置情况,可进行以下验证。

  • 后端服务配置为单服务,多次请求结果均路由至单一版本。

  • 后端配置为多服务,服务权重设置中存在一项为0,多次请求结果设置为0的服务不会被访问,其余服务路由次数比等于服务权重比值。

  • 后端服务配置为多服务,但仅配置一个后端服务,可正确完成配置并且多次请求结果均路由至单一版本。

  • 同一个后端服务被两个MCP服务使用,并且其中一个单服务,另一个是多服务,此时两个MCP服务均可正常访问。