MCP服务支持配置多版本后端服务,并通过配置服务权重实现灰度发布。本文介绍如何配置后端服务的灰度发布。
前提条件
本方案为验证AI网关MCP服务后端服务灰度发布能力,在执行验证前需创建两个服务,并确保服务返回结果有明显差异,便于验证灰度发布结果。
操作步骤
本操作步骤执行完,用户将获得一个配置了两个服务版本,且两个版本的路由比重为1:1的MCP服务。多服务及权重设置可按场景需要自定义。
在AI 网关控制台的实例页面,在顶部菜单栏选择目标实例所在地域。
在实例页面,单击目标网关实例ID。
在左侧导航栏选择MCP 管理,单击创建MCP服务。
协议选择HTTP转MCP,使用场景选择按比例(多服务)。
在后端服务中,服务名称选择已创建的服务来源,服务权重设置为50。
单击添加,完成另一个服务的配置,服务权重同样设置为50。
完成描述与域名配置,单击保存并发布。
验证结果
根据后端服务与权重配置情况,可进行以下验证。
后端服务配置为单服务,多次请求结果均路由至单一版本。
后端配置为多服务,服务权重设置中存在一项为0,多次请求结果设置为0的服务不会被访问,其余服务路由次数比等于服务权重比值。
后端服务配置为多服务,但仅配置一个后端服务,可正确完成配置并且多次请求结果均路由至单一版本。
同一个后端服务被两个MCP服务使用,并且其中一个单服务,另一个是多服务,此时两个MCP服务均可正常访问。
该文章对您有帮助吗?