使用GA实现模型代理与调度

配置 AI 服务终端节点组

登录全球加速管理控制台，单击创建标准型按量付费实例。

1. 实例基础配置：按需选择加速IP类型。

2. 配置加速区域：配置加速区域并分配带宽。

3. 配置监听：配置智能路由（原标准监听），协议推荐选择HTTPS，端口为 443，配置SSL证书选择已上传的、与自定义域名匹配的服务器证书。

4. 配置终端节点组：

   GA 实例创建完成后，可前往监听详情页，选择终端节点组页签，单击添加终端节点组，按照以下步骤配置不同地域的 AI 服务终端节点组。每个终端节点组仅支持添加1个AI服务类型的后端服务类型，添加后不能添加其他后端服务。

   • 地域：选择就近的 AI 供应商服务可用地域。

     如果业务涉及中国内地与中国香港、中国澳门、中国台湾或其他国家和地区之间的访问加速，请按界面提示阅读并签署数据跨境合规承诺。

   • 后端服务类型：选择AI服务。

   • 大模型供应商：目前支持阿里云百炼和OpenAI兼容（OpenAI Compatible）。

   • 服务地址：选择供应商后自动填充。阿里云百炼默认为https://dashscope.aliyuncs.com/compatible-mode/v1，OpenAI兼容默认为https://api.openai.com/v1。如使用自建OpenAI兼容服务，请按需修改。

   • API Key：配置供应商 API Key，支持填写多个 Key（按换行分隔），GA将在多个 Key 之间轮转以提升可用性。

     该 API Key 用于与 AI 供应商之间的身份验证，请妥善保管，避免泄露。

   • 权重（0-255）：每个终端节点组仅支持添加1个AI服务类型的后端服务类型，添加后不能添加其他后端服务。权重固定为255，不可修改。

5. 配置审核：提交配置。

配置转发策略

1. 创建 GA 实例后，单击实例 ID，选择监听页签，单击监听ID，单击转发策略页签，单击插入新策略。

2. 配置转发策略，将不同模型的请求路由到对应的终端节点组：

   • 策略名称：自定义策略名称。

   • 转发条件：选择AI模型，配置如下：

     • 协议：固定为OpenAI兼容。

     • 模型名称（可选）：使用Glob语法匹配模型名称。例如qwen-*表示所有Qwen系列模型，*表示匹配所有模型。可添加多个模型名称，多值之间为"或"关系。

   • 转发动作：选择转发至，并选择对应的 AI 服务终端节点组。

3. 单击确定完成转发策略创建。

4. 如需按模型分流到多个供应商，可重复以上步骤，为不同Glob模型名称分别创建转发策略。例如，客户端调用model=qwen-plus与model=gpt-4o命中不同转发规则，路由到对应供应商。

未填写模型名称时，本条件匹配所有 OpenAI 兼容协议请求；填写后仅匹配指定模型。可以通过鼠标拖拽来调整规则优先级。

配置DNS解析并验证

1. 在实例详情页复制GA加速域名（CNAME），在自定义域名的DNS服务商处添加一条CNAME记录，将自定义域名指向GA加速域名。

   DNS解析生效时间通常为分钟级，具体以您DNS服务商的TTL设置为准。

2. 客户端使用自定义域名调用 AI 服务 API，验证接入是否生效。

   以模型名称为qwen-*为例。

   curl -X POST https://your-domain.com/v1/chat/completions \
     -H "Content-Type: application/json" \
     -d '{
       "model": "qwen-plus",
       "messages": [{"role": "user", "content": "你好"}]
     }'

   请求成功时，响应中的model字段为qwen-plus，表明请求已正确路由至阿里云百炼。

配置多地域终端节点组

创建 GA 实例后，可单击实例 ID，选择监听页签，单击监听ID，选择终端节点组页签，单击添加终端节点组，配置不同地域的 AI 服务终端节点组。

配置转发策略

配置完成后可验证：当默认转发的终端节点组调用失败时，请求自动依次回退到后续其他地域的终端节点组，由对应供应商或地域响应。

1. 在监听详情页，单击转发策略页签，单击插入新策略或编辑已有策略。

2. 配置转发策略：

   • 转发条件：选择AI模型，配置如下：

     • 协议：固定为OpenAI兼容。

     • 模型名称（可选）：使用Glob语法匹配模型名称。例如qwen-*表示所有Qwen系列模型，*表示匹配所有模型。可添加多个模型名称，多值之间为"或"关系。

   • 转发动作：按顺序配置以下两条动作：

     1. 转发至：选择某一地域的终端节点组。

     2. 添加动作，选择容错回退，并选择其他地域的终端节点组。

     容错回退动作，必须放置在转发至动作之后执行。一个转发规则中必须有且只能有一条转发至、重定向至或返回固定响应类型的转发动作。

3. 单击确定完成转发策略创建。如需按模型分流到多个供应商，可重复以上步骤，为不同Glob模型名称分别创建转发策略。

未填写模型名称时，本条件匹配所有 OpenAI 兼容协议请求；填写后仅匹配指定模型。可以通过鼠标拖拽来调整规则优先级。