您需要将已有的服务添加到网关中,登记为路由备选服务,以便网关获取服务地址。AI 网关支持以容器服务、固定地址、DNS域名和FC函数计算等几种形式添加服务。
操作步骤
网关通过服务动态感知后端资源变化,实现流量路由、治理和安全防护的统一管理。AI网关支持创建AI 服务、Agent服务、DNS 域名、固定地址、容器服务、SAE Kubernetes服务、函数计算FC 和 MSE Nacos。
AI 服务
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:选择AI服务。
服务名称:自定义服务名称。
大模型供应商:支持阿里云百炼、PAI-EAS、Deepseek、OpenAI兼容(OpenAI Compatible)、OpenAI、Azure、Gemini、Bedrock、Claude、月之暗面、百川智能、零一万物、智谱AI、混元、阶跃星辰、星火、豆包、MiniMax。
重要本AI服务所提供的大模型能力并非由AI网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。
模型协议:选择与服务通信的协议,支持 OpenAI/v1 和原生协议两种。选择供应商后系统会填充默认值,可根据需要修改。
OpenAI/v1:使用 OpenAI 兼容协议,适用于大多数供应商。
原生协议:使用供应商原生 API 协议。选择原生协议时,服务地址将切换为对应的原生协议地址(如阿里云百炼为
https://dashscope.aliyuncs.com)。
说明Bedrock 端点模式为 Mantle 时,仅支持 Anthropic 兼容协议(/v1/messages),不支持 OpenAI/v1 协议,且无法启用 Prompt Caching 功能。
服务地址(base_url):大模型服务的 BaseURL。选择供应商后,系统会自动填充对应的服务地址,也可根据实际需求手动修改。
Azure 服务提供商服务地址格式:
https://{endpoint}/openai/deployments/{deployment-id}/chat/completions?api-version={api-version}OpenAI 兼容(OpenAI Compatible)服务地址格式:
http://{endpoint}/v1各供应商配置示例如下:
供应商
服务地址(base_url)
可用模型
特殊配置说明
阿里云百炼
https://dashscope.aliyuncs.com/compatible-mode/v1qwen-max、qwen-plus、qwen-turbo、qwen-long、qwen-vl-max、qwen-vl-plus、qwen-vl-ocr、deepseek-r1、deepseek-v3
需选择百炼地域,支持多地域切换
Bedrock
https://bedrock-runtime.{awsRegion}.amazonaws.com无预设(用户自行输入模型名)
需配置 awsRegion、端点模式(Runtime 或 Mantle)和认证方式(API Key 或 AK/SK);Mantle 模式仅支持 Anthropic 兼容协议
Vertex AI
用户手动输入
无预设
需配置鉴权方式(GCP Service Account 或 Vertex AI Express Mode);GCP 模式需填写 JSON 格式的 GCP Service Account KEY,自动解析 vertexProjectId
Azure
https://{endpoint}?api-version={api-version}gpt-3、gpt-35-turbo、gpt-4、gpt-4o、gpt-4o-mini
endpoint 为 Azure OpenAI 资源的接入点地址
OpenAI
https://api.openai.com/v1gpt-3、gpt-35-turbo、gpt-4、gpt-4o、gpt-4o-mini
—
OpenAI兼容(OpenAI Compatible)
http://{endpoint}/v1无预设(用户自行输入模型名)
仅支持满足 OpenAI 接口标准的 AI 服务
DeepSeek
https://api.deepseek.com/v1deepseek-chat、deepseek-reasoner
—
豆包
https://ark.cn-beijing.volces.com/api/v3doubao-seed-1-6-250615、doubao-seed-1-6-flash-250715、doubao-seed-1-6-thinking-250715、doubao-1-5-thinking-vision-pro-250428
—
Gemini
https://generativelanguage.googleapis.com/v1beta/openaigemini-1.5-flash、gemini-1.5-pro
—
MiniMax
https://api.minimaxi.com/v1abab6.5s、abab6.5g、abab6.5t、abab5.5s
—
月之暗面
https://api.moonshot.cn/v1moonshot-v1-8k、moonshot-v1-32k、moonshot-v1-128k
—
智谱AI
https://open.bigmodel.cn/api/paas/v4GLM-4-Plus、GLM-4-0520、GLM-4-Long、GLM-4-AirX、GLM-4-Air、GLM-4-FlashX、GLM-4-Flash、GLM-4-AllTools、GLM-4
—
PAI-EAS
通过工作空间和EAS服务选择自动获取
无预设(动态获取)
需依次选择工作空间、EAS服务和连接类型(私网或公网);API-KEY 自动获取,无需手动配置
Claude
https://api.anthropic.comclaude-3-5-sonnet-latest、claude-3-5-haiku-latest、claude-3-opus-latest
可选开启ClaudeCode 模式以兼容 Claude Code 客户端调用
百川智能
https://api.baichuan-ai.com/v1Baichuan4-Turbo、Baichuan4-Air、Baichuan4、Baichuan3-Turbo、Baichuan3-Turbo-128k、Baichuan2-Turbo
—
零一万物
https://api.lingyiwanwu.com/v1yi-lightning、yi-large、yi-medium、yi-medium-200k、yi-spark、yi-large-rag、yi-large-fc、yi-large-turbo
—
混元
https://hunyuan.tencentcloudapi.comhunyuan-turbo-latest、hunyuan-turbo、hunyuan-large、hunyuan-pro、hunyuan-standard-256K、hunyuan-standard、hunyuan-lite
—
阶跃星辰
https://api.stepfun.comstep-1-8k、step-1-32k、step-1-128k、step-1-256k、step-2-16k、step-1-flash
—
星火
https://spark-api-open.xf-yun.comlite、generalv3、pro-128k、generalv3.5、max-32k、4.0Ultra
—
API-KEY:访问大模型需要的 API-KEY 凭证。选择大模型供应商后,按以下方式获取:
配置完成后单击确定,完成创建。
Agent服务
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:选择Agent 服务。
服务名称:自定义服务名称。
服务供应商:支持选择阿里云百炼、Dify、自定义。
重要请注意,本Agent服务所提供的智能体相关能力并非由云原生API网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。
阿里云百炼
API地址:输入Agent服务的接入点地址。默认为:
https://dashscope.aliyuncs.com/api/v1。APP ID 、API KEY:您可在阿里云百炼控制台获取应用的ID和 API Key。

Dify
API地址:输入Agent服务的接入点地址。默认为:
https://api.dify.ai/v1。应用类型:支持选择Agent或Workflow。
Agent:智能体类型。
Workflow:工作流类型。
API KEY:请咨询服务供应商获取。
自定义
API地址:输入Agent服务的接入点地址。
API KEY:请咨询服务供应商获取。
配置完成后单击确定,完成创建。
DNS 域名
AI 网关支持根据DNS解析的结果作为后端服务地址。
固定地址
如果该服务没有服务发现机制,需要手动添加服务的后端节点地址。
容器服务
如果在网关中添加了容器服务作为服务来源,网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务。
创建来源
单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:
来源类型:选择容器服务,通过K8s Server发现后端服务。
ACK/ACS/ACK Serverless 集群:选择后端服务所在的集群。
重要如当前VPC下不存在 ACK/ACS/ACK Serverless 集群,则需要创建ACK托管集群,再选择该集群。
如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例后,再选择该集群。
单个网关实例最多只能关联3个ACK容器服务。
云原生API网关只能添加同VPC内的Nacos或者ACK,不支持跨VPC添加服务来源。
配置完成后单击确定,完成创建。
创建服务
单击服务页签,然后单击创建来源,在创建来源面板中,配置以下参数:
服务来源:选择容器服务。
网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
命名空间:选择集群的命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以consumers开头的服务。
配置完成后单击确定,完成创建。
SAE Kubernetes服务
添加SAE Kubernetes作为服务来源时,SAE应用需要开启K8s Service服务注册发现。
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:SAE Kubernetes服务。SAE应用需要开启基于K8s ServiceName配置应用服务访问。
命名空间:选择集群的命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以
consumers:开头的服务。
配置完成后单击确定,完成创建。
函数计算FC
支持函数计算3.0,暂不支持函数计算2.0的服务来源。
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:函数计算 FC。
函数列表:在函数列表中选择函数。
版本或别名:选择函数的版本或别名。
配置完成后单击确定,完成创建。
MSE Nacos
登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务。
创建来源
单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:
来源类型:选择MSE Nacos,通过 MSE Nacos 注册中心发现后端服务。
Nacos 集群:选择Nacos 集群。
重要如果当前VPC下不存在MSE Nacos集群,则需要先创建MSE Nacos集群,再选择该Nacos集群。
如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例,再选择该Nacos集群。
集群列表仅展示
MCPEnabled = true的MSE Nacos实例,可在MSE Nacos参数设置中更改。单个网关实例最多只能关联1个Nacos实例。
配置完成后单击确定,完成创建。
创建服务
单击服务页签,然后单击创建服务,在创建服务面板中,配置以下参数:
服务来源:选择MSE Nacos。
网关会从Nacos 集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
命名空间:选择命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以
consumers:开头的服务。
配置完成后单击确定,完成创建。