您需要将已有的服务添加到网关中,登记为路由备选服务,以便网关获取服务地址。AI 网关支持以容器服务、固定地址、DNS域名和FC函数计算等几种形式添加服务。
操作步骤
AI 网关不会修改您的请求,当请求被转发到后端域名服务时,Host不会被重写为您配置的域名。
网关通过服务动态感知后端资源变化,实现流量路由、治理和安全防护的统一管理。AI网关支持创建AI 服务、Agent服务、DNS 域名、固定地址、容器服务、SAE Kubernetes服务、函数计算FC 和 MSE Nacos。
AI 服务
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:选择AI 服务。
服务名称:自定义服务名称。
大模型供应商:支持阿里云百炼、PAI-EAS、Deepseek、OpenAI兼容(OpenAI Compatible)、OpenAI、Azure、Gemini、Bedrock、Claude、月之暗面、百川智能、零一万物、智谱AI、混元、阶跃星辰、星火、豆包、MiniMax。
重要本AI服务所提供的大模型能力并非由AI网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。
服务地址(base_url):大模型服务的BaseURL。格式为:
https://{domain}/v1
。Azure服务提供商服务地址:
https://{endpoint}/openai/deployments/{deployment-id}/chat/completions?api-version={api-version}
。API-KEY:访问大模型需要的API-KEY凭证。如果使用阿里云百炼,请在阿里云百炼API-KEY获取。其他大模型供应商,请咨询对应的服务提供商。
配置完成后单击确定,完成创建。
Agent服务
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:选择Agent 服务。
服务名称:自定义服务名称。
服务供应商:支持选择阿里云百炼、Dify、自定义。
重要请注意,本Agent服务所提供的智能体相关能力并非由云原生API网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。
阿里云百炼
API地址:输入Agent服务的接入点地址。默认为:
https://dashscope.aliyuncs.com/api/v1
。APP ID 、API KEY:您可在阿里云百炼控制台获取应用的ID和 API Key。
Dify
API地址:输入Agent服务的接入点地址。默认为:
https://api.dify.ai/v1
。应用类型:支持选择Agent或Workflow。
Agent:智能体类型。
Workflow:工作流类型。
API KEY:请咨询服务供应商获取。
自定义
API地址:输入Agent服务的接入点地址。
API KEY:请咨询服务供应商获取。
配置完成后单击确定,完成创建。
DNS 域名
AI 网关支持根据DNS解析的结果作为后端服务地址。
固定地址
如果该服务没有服务发现机制,需要手动添加服务的后端节点地址。
容器服务
如果在网关中添加了容器服务作为服务来源,网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务。
创建来源
单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:
来源类型:选择容器服务,通过K8s Server发现后端服务。
ACK/ACS/ACK Serverless 集群:选择后端服务所在的集群。
重要如当前VPC下不存在 ACK/ACS/ACK Serverless 集群,则需要创建ACK托管集群,再选择该集群。
如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例后,再选择该集群。
单个网关实例最多只能关联3个ACK容器服务。
云原生API网关只能添加同VPC内的Nacos或者ACK,不支持跨VPC添加服务来源。
配置完成后单击确定,完成创建。
创建服务
单击服务页签,然后单击创建服务,在创建服务面板中,配置以下参数:
服务来源:选择容器服务。
网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
命名空间:选择集群的命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以consumers开头的服务。
配置完成后单击确定,完成创建。
SAE Kubernetes服务
添加SAE Kubernetes作为服务来源时,SAE应用需要开启K8s Service服务注册发现。
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:SAE Kubernetes服务。SAE应用需要开启基于K8s ServiceName配置应用服务访问。
命令空间:选择集群的命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以
consumers:
开头的服务。
配置完成后单击确定,完成创建。
函数计算FC
支持函数计算3.0,暂不支持函数计算2.0的服务来源。
登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务。
在创建服务面板中,配置以下参数:
服务来源:函数计算 FC。
函数列表:在函数列表中选择函数。
版本或别名:选择函数的版本或别名。
配置完成后单击确定,完成创建。
MSE Nacos
登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务。
创建来源
单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:
来源类型:选择MSE Nacos,通过 MSE Nacos 注册中心发现后端服务。
Nacos 集群:选择Nacos 集群。
重要如果当前VPC下不存在MSE Nacos集群,则需要先创建MSE Nacos集群,再选择该Nacos集群。
如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例,再选择该Nacos集群。
集群列表仅展示
MCPEnabled = true
的MSE Nacos实例,可在MSE Nacos参数设置中更改。单个网关实例最多只能关联1个Nacos实例。
配置完成后单击确定,完成创建。
创建服务
单击服务页签,然后单击创建服务,在创建服务面板中,配置以下参数:
服务来源:选择MSE Nacos。
网关会从Nacos 集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
命名空间:选择命名空间。默认不展示arms-prom、kube-system和mse-pilot命名空间的服务。
服务列表:在服务列表中选择服务。默认不展示以
consumers:
开头的服务。
配置完成后单击确定,完成创建。