创建服务

您需要将已有的服务添加到网关中,登记为路由备选服务,以便网关获取服务地址。AI 网关支持以容器服务、固定地址、DNS域名和FC函数计算等几种形式添加服务。

操作步骤

说明

AI 网关不会修改您的请求,当请求被转发到后端域名服务时,Host不会被重写为您配置的域名。

网关通过服务动态感知后端资源变化,实现流量路由、治理和安全防护的统一管理。AI网关支持创建AI 服务Agent服务DNS 域名固定地址容器服务SAE Kubernetes服务函数计算FCMSE Nacos

AI 服务

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源:选择AI 服务

    • 服务名称:自定义服务名称。

    • 大模型供应商:支持阿里云百炼PAI-EASDeepseekOpenAI兼容(OpenAI Compatible)OpenAIAzureGeminiBedrockClaude月之暗面百川智能零一万物智谱AI混元阶跃星辰星火豆包MiniMax

      重要

      AI服务所提供的大模型能力并非由AI网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。

    • 服务地址(base_url):大模型服务的BaseURL。格式为:https://{domain}/v1

      Azure服务提供商服务地址:https://{endpoint}/openai/deployments/{deployment-id}/chat/completions?api-version={api-version}
    • API-KEY:访问大模型需要的API-KEY凭证。如果使用阿里云百炼,请在阿里云百炼API-KEY获取。其他大模型供应商,请咨询对应的服务提供商。

  3. 配置完成后单击确定,完成创建。

Agent服务

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源:选择Agent 服务

    • 服务名称:自定义服务名称。

    • 服务供应商:支持选择阿里云百炼Dify自定义

      重要

      请注意,本Agent服务所提供的智能体相关能力并非由云原生API网关直接提供。在使用前,请您自行评估该服务的适用性和可靠性,并确保您的使用行为完全符合相关法律法规及产品使用协议的要求。对于因违反上述规定而产生的一切后果,我们将不承担任何责任。

      阿里云百炼

      Dify

      • API地址:输入Agent服务的接入点地址。默认为:https://api.dify.ai/v1

      • 应用类型:支持选择AgentWorkflow

        • Agent:智能体类型。

        • Workflow:工作流类型。

      • API KEY:请咨询服务供应商获取。

      自定义

      • API地址:输入Agent服务的接入点地址。

      • API KEY:请咨询服务供应商获取。

  3. 配置完成后单击确定,完成创建。

DNS 域名

说明

AI 网关支持根据DNS解析的结果作为后端服务地址。

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源:选择DNS 域名

    • 服务名称:自定义服务名称。

    • 服务地址:服务的后端节点地址,不同来源的服务,后端节点有所不同。格式为<DNS域名>:<服务端口>,支持填写多个,以英文,分隔。

      重要

      如果指定的是外网地址,需要配置NAT网关

    • TLS模式:默认关闭。

      • 关闭:访问服务时,无需开启TLS。

      • 单向TLS:需要使用HTTPS访问服务时开启单向TLS。

      • 双向TLS(mTLS):需要做双向认证时开启mTLS。

  3. 配置完成后单击确定,完成创建。

固定地址

说明

如果该服务没有服务发现机制,需要手动添加服务的后端节点地址。

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源:选择固定地址

    • 服务名称:自定义服务名称。

    • 服务地址:服务的后端节点地址,不同来源的服务,后端节点有所不同。格式为<IP>:<服务端口>,支持填写多个,以英文,分隔。

      重要

      如果指定的是外网地址,需要配置NAT网关

    • TLS模式:默认关闭。

      • 关闭:访问服务时,无需开启TLS。

      • 单向TLS:需要使用HTTPS访问服务时开启单向TLS。

      • 双向TLS(mTLS):需要做双向认证时开启mTLS。

  3. 配置完成后单击确定,完成创建。

容器服务

说明

如果在网关中添加了容器服务作为服务来源,网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。

  1. 登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务

  2. 创建来源

    1. 单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:

      • 来源类型:选择容器服务,通过K8s Server发现后端服务。

      • ACK/ACS/ACK Serverless 集群:选择后端服务所在的集群。

        重要
        • 如当前VPC下不存在 ACK/ACS/ACK Serverless 集群,则需要创建ACK托管集群,再选择该集群。

        • 如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例后,再选择该集群。

        • 单个网关实例最多只能关联3ACK容器服务。

        • 云原生API网关只能添加同VPC内的Nacos或者ACK,不支持跨VPC添加服务来源。

    2. 配置完成后单击确定,完成创建。

  3. 创建服务

    1. 单击服务页签,然后单击创建服务,在创建服务面板中,配置以下参数:

      • 服务来源:选择容器服务

        网关会从ACK/ACK Serverless集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
      • 命名空间:选择集群的命名空间。默认不展示arms-prom、kube-systemmse-pilot命名空间的服务。

      • 服务列表:在服务列表中选择服务。默认不展示以consumers开头的服务。

    2. 配置完成后单击确定,完成创建。

SAE Kubernetes服务

重要

添加SAE Kubernetes作为服务来源时,SAE应用需要开启K8s Service服务注册发现

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源SAE Kubernetes服务。SAE应用需要开启基于K8s ServiceName配置应用服务访问

    • 命令空间:选择集群的命名空间。默认不展示arms-prom、kube-systemmse-pilot命名空间的服务。

    • 服务列表:在服务列表中选择服务。默认不展示以consumers:开头的服务。

  3. 配置完成后单击确定,完成创建。

函数计算FC

重要

支持函数计算3.0,暂不支持函数计算2.0的服务来源。

  1. 登录AI网关控制台,在网关列表页,选择您实例所在的地域,并单击目标实例ID。单击左侧导航栏的服务,单击创建服务

  2. 创建服务面板中,配置以下参数:

    • 服务来源函数计算 FC

    • 函数列表:在函数列表中选择函数。

    • 版本或别名:选择函数的版本或别名。

  3. 配置完成后单击确定,完成创建。

MSE Nacos

  1. 登录AI网关控制台。选择您实例所在的地域,并单击目标实例ID。在左侧导航栏单击服务

  2. 创建来源

    1. 单击来源页签,然后单击创建来源,在创建来源面板中,配置以下参数:

      • 来源类型:选择MSE Nacos,通过 MSE Nacos 注册中心发现后端服务。

      • Nacos 集群:选择Nacos 集群。

        重要
        • 如果当前VPC下不存在MSE Nacos集群,则需要先创建MSE Nacos集群,再选择该Nacos集群。

        • 如果需要添加其他VPC下的服务来源,请重新创建指定VPC下的网关实例,再选择该Nacos集群。

        • 集群列表仅展示MCPEnabled = trueMSE Nacos实例,可在MSE Nacos参数设置中更改。

        • 单个网关实例最多只能关联1Nacos实例。

    2. 配置完成后单击确定,完成创建。

  3. 创建服务

    1. 单击服务页签,然后单击创建服务,在创建服务面板中,配置以下参数:

      • 服务来源:选择MSE Nacos

        网关会从Nacos 集群获取服务列表,将服务列表中的服务及其后端节点地址添加到网关中。
      • 命名空间:选择命名空间。默认不展示arms-prom、kube-systemmse-pilot命名空间的服务。

      • 服务列表:在服务列表中选择服务。默认不展示以consumers:开头的服务。

    2. 配置完成后单击确定,完成创建。