通过云原生API网关对接ECS和ACS自建的DeepSeek_API 网关(API Gateway)-阿里云帮助中心

本文介绍如何通过云原生API网关对接ECS/ACS中自建的DeepSeek服务。您可以轻松实现服务接入，并通过网关提供的统一认证鉴权机制保障服务安全性。

前提条件

重要

自建部署的DeepSeek服务需与云原生API网关位于同一VPC下。

请参考在GPU实例上部署DeepSeek-R1蒸馏模型完成在ECS上自建DeepSeek服务的操作。

重要

参考上述文档完成步骤一和步骤二的操作即可，完成后有服务端口（默认30000），无需执行步骤三。使用云原生API网关的情况下，可以通过网关对公网暴露服务。

GPU实例规格参考本文所述，其中：

模型名称	模型版本	模型大小	vCPU	内存	GPU显存	系统盘	推荐实例规格
DeepSeek-R1-Distill-Qwen-7B	7B（70亿参数）	4.7 GB	6核或8核处理器	32 GB RAM	24 GB	至少100 GB空闲空间	ecs.gn7i-c16g1.4xlarge

使用网关暴露ECS上的模型服务时，需要保证网关实例可以访问到后端模型服务。

可以参考以下方式配置安全组：

在API页面，单击目标创建的API名称，进入API详情页，单击创建路由，在创建路由面板，参考如下信息配置：

在服务页面，新建固定地址服务参考以下方式配置：

配置项	说明
来源类型	选择固定地址。
服务名称	填写ECS后端服务名称。
服务地址	填写ECS实例中查看实例IP地址获取的私网IP，拼接DeepSeek推理服务端口（30000）。
TLS模式	选择关闭。

在调试界面拼接URL为/v1/chat/completions，并按照下列方式填写JSON格式Body进行请求。

{
  "model": "DeepSeek-R1-Distill-Qwen-7B",
  "messages": [
    {
      "role": "user",
      "content": "你是谁"
    }
  ]
}

重要

目前网关中为ACS服务添加API只支持HTTP API配置方式，后续我们会持续优化。

创建HTTP API参考以下方式进行：

单击创建路由，在创建路由面板，参考配置如下信息。

配置项	说明
域名	建议选择已有域名或添加一条新域名用于访问。
路径（Path）	选择前缀是 / 。
所属实例	选择服务所在的云原生API网关实例。
使用场景	选择单服务。
后端服务	下拉单击“创建服务”，且在创建服务的过程中会自动完成安全组授权。

在调试界面拼接URL为/v1/chat/completions，并按照下列方式填写JSON格式Body进行请求。

{
  "model": "deepseek-r1",
  "messages": [
    {
      "role": "user",
      "content": "你是谁"
    }
  ]
}

使用网关暴露ACS上的模型服务时，需要保证网关实例可以访问到后端模型服务。

可以参考以下方式配置安全组：