通过云原生API网关接入DeepSeek

1. 创建AI 服务

网关通过服务发送请求，创建AI服务参考以下方式：

1. 登录云原生API网关控制台。

2. 在左侧导航栏，选择实例，并在顶部菜单栏选择地域。

3. 在实例页面，单击目标网关实例名称。

4. 在左侧导航栏，选择服务，并单击服务页签。

5. 单击创建服务，在创建服务面板，参考如下信息配置AI服务，以阿里云百炼配置示例。

   • 服务来源：选择AI服务。

   • 服务名称：填写创建网关服务的名称，如aliyun-deepseek。

   • 大模型供应商：选择对应的模型供应商，如阿里云百炼。

   • 服务地址（base_url）：使用默认配置，如https://dashscope.aliyuncs.com/compatible-model/v1。

   • API-KEY：填写模型供应商获取的请求凭证API-KEY。

   

2. 创建AI API

1. 登录云原生API网关控制台。

2. 在左侧导航栏，选择API，并在顶部菜单栏选择地域。

3. 在API页面选择AI API页签，单击创建AI API，在创建AI API面板中，配置AI API基本信息如下：

   • 域名：建议配置域名（使用默认环境域名下存在限流）。

   • 所属实例：选择创建的云原生API网关实例。

   • AI请求观测：开启。

   • 服务模型：单模型服务。

   • 服务列表：配置如下：

     • 服务名称：选择上一步中配置的阿里云百炼DeepSeek服务。

     • 模型名称：选择透传。

     

1. 创建AI 服务

当前云原生API网关支持同时基于已集成模型和通用模型的方式接入，提供多模型代理服务，并支持调用异常情况下Fallback。在该场景下，用户使用统一调用方式，同时调用不同的三方模型服务。

基于场景一、场景二分别完成三个网关AI服务配置（阿里云百炼、火山引擎、PAI），火山引擎的服务配置可参考图示配置。

• 服务模型：多模型服务（按模型名称）。

• 服务列表：单击添加，添加下列多个服务。

  • 选择上一步中配置的阿里云DeepSeek服务，模型名称匹配规则配置为deepseek-*。

  • 选择上一步中配置的火山引擎DeepSeek服务，模型名称匹配规则配置为ep-*。

• Fallback：开启。

• Fallback列表： 选择上一步中配置的PAI DeepSeek服务，模型名称配置为DeepSeek-R1-Distill-Qwen-1.5B。