部署DeepSeek至AnalyticDB for PostgreSQL

更新时间:
复制 MD 格式

云原生数据仓库 AnalyticDB PostgreSQL 版具备强大的查询性能和高扩展性,支持事务处理和分析型查询的混合负载,能够高效处理DeepSeek模型涉及的大量数据和复杂分析任务。此外,AnalyticDB for PostgreSQL提供按需付费的模式,有效为您节约成本。将DeepSeek模型部署至AnalyticDB for PostgreSQL实例的过程简单快捷。本文介绍如何在AnalyticDB for PostgreSQL实例的AI节点部署DeepSeek模型。

支持模型和计费详情

AnalyticDB for PostgreSQL支持的DeepSeek模型如下。在AnalyticDB for PostgreSQL实例AI节点部署DeepSeek会由AnalyticDB for PostgreSQL收取AI节点费用。

说明

以下内容以杭州地域的定价为参考。不同地域的价格不同,且可能存在价格变动,请以控制台显示价格为准。

DeepSeek模型

AnalyticDB for PostgreSQL AI节点最低规格

AI节点按量付费(元/节点/小时)

AI节点包年包月(元/节点/月)

14b

ADB.AIMedium.2

100.929

29,067.5

32b

ADB.AIMedium.2

100.929

29,067.5

70b

ADB.AILarge.2

201.858

58,135‬

支持地域

仅华东1(杭州)、华北2(北京)、华东2(上海)、华南1(深圳)地域的实例支持部署DeepSeek。

部署影响

部署DeepSeek的过程对AnalyticDB for PostgreSQL实例的运行和数据读写无影响。

如何选择部署类型

阿里云支持一键部署和手动部署DeepSeek模型至AnalyticDB for PostgreSQL。您可以根据下文自行选择部署方式。

一键部署

手动部署

  • 自动创建AnalyticDB for PostgreSQL实例。

  • 无需手动为实例配置账号、录入DMS等。

  • 部署到已有的AnalyticDB for PostgreSQL实例。

  • 需手动为实例配置账号、录入DMS等。

一键部署DeepSeek

如果您需要新建AnalyticDB for PostgreSQL实例,并在新实例上部署DeepSeek,请参见Dify一键部署。

手动部署DeepSeek

如果您已有AnalyticDB for PostgreSQL实例,可以选择手动部署,将DeepSeek部署到您现有的AnalyticDB for PostgreSQL实例。

前提条件

  • 已购买位于同一VPC的以下云服务实例。

    • 已购买AnalyticDB for PostgreSQL实例。

    • 已购买RDS PostgreSQL实例。

    • 已购买Redis实例。

  • 对每个购买的云服务实例,已创建数据库账号。

操作步骤

1. 购买AI节点

  1. 登录云原生数据仓库AnalyticDB PostgreSQL版控制台,找到目标实例,单击实例ID。

  2. 单击左侧菜单栏的AI 节点。

  3. 单击左上方添加AI节点,在弹出的页面中AI节点开关,单击开启。

  4. 在AI节点规格中选择规格。

    规格详情请参见规格详情。您可根据您要部署的模型选择相应的规格

  5. 选择AI节点数量,建议AI节点数量为1。

  6. 单击右下方立即购买。

2. 配置实例

2.1 开通向量引擎优化

如果您需要使用知识库,需要AnalyticDB for PostgreSQL实例开启向量引擎优化。

前提条件
  • 实例资源类型为存储弹性模式。

  • 引擎内核版本需满足以下任一条件:

    • 6.0版:V6.3.10.18及以上。

    • 7.0版:V7.2.1.2及以上。

  • 计算节点规格需满足以下条件:

    • 高性能(基础版):4核16 GB及以上。

    • 高可用版:4核32 GB及以上。

    说明

    若规格过低,您可以变配计算节点。

警告

开启或关闭向量检索引擎优化操作会导致实例重启,重启期间实例不可用。建议您在业务低谷期进行操作,并确保业务具有重连机制。

操作步骤
  1. 单击向量检索引擎优化右侧的开启优化。

  2. 在弹出的对话框中,单击确定。

    如需关闭,可在向量检索引擎优化右侧单击关闭优化。

2.2 配置Dify空间的网络

如果您已配置Dify空间的网络,请跳过该步骤。

  1. 登录数据管理DMS 5.0。

  2. 单击控制台左上角的2023-01-28_15-57-17.png图标,选择全部功能 > Data+AI > Dify。

    说明

    若您使用的是非极简模式的控制台,请在顶部菜单栏中,选择Data+AI > Dify。

  3. 配置Dify工作空间。

    1. 单击右上角新建工作空间。

    2. 在弹出的页面中配置空间名称、地域、VPC ID信息,单击确定。

      说明
      • DMS默认的工作空间名称为dify_default。

      • 新创建的工作空间名称不能与已有空间名称重复,否则会导致创建失败。

      • Dify空间需要与AnalyticDB for PostgreSQL实例位于同一VPC。

    3. 单击空间名称根据页面提示进入该空间。

    4. 单击创建Dify环境 > 打开Dify资源管理。

    5. 单击左上角创建配置,下拉弹出的页面至交换机。

    6. 在交换机参数中配置交换机。

2.3 配置白名单
  1. 单击交换机,在搜索栏输入2.2 配置Dify空间的网络配置的交换机ID,即可看到交换机IP地址。

  2. 登录云原生数据仓库AnalyticDB PostgreSQL版控制台,找到目标实例,单击实例ID。

  3. 在数据安全性页面添加该交换机的IP地址。更多信息,请参见设置白名单。

3. 部署DeepSeek

  1. 在Dify页面,单击目标空间名称,根据页面提示单击开始使用 > 创建Dify环境 > 打开Dify资源管理。

  2. 在Dify页签下,单击创建配置并配置参数。

    说明

    若配置参数时还未录入实例至DMS,您可单击配置项右上角的“创建XXX实例”进入DMS实例管理功能,在实例管理中将已创建的实例录入至DMS。更多信息,请参见云数据库录入。

    以下介绍部分参数。完整的参数描述请参见Dify一键部署。

    配置项

    是否必填

    说明

    元数据库配置

    是

    新建实例或选择已录入至DMS的RDS PostgreSQL、PolarDB PostgreSQL、RDS MySQLI实例。

    Redis配置

    是

    新建实例或选择已录入至DMS的Redis实例。

    向量数据库

    是

    选择新建实例或已有实例导入。

    引擎

    条件必选

    如果选择已有实例导入,请选择AnalyticDB PostgreSQL引擎。

    数据库

    条件必选

    选择已录入至DMS的AnalyticDB for PostgreSQL实例。

    说明

    暂不支持配置向量的空间名称,默认使用空间名称Dify。

  3. 单击立即购买,即可自动开始部署资源。

    当资源管理页面的Dify状态为运行中时,表示已完成部署。

后续步骤