部署DeepSeek至AnalyticDB for PostgreSQL
本文中含有需要您注意的重要提示信息,忽略该信息可能对您的业务造成影响,请务必仔细阅读。
云原生数据仓库 AnalyticDB PostgreSQL 版具备强大的查询性能和高扩展性,支持事务处理和分析型查询的混合负载,能够高效处理DeepSeek模型涉及的大量数据和复杂分析任务。此外,AnalyticDB for PostgreSQL提供按需付费的模式,有效为您节约成本。将DeepSeek模型部署至AnalyticDB for PostgreSQL实例的过程简单快捷。本文介绍如何在AnalyticDB for PostgreSQL实例的AI节点部署DeepSeek模型。
支持模型和计费详情
AnalyticDB for PostgreSQL支持的DeepSeek模型如下。在AnalyticDB for PostgreSQL实例AI节点部署DeepSeek会由AnalyticDB for PostgreSQL收取AI节点费用。
以下内容以杭州地域的定价为参考。不同地域的价格不同,且可能存在价格变动,请以控制台显示价格为准。
DeepSeek模型 | AnalyticDB for PostgreSQL AI节点最低规格 | AI节点按量付费(元/节点/小时) | AI节点包年包月(元/节点/月) |
14b | ADB.AIMedium.2 | 100.929 | 29,067.5 |
32b | ADB.AIMedium.2 | 100.929 | 29,067.5 |
70b | ADB.AILarge.2 | 201.858 | 58,135 |
支持地域
仅华东1(杭州)、华北2(北京)、华东2(上海)、华南1(深圳)地域的实例支持部署DeepSeek。
部署影响
部署DeepSeek的过程对AnalyticDB for PostgreSQL实例的运行和数据读写无影响。
如何选择部署类型
阿里云支持一键部署和手动部署DeepSeek模型至AnalyticDB for PostgreSQL。您可以根据下文自行选择部署方式。
一键部署 | 手动部署 |
|
|
一键部署DeepSeek
如果您需要新建AnalyticDB for PostgreSQL实例,并在新实例上部署DeepSeek,请参见一键购买资源并创建Dify+DeepSeek。
手动部署DeepSeek
如果您已有AnalyticDB for PostgreSQL实例,可以选择手动部署,将DeepSeek部署到您现有的AnalyticDB for PostgreSQL实例。
前提条件
已购买位于同一VPC的以下云服务实例。
已购买AnalyticDB for PostgreSQL实例。
已购买RDS PostgreSQL实例。
已购买Redis实例。
对每个购买的云服务实例,已创建数据库账号。
操作步骤
1. 购买AI节点
登录云原生数据仓库AnalyticDB PostgreSQL版控制台,找到目标实例,单击实例ID。
单击左侧菜单栏的AI节点。
单击左上方添加AI节点,在弹出的页面中AI节点开关,单击开启。
在AI节点规格中选择规格。
规格详情请参见规格详情。您可根据您要部署的模型选择相应的规格
选择AI节点数量,建议AI节点数量为1。
单击右下方立即购买。
2. 配置实例
2.1 开通向量引擎优化
如果您需要使用知识库,需要AnalyticDB for PostgreSQL实例开启向量引擎优化。
前提条件
实例资源类型为存储弹性模式。
引擎内核版本为v6.3.10.18及以上,引擎内核版本为v7.x.x.x的暂不支持开启或关闭向量检索引擎优化。
计算节点规格为4核32 GB及以上,若规格过低,您可以计算节点变配。
开启或关闭向量检索引擎优化操作会导致实例重启,重启期间实例不可用。建议您在业务低谷期进行操作,并确保业务具有重连机制。
操作步骤
单击向量检索引擎优化右侧的开启优化。
在弹出的对话框中,单击确定。
如需关闭,可在向量检索引擎优化右侧单击关闭优化。
2.2 配置Dify空间的网络
如果您已配置Dify空间的网络,请跳过该步骤。
- 登录数据管理DMS 5.0。
进入工作空间页面。DMS提供了两种进入工作空间的路径,您可以根据需求进行选择。
路径一
说明若您使用的是非极简模式的控制台,请在顶部菜单栏中选择
。路径二
单击页面左侧的数智工厂
图标,再单击工作空间。
说明若您使用的是非极简模式的控制台,请在顶部菜单栏中,选择
。配置Dify工作空间。
单击右上角新建工作空间。
在弹出的页面中配置空间名称、地域、VPC ID信息,单击确定。
说明DMS默认的工作空间名称为dify_default。
新创建的工作空间名称不能与已有空间名称重复,否则会导致创建失败。
Dify空间需要与AnalyticDB for PostgreSQL实例位于同一VPC。
单击空间名称根据页面提示进入该空间。
单击
。单击左上角创建配置,下拉弹出的页面至交换机。
在交换机参数中配置交换机。
2.3 配置白名单
单击交换机,在搜索栏输入2.2 配置Dify空间的网络配置的交换机ID,即可看到交换机IP地址。
登录云原生数据仓库AnalyticDB PostgreSQL版控制台,找到目标实例,单击实例ID。
在数据安全性页面添加该交换机的IP地址。更多信息,请参见设置白名单。
3. 部署DeepSeek
- 登录数据管理DMS 5.0。
进入工作空间页面。DMS提供了两种进入工作空间的路径,您可以根据需求进行选择。
路径一
单击页面左上角的
图标,选择 。
说明若您使用的是非极简模式的控制台,请在顶部菜单栏中选择
。路径二
单击页面左侧的数智工厂
图标,再单击工作空间。
说明若您使用的是非极简模式的控制台,请在顶部菜单栏中,选择
。单击目标空间名称,根据页面提示单击
。在Dify页签下,单击创建配置并配置如下参数。
说明若配置参数时还未录入实例至DMS,您可单击配置项右上角的“创建XXX实例”进入DMS实例管理功能,在实例管理中将已创建的实例录入至DMS。更多信息,请参见云数据库录入。
配置项
是否必填
说明
RDS PG实例
是
选择已录入至DMS的RDS PostgreSQL实例。
Redis实例
是
选择已录入至DMS的Redis实例。
向量引擎类型
是
当前仅支持选择ADB PG。
ADB向量引擎类型
是
选择已录入至DMS的AnalyticDB for PostgreSQL实例。
说明暂不支持配置向量的空间名称,默认使用空间名称Dify。
OSS Bucket
否
选择与工作空间所在地域相同的OSS Bucket。录入OSS的操作,请参见云数据库录入。
说明如果您是基于现有资源创建Dify(非一键购买资源并创建Dify),则必须指定存储数据的OSS Bucket。
OSS路径
否
填入Dify存储数据的路径。请在OSS中预先指定的路径下创建用于存储数据的目录。
说明如果不配置该参数,则数据默认被存储在Bucket根目录下。
Dify资源规格
是
Dify的资源大小,规格越大,Dify的稳定性和可靠性越高。
支持选择4CU、8CU、12CU、16CU。
VPC ID
是
选择创建工作空间时填写的VPC。
说明如果您创建的Dify有访问公网的需求,建议您为VPC开启公网。更多信息,请参见连接公网。
交换机
是
选择VPC下的交换机。
安全组
是
选择控制Dify服务的网络安全组。
单击确定,即可自动开始部署资源。
当资源管理页面的Dify状态为运行中时,表示已完成部署。
后续步骤
后续配置模型、创建聊天助手请参见Dify+DeepSeek+夸克搜索实现联网搜索版服务。
视频教程请参见实现【联网搜索满血版】DeepSeek。