Dify是一个开源大模型应用开发平台。使用SAE可以快速部署Dify,无需管理底层计算资源,而且仅需简单配置即可实现高可用、秒级弹性伸缩。
部署Dify生产环境
方案架构
资源清单
计费说明
权限说明
部署应用
进入应用中心,选择Dify社区版-Serverless部署,点击部署。
选择模板:生产环境建议选择Dify 高可用版或Dify 高可用+可观测版,通过集成阿里云数据库服务实现高可用。Dify 高可用+可观测版还集成了dify-sandbox、dify-plugin-daemon的可观测功能,通过探针自动埋点,提供性能分析、token分析、调用链视图等功能。如果希望增加dify-api组件的可观测, 可以参考Dify应用可观测接入。
选择地域:选择资源部署的地域。
付费类型配置:选择按量付费或包年包月。
SAE配置:设置SAE命名空间名称(默认填入default即可)、SAE副本数、SAE核数、SAE内存。
Postgres数据库配置:设置PostgreSQL实例规格、PostgreSQL实例存储类型、PostgreSQL实例存储、PostgreSQL数据库账号名称、PostgreSQL数据库密码。
Redis数据库配置:设置Redis实例密码。
Tablestore配置:设置TableStore 实例规格。
基础配置:选择新建专有网络或已有专有网络,选择2个可用区来部署资源以提高服务可用性。
确认参数和询价信息后(注意如果选择可观测版,ARMS需要额外计费,未计入询价信息中),点击下一步:确认订单,立即创建。
在已部署场景列表中可以查看已创建的应用场景,等待状态显示已部署,表示部署成功。
点击场景ID。在服务资源区域,可查看并跳转到已部署的服务资源。在立即使用区域,点击dify服务地址对应的URL即可跳转到Dify管理界面。
设置管理员账户并登录后,开始使用Dify。
运维管理
进入SAE应用列表,在顶部选择应用部署的地域,然后选择应用所在的命名空间,可查看已部署的应用,点击应用ID可跳转到应用详情页。
应用生命周期管理
在基础信息页顶部点击相应按钮,即可查看应用配置、部署应用(修改应用配置并重新部署)、手动扩缩(调整应用实例数)、停止应用、重启应用、删除应用。
如需删除Dify相关的全部资源,则要在应用中心的已部署场景中找到Dify场景,然后点击删除。
弹性伸缩
在基础信息页顶部点击自动扩缩,可以配置弹性伸缩策略。
管理应用配置
查看应用监控(仅适用于可观测版)
在dify-sandbox、dify-plugin-daemon的应用监控页可查看应用监控数据。也可以在ARMS控制台的 中查看。
如果希望增加dify-api组件的可观测, 可以参考Dify应用可观测接入。
部署Dify高性能版
Dify高性能版能够满足生产环境多用户的高并发需求。
部署和运维的操作方式与Dify高可用版类似,部署时参数配置区别如下:
选择模板为Dify高性能版。
Celery 后端配置:设置CeleryBackendRedisClass、Celery 后端 Redis 实例密码。
部署Dify测试环境
Dify测试版的数据库以单节点形式在 SAE 上部署,成本较低,不具备高可用性,仅推荐用于测试环境。
部署和运维的操作方式与Dify高可用版类似,部署时参数配置区别如下:选择模板为Dify测试版或Dify 测试+可观测版。