通过阿里云百炼搭建专属大模型应用

概述

产品简介

阿里云百炼是基于通义千问大模型、大行级模型及企业专属数据，结合全链路大模型开发工具所打造的一站式企业专属大模型商业化平台。提供完整的模型训练、微调、评估等产品工具，预置丰富的应用插件，提供便捷的集成方式，可以更快更高效地完成大模型应用的构建。

阿里云百炼结合AnalyticDB PostgreSQL版高性能向量检索引擎，使得企业可在平台上构建企业专属知识库，让大模型具备私域知识。

• 面向对象：企业用户、企业伙伴、研发人员及技术人员。

• 核心能力：支持大模型训练和微调。

• 服务形式：通过API服务输出给用户，方便用户进行集成和使用专属大模型能力。

• 应用编排：支持用户打通自己的业务能力API，可以将专属大模型能力引入业务链路。

三条核心路径支撑企业和生态合作伙伴练就自己的专属大模型，解决企业实际经营问题。

更多关于阿里云百炼的产品介绍，请参见产品简介。

产品优势

• 三大核心竞争力

  • 企业链路的模型训练及评估工具

    • 推理加速：平台底层默认进行模型压缩和推理加速，屏蔽机器管理和推理加速的技术工作。

    • 全链路训练平台：丰富完整的模型训练工具，支持SFT、LoRa等多种优化方式，训练后支持一键部署。

    • 多维度评估：支持单模型、多模型对比等多维度评估方式。

  • 基于大模型快速构建业务应用

    • 开箱即用：预置检索增强流程和prompt模板应用，实现非研发人员也可开箱即用。

    • 插件中心：API插件支持接入企业系统，通过简单的配置即可让大模型根据企业专属知识进行问题响应和内容生产。

    • 画布流程编排：支持复杂大模型应用流程，仅需少量研发人员即可编排大模型应用。

  • 多行业大模型

    • 官方能力强化：预置多种强化的领域能力大模型，如问答、摘要、NL2SQL、写作等，用户可以开箱即用，无需算法团队投入语料和训练成本。

    • 三方大模型及行业大模型支持：除提供通义大模型能力外，还支持三方模型及多个行业大模型。

• AnalyticDB PostgreSQL版向量检索引擎

  • 融合查询：对具有向量索引的查询会根据CBO生产融合查询的最优执行计划。

  • 分区并行：支持多分区并行执行，降低多分区执行。

  • 聚合重排：支持多分区聚合重排。

  • Distance plugin：为了更好地支持算法厂商的加密算法，各种算法的距离计算作为插件集成到数据库中。

  • 底层优化：对于指令层进行了SIMD优化，相较于开源方案自底层向上进行执行优化。

  向量分析性能好，详情请参见向量分析性能测试。

• 内置丰富应用模板

费用说明

• 阿里云百炼产品定价，请参见产品计费。

• 云原生数据仓库AnalyticDB PostgreSQL版向量检索引擎产品定价，请参见产品定价。

产品入口

• 阿里云百炼入口：

  • 产品首页

  • 控制台首页

• 云原生数据仓库AnalyticDB PostgreSQL版：

  • 产品详情页

  • 向量检索专题页

前提条件

• 已开通阿里云百炼。使用阿里云账号进入阿里云百炼产品首页，单击去购买提交公测表单。具体操作，请参见商业化下单流程。

  重要

  只有阿里云账号可进行申请，RAM用户无法申请。

• 已在华北2（北京）地域购买AnalyticDB PostgreSQL版存储弹性模式6.0实例，且开启了向量检索引擎优化。具体操作，请参见创建实例。

  重要

  阿里云百炼向量数据库配置当前仅支持北京地域。

快速入门

本文基于企业文档的大模型问答为例，带您快速搭建一个大模型应用并在自己的业务中调用。更多能力请参见阿里云百炼快速开始。

1. 导入企业专属知识。

   1. 登录阿里云百炼控制台。

   2. 在左侧导航栏，单击应用中心 > 企业数据，并单击向量数据库配置。

   3. 单击添加ADB-PG实例按钮，开始添加。若使用的子账号，需要先授权才可以继续使用。

   4. 在新增向量数据仓储页面，填写如下参数，并单击确定。

      参数	说明
      向量维度	包含： 通用文本向量（1536） 算法自定义向量（1024） 推荐使用算法自定义向量（1024）。
      中文分词器	仅支持默认分词器。
      区域	AnalyticDB PostgreSQL版实例所在的地域。目前仅支持北京。
      选择实例	选择AnalyticDB PostgreSQL版实例。
      仓储名称	自定义名称，方便管理和后续选择。
      切分方法	包含： 层级结构切分：根据自然语言识别结果，按照文档标题、正文层级进行切分。 段落结构切分：按照固定字符长度进行切分。 在层级结构简单时，推荐使用层级结构切分；层级复杂推荐使用段落结构切分。

   5. 完成向量数据库配置后，返回企业数据首页，并单击导入企业数据，进行企业文档上传。

      等待状态为导入完成时，进行后续操作。

      重要

      • 一次最多只能上传3个文件。

      • 单个文件小于100 MB。

      • 文档内容格式要求，请参见文档上传格式要求。

      • 数据上传常见问题，请参见数据上传常见问题。

2. 创建大模型应用。

   1. 新增应用。

      1. 在左侧导航栏，单击应用中心 > 应用管理。

      2. 在页面右上角，单击新增应用，输入应用名称，并单击确定。

   2. 选择模型。

      1. 选择预置模板应用后，单击下一步。应用模型列表详情，请参见应用类型说明。

      2. 选择存储产品实例和检索范围，单击创建完成。

      3. 在成功创建应用弹窗中，单击完成创建。

   3. 测试。应用创建完成后，可以先简单的进行测试验证模型效果。

      1. 在应用卡片上单击测试。

      2. 在输入框中输入测试内容，验证模型机器人回复的答案内容。详细测试步骤，请参见如何测试应用。

3. 调用大模型应用。

   在应用卡片上单击调用，即可获取到API详细信息。

后续操作

如果您想试用更多阿里云百炼产品功能，请参见大模型服务平台操作指南。