通过阿里云百炼搭建专属大模型应用

概述

产品简介

阿里云百炼是基于通义千问大模型、大行级模型及企业专属数据，结合全链路大模型开发工具所打造的一站式企业专属大模型商业化平台。提供完整的模型训练、微调、评估等产品工具，预置丰富的应用插件，提供便捷的集成方式，可以更快更高效地完成大模型应用的构建。

阿里云百炼结合云原生数据仓库AnalyticDB PostgreSQL版高性能向量检索引擎，使得企业可在平台上构建企业专属知识库，让大模型具备私域知识。

• 面向对象：企业用户、企业伙伴、研发人员及技术人员。

• 核心能力：支持大模型训练和微调。

• 服务形式：通过API服务输出给用户，方便用户进行集成和使用专属大模型能力。

• 应用编排：支持用户打通自己的业务能力API，可以将专属大模型能力引入业务链路。

三条核心路径支撑企业和生态合作伙伴练就自己的专属大模型，解决企业实际经营问题。

更多关于阿里云百炼的产品介绍，请参见产品简介。

产品优势

• 三大核心竞争力。

  • 企业链路的模型训练及评估工具。

    • 推理加速：平台底层默认进行模型压缩和推理加速，屏蔽机器管理和推理加速的技术工作。

    • 全链路训练平台：丰富完整的模型训练工具，支持SFT、LoRa等多种优化方式，训练后支持一键部署。

    • 多维度评估：支持单模型、多模型对比等多维度评估方式。

  • 基于大模型快速构建业务应用。

    • 开箱即用：预置检索增强流程和prompt模板应用，实现非研发人员也可开箱即用。

    • 插件中心：API插件支持接入企业系统，通过简单的配置即可让大模型根据企业专属知识进行问题响应和内容生产。

    • 画布流程编排：支持复杂大模型应用流程，仅需少量研发人员即可编排大模型应用。

  • 多行业大模型。

    • 官方能力强化：预置多种强化的领域能力大模型，如问答、摘要、NL2SQL、写作等，用户可以开箱即用，无需算法团队投入语料和训练成本。

    • 三方大模型及行业大模型支持：除提供通义大模型能力外，还支持三方模型及多个行业大模型。

• AnalyticDB PostgreSQL版向量检索引擎。

  • 融合查询：对具有向量索引的查询会根据CBO生产融合查询的最优执行计划。

  • 分区并行：支持多分区并行执行，降低多分区执行。

  • 聚合重排：支持多分区聚合重排。

  • Distance plugin：为了更好地支持算法厂商的加密算法，各种算法的距离计算作为插件集成到数据库中。

  • 底层优化：对于指令层进行了SIMD优化，相较于开源方案自底层向上进行执行优化。

  • 向量分析性能好，详情请参见向量分析性能测试。

• 内置丰富应用模板，旨在帮助您快速启动项目并加速业务创新。

费用说明

• 阿里云百炼产品定价，请参见计费项。

• 云原生数据仓库AnalyticDB PostgreSQL版向量检索引擎产品定价，请参见产品定价。

产品入口

前提条件

• 开通阿里云百炼：使用阿里云主账号前往阿里云百炼控制台，如果页面顶部显示以下消息，您需要开通阿里云百炼的模型服务，以获得免费额度。如果未显示该消息，则表示您已经开通。

  

  如果开通服务时提示“您尚未进行实名认证”，请先进行实名认证。

• 在华北2（北京）、华东1（杭州）、华东2（上海）、华南1（深圳）或中国香港地域已购买云原生数据仓库 AnalyticDB PostgreSQL 版存储弹性模式6.0及以上版本实例，且开启了向量检索引擎优化。详情请参见创建实例。

  重要

  阿里云百炼向量数据库配置当前仅支持北京、杭州、上海、深圳和中国香港地域。

以下以企业文档的大模型问答为例，指导您快速搭建大模型应用，并在您的业务中调用。

步骤一：创建知识库

步骤二：创建大模型应用

1. 创建空白应用：访问应用管理页面。点击新增应用，在弹窗的智能体应用页签中点击立即创建。

2. 修改应用名称：建议修改应用名称以便准确识别应用的用途。

3. 选择模型：为应用选择大语言模型，建议您选择通义千问-Max模型。

4. 设计Prompt（提示词）：也称为System Prompt，用于定义应用的角色和任务。如果您上传的是本示例中的测试文件，建议设置Prompt（提示词）为：

   “你是一位阿里云百炼手机导购，任务是帮助客户对比手机参数，分析客户需求，推荐个性化建议。”

5. 打开知识库开关，点击+知识库，再添加知识库，即可完成配置。

6. 您可以在右侧发起提问进行测试。

   

7. 发布应用：确认内容变动无误后，点击发布。

步骤三：调用应用

如果希望通过 API 调用知识问答应用或其他阿里云百炼应用，请参考应用调用。