基于AnalyticDB PostgreSQL搭建百炼产品博士应用

概述

应用背景

传统问答一般是基于预设答案的问答机器人，需要事先预设构造出问答，对问题和知识的覆盖很有限，这种基于关键词匹配的系统难以扩展、不够灵活，需要人力持续维护与更新。这类问答机器人虽然有一定的作用，但效果远不如预期。AIGC大模型技术的兴起，产生了基于百炼大模型的生成式智能问答机器人——产品博士，它能够深入理解语言的细微差别和复杂性，使得问答系统能够更准确地理解查询的上下文和意图，并能以更自然的方式与您进行交互，提供流畅的对话体验、更高级的语义分析推理和更深层次的洞察建议。

应用简介

云原生数据仓库 AnalyticDB PostgreSQL 版产品博士是基于阿里云百炼大模型服务平台打造的专属模型，将云原生数据仓库 AnalyticDB PostgreSQL 版与通义大模型相结合，帮助您快速实现问答服务，提高获知效率，提升工作效率。

应用架构

产品博士应用架构遵循层次化设计原则，核心架构包含模型能力层，领域数据层，领域能力层。实现了从基础模型到云原生数据仓库 AnalyticDB PostgreSQL 版专属产品博士解决方案的无缝衔接。核心架构分为：

• 模型能力层：底层是通义千问基础模型，为整个系统提供了强大的AI处理基础。上层是百炼大模型服务平台，不仅集成了RAG检索能力，还通过高度优化的模型服务，为上层应用提供了灵活且强大的模型交互功能。

• 领域数据层：该层包含处理后的各类知识内容，汇集了多源、多维度的知识资源，经过深度整理与结构化处理，确保数据的准确性和时效性，为上层应用提供丰富且针对性的信息支持。

• 领域能力层：该层专注于实现高度定制化的功能，包括但不限于逻辑流程编排、策略动态配置、严格的数据安全管理机制、智能引用补全功能，以及闭环的效果评估与反馈系统。

产品博士应用架构图如下所示：

前提条件

• 已购买云原生数据仓库 AnalyticDB PostgreSQL 版存储弹性模式实例，并且开启了向量检索引擎优化。具体操作，请参见创建实例。

• 已开通阿里云百炼大模型服务平台。具体操作，请参见产品开通。

应用场景

• 电销/客服：在电话沟通和服务过程中，借助产品博士可以快速获取参考，再结合实际情况答复，避免四处寻找答案，节省大量时间，提升业务效率。

• 售前：在会议过程中面临提问，不方便或来不及打电话寻求外援，在路途中收到客户消息询问时等。诸如此类的情况下产品博士可以提供随身的问答服务。

• 营销/中后台/其他：在营销、采购等各职能工作中，需要对特定产品有基本的了解，使用产品博士都可以即时得到答案。

应用优势

• 支持多样的问题类型：

  • 产品能力

  • 基于需求或场景的关联产品

  • 产品使用细节

  • 产品案例

  • 产品应标参数

• 输出丰富而高质量的内容：

  • 核心知识内容：包含产品知识库、官方出版物、专项问答集与二次加工材料等。

  • 扩展知识内容：包含市场洞察报告、官方产品文档、案例资料、解决方案资料等。

  • 结构化数据：包含产品资产信息、产品生命周期过程信息等。

• 具备自定义的领域工程能力：产品博士在百炼之上自定义了一层领域工程能力层，用来实现逻辑编排、策略配置、数据安全、引用补全、效果反馈等产品功能。

创建并体验应用

产品博士应用是在阿里云百炼大模型服务平台上并结合您上传的知识库创建的自定义应用。请您按照下列操作步骤创建并体验产品博士应用。

新建知识库

阿里云百炼中有默认知识库，您也可以新建知识库，在知识库中上传知识文件。具体操作如下 ：

1. 登录阿里云百炼控制台。

2. 在左侧导航栏，选择数据中心 > 数据应用，并单击知识索引。

3. 单击创建知识库，在该页面下填写知识库基础信息，数据类型和知识库配置信息，并单击下一步。示例如下：

   知识库参数	参数	说明	示例
   知识库基础信息	知识库名称	知识库名称，0~20个字符，必填。	adbpgrag
   	知识库描述	对知识库包含的内容和数据的用途进行描述，0~1000个字符，非必填。	无
   数据类型	数据类型	知识的数据类型：非结构化数据、结构化数据，必填。	非结构化数据
   知识库配置	配置模式	推荐配置：百炼推荐配置，在效果、推理成本、检索时延等方面的最佳实践。 自定义配置：完全开放的离线知识库配置，按照检索需求自由配置，获得推理效果和时延方面的不同体验。 必填。	推荐配置
   	向量存储类型	内置或ADB-PG，必填。	ADB-PG

4. 单击下一步，单击选择文件，选择已上传的知识库文件，单击导入完成。

5. 导入完成后自动返回查看知识库页面，查看新建的知识库。

上传知识库文件

您可以根据需要，将个人或企业知识文件上传到默认知识库或已创建的知识库中。具体操作如下：

1. 登录阿里云百炼控制台。

2. 在左侧导航栏，选择数据中心 > 数据管理，并单击导入数据。

3. 请根据您的需要，在导入数据页面选择导入方式，上传文件后点击确认。

4. 确认后自动返回数据管理页面，查看已上传的知识库文件。

新建产品博士应用

请您按照以下步骤新建自定义应用，将已经上传的知识库配置到该应用中，并将该应用更名为产品博士。该应用模型会结合云原生数据仓库 AnalyticDB PostgreSQL 版的RAG检索能力和已上传的知识库共同构建产品博士应用，具体操作如下：

1. 登录阿里云百炼控制台。

2. 在左侧导航栏，选择应用中心 > 我的应用，并单击创建应用。

3. 在应用设置页面，单击按钮，修改应用名称为产品博士并配置其它参数，示例如下：

   应用参数	参数	说明	示例
   模型	模型选择	选择合适的百炼大模型。	通义千问-Max
   	设置 > 参数配置	温度系数：调控生成的多样性。 最长回复长度：模型生成的长度限制，不包含Prompt，允许的最大长度因模型不同有所改变。 携带上下文轮数：设置输入模型的最大历史对话轮数，轮数越多，对话相关性越强。	温度系数：0.85 最长回复长度：1000 携带上下文轮数：3
   Prompt	Prompt	用来为模型授予角色和技能。	无
   	Prompt优化	针对输入的Prompt进行专业优化，使模型更容易理解指令。	无
   知识检索增强	选择知识库	开启知识检索后可通过指定知识库检索对应文档内容。	adbpgrag
   	检索片段数	在一个搜索或信息检索操作中，返回给用户的符合查询条件的文本片段的数量。	5
   	展示回答来源	开启展示回答来源之后，将在结果中以序号方式展示生成结果的来源文档，并且会消耗更多token。	已开启
   长期记忆	长期记忆	长期记忆功能是针对终端用户提供的一项个性化功能，系统将根据对话历史自动生成画像并回答问题。如果您通过API调用，请切记传入memoryID用来指定对应的终端用户，否则功能不生效。该功能需要申请并限时免费使用。	未开启
   插件	插件 > 选择插件	官方提供4款预置插件，结合增强大语言模型的规划调度能力和生成能力，更好地在您的业务场景中落地。本文以计算器、Python代码解释器插件为例。	Python代码解释器（免费） 计算器（免费）
   流程	流程 > 选择流程	通过创建流程节点任务，对接人工智能应用，实现人工智能对任务流程的调度，满足复杂及指定任务场景需求。若您需要创建新的流程，可前往流程组件。	无

4. 单击右上角发布按钮，并单击弹出框修改项确认中的确认发布。

5. 在左侧导航栏，选择应用中心 > 我的应用，即可查看已创建的产品博士应用。

更多详细内容，请参见如何创建应用调用大模型能力。

应用体验

搭建好产品博士应用后，您可以按照以下内容体验产品博士的问答服务，具体操作如下：

1. 登录阿里云百炼控制台。

2. 在左侧导航栏，选择应用中心 > 我的应用，找到产品博士并单击管理。

3. 在效果测试下空白框中输入问题，产品博士会根据您已创建的知识库检索生成答案。示例如下：

   

更多详细内容，请参见如何测试应用。