RAG应用流-人工智能平台 PAI(PAI)-阿里云帮助中心

RAG（检索增强生成）通过检索私有知识库为大语言模型补充企业数据，弥补模型知识不足。在 LangStudio 中可快速构建面向金融、医疗场景的 RAG 应用流，提升回答准确性。

背景信息

RAG 模型结合检索和生成式 AI 的优势，在金融、医疗等专业领域提供精准回答。本文以 PAI 为基础，介绍面向金融、医疗场景的 RAG 检索增强解决方案。

前提条件

LangStudio向量数据库支持使用Faiss或Milvus向量数据库，若您希望使用Milvus数据库，您需要先完成Milvus数据库的创建，详情请参见创建Milvus实例、实例管理。
说明
Faiss通常用于测试环境，无需额外创建数据库即可使用。在生产环境中，建议您使用Milvus数据库，支持处理更大规模的数据。
已将RAG知识库语料上传至OSS中。本文针对金融、医疗场景提供以下示例语料：
- 金融新闻：数据为PDF格式，主要内容为公开新闻网站上的新闻报道。
- 疾病介绍：数据为CSV格式，主要内容为维基百科上的疾病介绍。

1. （可选）部署LLM和Embedding模型

RAG应用流需要用到LLM和Embedding模型服务，本节将详细介绍如何通过ModelGallery快速部署所需的模型服务。若您已有符合要求的模型服务，且服务支持OpenAI API，则可跳过此步骤，直接使用现有服务。

前往快速开始 > ModelGallery，分别部署以下两种场景的模型。更多部署详情，请参见模型部署及训练。

重要

请务必选择使用指令微调的大语言模型，Base模型无法正确遵循用户指令回答问题。

场景选择大语言模型，以DeepSeek-R1-Distill-Qwen-7B为例进行部署。
场景选择Embedding，以bge-m3 通用向量模型为例进行部署。

2. 创建连接

本文创建的LLM和Embedding模型服务连接基于快速开始 > Model Gallery中部署的模型服务（EAS服务）。更多其他类型的连接及详细说明，请参见连接配置。

2.1 创建LLM服务连接

进入LangStudio，选择工作空间后，在服务连接配置 > 模型服务页签下单击新建连接，创建通用LLM模型服务连接。

关键参数说明：

参数	说明
模型名称	当通过Model Gallery进行模型部署时，可通过模型详情页（在Model Gallery页单击模型卡片）查看模型名称的获取方法，详情请参见创建连接-模型服务。
服务提供方	PAI-EAS模型服务：本文使用PAI-EAS模型服务。此时EAS服务可选择1. （可选）部署LLM和Embedding模型中部署的LLM服务。选择之后，base_url和api_key会自动填充，分别对应已部署LLM的VPC访问地址和Token。第三方模型服务：使用第三方模型服务，例如当第三方为DeepSeek官方服务时，base_url为`https://api.deepseek.com`，api_key可从DeepSeek 官网获取。

2.2 创建Embedding模型服务连接

同2.1 创建LLM服务连接类似，创建通用Embedding模型服务连接。

在新建连接页面，连接类型选择通用Embedding模型服务，服务提供方选择PAI-EAS模型服务 Tab 页签，然后配置以下参数：

EAS服务：选择已部署的 EAS Embedding 服务实例。
模型名称：填写 default。
base_url：EAS 服务的访问地址。
api_key：EAS 服务的 API Key。

2.3 创建向量数据库连接

在服务连接配置 > 数据库页签下单击新建连接，创建Milvus数据库连接。

关键参数说明：

参数	说明
uri	Milvus实例的访问地址，格式为`http://<Milvus内网访问地址>`。例如`http://c-b1c5222fba****-internal.milvus.aliyuncs.com`。
token	登录Milvus实例的用户名和密码，即`<yourUsername>:<yourPassword>`。
database	数据库名称，本文使用默认数据库`default`。

3. 创建知识库索引

新建知识库索引，将语料经过解析、分块、向量化后存储到向量数据库，从而构建知识库。其中关键参数配置说明如下，其他配置详情，请参见知识库管理。

参数	描述
基础配置
数据源OSS路径	配置前提条件中RAG知识库语料的OSS路径。
输出OSS路径	配置文档解析生成的中间结果和索引信息的路径。重要当使用FAISS作为向量数据库时，应用流会将生成的索引文件保存到OSS。若使用PAI默认角色（应用流开发-启动运行时时设置的实例RAM角色），应用流可以默认访问用户工作空间的默认存储Bucket，因此建议将此参数配置为当前工作空间默认存储路径所在的OSS Bucket下的任一目录。如果使用自定义角色，您需要为自定义角色授予OSS的访问权限（建议授予AliyunOSSFullAccess权限），详情请参见管理RAM角色的权限。
Embedding模型和数据库
Embedding类型	选择通用Embedding模型服务。
Embedding连接	选择2.2 创建Embedding模型服务连接中创建的Embedding模型服务连接。
向量数据库类型	选择向量数据库 Milvus。
向量数据库连接	选择2.3 创建向量数据库连接中创建的Milvus数据库连接。
数据表名	配置前提条件中创建Milvus数据库的Collection。
专有网络配置
专有网络配置	请确保所配置的专有网络与Milvus实例保持一致，或确保已选的专有网络和Milvus实例所在的专有网络已经互通。

4. 创建并运行RAG应用流

进入LangStudio，选择工作空间后，在应用流页签下单击新建应用>工作流，创建RAG应用流。
启动运行时：单击右上角创建运行时并配置。注：在进行Python节点解析或查看更多工具时，需要保证运行时已启动。
关键参数说明：
专有网络配置：选择前提条件中创建Milvus实例时的专有网络，或确保已选的专有网络和Milvus实例所在的专有网络已经互通。
开发应用流。
应用流中的其余配置保持默认或根据实际需求进行配置，关键节点配置如下：
- 知识库检索：在知识库中检索与用户问题相关的文本。
  - 知识库索引名称：选择3. 创建知识库索引中创建的知识库索引。
  - Top K：返回Top K条匹配的数据。
- 大模型节点：使用检索到的文档作为上下文，与用户问题一起发送给大语言模型，生成回答。
  - 模型设置：选择2.1 创建LLM服务连接中创建的连接。
  - 对话历史：是否启用对话历史，将历史对话信息作为输入变量。
关于各节点组件详情，请参见预置组件说明。
调试/运行：单击右上角运行，开始执行应用流。关于应用流运行时的常见问题，请参见常见问题。
查看链路：单击生成答案下的查看链路，查看Trace详情或拓扑视图。

5. 部署应用流

在应用流开发页面，单击右上角部署，将应用流部署为EAS服务。部署参数其余配置保持默认或根据实际需求进行配置，关键参数配置如下：

资源部署 > 实例数：配置服务实例数。本文部署仅供测试使用，因此实例数配置为1。在生产阶段，建议配置多个服务实例，以降低单点故障的风险。
专有网络 > VPC：配置Milvus实例所在的专有网络，或确保已选的专有网络和Milvus实例所在的专有网络已经互通。

更多部署详情，请参见应用流部署。

6. 调用服务

部署成功后，跳转到PAI-EAS，在在线调试页签下配置并发送请求。请求Body中的Key与应用流中“开始节点”中的参数"对话输入"字段一致，本文使用默认字段question。

在 在线调试 页签下，选择 POST 请求方法，在 Body 中以 raw JSON 格式输入 {"question": "英伟达的股价是多少"}，单击 发送请求，右侧 Response 区域返回 Status Code: 200 及包含股价信息的 JSON 响应。

更多调用方式（如API调用）及详细说明，请参见应用流部署-调用服务。

附录：案例对比

在以下案例中，将对比金融和医疗领域中使用与不使用RAG技术来解决特定任务的效果。红色部分表示大模型回答存在事实性错误或不够具体精确，而绿色部分则展示了使用RAG技术后得到的正确回复。

金融领域

任务一：投资风险分析

问题：请根据最新的新闻报道，分析美国科技行业目前投资风险性如何，是否存在泡沫，给出是或否的具体回答。

DeepSeek-R1-Distill-Qwen-7B回复

DeepSeek-R1-Distill-Qwen-7B+RAG回复

是的，根据最新的新闻报道，美国科技行业存在泡沫的可能性较大。

主要依据如下：

1. 高估值：许多科技公司的股价在历史高位，市场对这些公司未来增长潜力的乐观预期被高估，一旦市场情绪发生变化，可能导致股价大幅下跌。
2. 资本支出激增：科技公司在人工智能、加密货币等领域投入大量资本，这些高风险领域的回报不确定性高，增加了财务压力。
3. 市场波动：最近的裁员潮和股价波动显示市场对科技行业的重新评估，这种波动是市场泡沫的一个重要信号。
4. 政策不确定性：全球范围内的监管政策变化对科技公司产生影响，增加了市场不确定性，可能进一步推动泡沫破裂。
5. 经济环境：当前全球经济环境的不确定性，包括利率上升和经济增长放缓，这些因素都可能对科技行业产生负面影响。

综上所述，美国科技行业当前确实存在泡沫的可能性较大。投资者在进行相关投资时应保持警惕，并采取相应的风险管理措施。

任务二：行业趋势分析

问题：请根据最新的新闻报道，给出房地产相关行业是否乐观的判断。

DeepSeek-R1-Distill-Qwen-7B回复

要给出房地产相关行业的最新判断，需要具体参考最新的新闻报道和数据。不过，我可以提供一个基于当前趋势的一般性分析框架，帮助您理解如何评估房地产行业的前景。

1. 宏观经济环境：经济增长、通货膨胀率、利率水平等宏观经济因素对房地产市场有直接影响。例如，经济增长通常会带动房地产需求的增长，而高通胀和利率上升可能会抑制购房需求。
2. 政策调控：政府对于房地产市场的调控措施，如限购、限贷政策，以及土地供应政策的变化，都会影响市场的供需关系和投资氛围。
3. 市场需求：城镇化进程、人口结构变化、居民收入水平等因素也会影响房地产市场的长期需求。
4. 技术进步与创新：绿色建筑、智能家居等新技术的应用可能改变房地产产品的形式和功能，影响消费者的购买决策。
5. 国际环境：全球经济形势、国际贸易状况等国际因素也可能间接影响国内房地产市场。
6. 市场信心：投资者和消费者的市场信心是影响房地产市场的重要因素之一。如果市场普遍认为房地产价格将上涨，可能会吸引更多投资；反之亦然。

由于我无法访问最新的新闻报道，建议您查阅最近的经济报告、官方统计数据以及专业分析机构发布的研究报告，以获得更准确的信息来判断房地产相关行业的前景。同时，也可以关注政府发布的相关政策文件，了解最新的政策导向和监管措施。

DeepSeek-R1-Distill-Qwen-7B+RAG回复

任务三：贸易情况分析

问题：我国近10个月来货物贸易进出口情况如何？

DeepSeek-R1-Distill-Qwen-7B回复

DeepSeek-R1-Distill-Qwen-7B+RAG回复

医疗领域

任务一：疾病治疗建议

问题：患者女，40岁，常年患有全身性红斑狼疮。请根据相关医疗知识，给出个性化的治疗建议。

DeepSeek-R1-Distill-Qwen-7B回复

对于40岁的女性患者，如果确诊为全身性红斑狼疮（Systemic Lupus Erythematosus, SLE），治疗方案通常需要个体化制定，因为SLE的症状和病情严重程度在不同患者之间差异很大。治疗的目标是控制炎症、减轻症状、防止器官损害，并提高生活质量。以下是一些基本的治疗建议：

药物治疗：

非甾体抗炎药（NSAIDs）：用于缓解轻度疼痛和炎症。

糖皮质激素：如泼尼松，用于控制急性炎症和严重的症状。长期使用可能会有副作用，因此剂量需谨慎调整。

免疫抑制剂：如环磷酰胺、甲氨蝶呤等，用于控制疾病活动度较高的情况，特别是当糖皮质激素效果不佳时。

抗疟疾药物：如羟氯喹，可用于控制皮肤和关节症状。

生物制剂：对于某些对传统疗法反应不佳的患者，可能需要考虑使用生物制剂。

生活方式调整：

避免阳光直射：紫外线可诱发或加重SLE的症状，应尽量避免长时间暴露于阳光下。

健康饮食：均衡饮食，保持健康的体重。

适量运动：有助于改善身体状况和心情，但应避免过度劳累。

戒烟限酒：烟草和酒精可能加重病情。

定期随访：定期进行血液检查和其他必要的医学检查，以便及时调整治疗计划。

心理支持：SLE可能给患者带来较大的心理压力，提供适当的心理支持和咨询是非常重要的。

请注意，以上建议仅供参考，具体治疗方案应由专业的风湿病医生根据患者的实际情况制定。每位患者的具体情况不同，治疗方案也会有所差异。因此，强烈建议与您的主治医生密切合作，共同决定最适合您的治疗计划。

DeepSeek-R1-Distill-Qwen-7B+RAG回复

对于40岁的全身性红斑狼疮（SLE）患者，个性化治疗方案需要考虑患者的具体症状、病情活动度、
是否有器官损伤或并发症等因素。以下是一些建议：

1. 定期监测与评估：定期进行肺功能检查及呼吸道症状评估，以便及时发现并治疗肺部损伤。
   定期进行免疫标志物检测如抗核抗体等，以便更早地调整治疗方案。

2. 药物治疗：根据病情活动度选择合适的药物。如果患者病情较为稳定，可能需要使用非甾体
   抗炎药（NSAIDs）控制症状；如果病情较为活跃，可能需要使用糖皮质激素和/或免疫抑制
   剂如羟氯喹、氨甲蝶呤、霉酚酸酯等治疗。对于有严重并发症如狼疮肾炎、神经精神狼疮的
   患者，可能需要更强效的免疫抑制剂或生物制剂治疗。

3. 生活方式建议：建议患者避免过度暴露于阳光下，因为紫外线可能诱发或加剧病情。同时，
   鼓励患者戒烟、适量运动、保持健康的生活方式。

4. 定期复查：建议每半年至一年进行一次高分辨率计算机断层检查（HRCT），监测肺功能，以
   便及时发现肺部损伤的早期迹象并进行干预。

5. 营养与支持：鼓励患者摄入足够的维生素和矿物质，特别是维生素D，以维持整体健康。同
   时，提供心理支持和咨询，帮助患者应对疾病带来的压力和情绪困扰。

请注意，这些建议仅供参考，具体治疗方案应由专业医生根据患者的详细病史和体检结果来制定。

任务二：疾病辅助诊断

问题：患者男，30岁，近日发现右眼视力严重受损，视力模糊并且出现复视，同时有肢体无力、共济失调现象。请根据相关医疗知识，判断患者可能患有的疾病，并且推荐医院相关科室进行治疗。

DeepSeek-R1-Distill-Qwen-7B回复

DeepSeek-R1-Distill-Qwen-7B 回复示例：系统根据患者描述的症状，分析出五种可能诊断（视神经炎、脑血管意外、多发性硬化症、颅内肿瘤、其他神经系统疾病如格林-巴利综合征），并给出建议就诊科室（神经内科、眼科、神经外科、康复科）和进一步检查方案（MRI 扫描、视觉诱发电位 VEP、血液检查、腰椎穿刺），最后建议立即前往医院急诊科就诊。

DeepSeek-R1-Distill-Qwen-7B+RAG回复

任务三：疾病预警

问题：孕妇子痫前症的发病病因有哪些。

DeepSeek-R1-Distill-Qwen-7B回复

DeepSeek-R1-Distill-Qwen-7B+RAG回复

基于LangStudio搭建DeepSeek+RAG在金融和医疗领域的问答应用流

背景信息

前提条件

1. （可选）部署LLM和Embedding模型

2. 创建连接

2.1 创建LLM服务连接

2.2 创建Embedding模型服务连接

2.3 创建向量数据库连接

3. 创建知识库索引

4. 创建并运行RAG应用流

5. 部署应用流

6. 调用服务

附录：案例对比

金融领域

任务一：投资风险分析

任务二：行业趋势分析

任务三：贸易情况分析

医疗领域

任务一：疾病治疗建议

任务二：疾病辅助诊断

任务三：疾病预警

相关文档