LangStudio为应用流开发提供了直观且高效的集成开发环境,您可以构建、调试和优化由大语言模型、Python节点以及其他工具组成的应用流。
前提条件
已创建所需的连接。具体操作,请参见服务连接配置。
创建应用流
进入LangStudio,选择工作空间后,在应用流页签下单击新建应用流,进入应用流创建页面。
从模板新建
意图识别客服:创建一个基于意图识别和RAG的客服应用流,需要使用LLM连接和知识库索引。
Chat With Web Search:创建一个对话型应用,在普通对话型的基础上,提供了联网搜索功能。
NL2SQL:创建一个基于自然语言生成并执行SQL的LLM应用,需要使用LLM连接和RDS MySQL连接。
Chatbot with RAG and Web Search:创建一个基于Web搜索和RAG的对话流,需要用到SerpApi及知识库索引。
RAG:创建一个RAG应用,需要使用到向量数据库和LLM连接。
按类型新建
标准型:适用于通用应用程序开发。利用大语言模型的强大功能、定制的Python代码等来打造您的定制化应用流。
对话型:适用于对话型应用程序开发。在标准型的基础上,对话型提供对话历史、输入、输出的管理,以及对话框形式的测试界面。
开发应用流
在完成指定应用流的创建后,您可以进入开发阶段。应用流开发界面划分为以下区域:
区域 | 区域说明 | 备注 |
区域 | 区域说明 | 备注 |
① | 应用流编辑区域 | 应用流的DAG图,可直观地查看数据在整个应用流中的传递。
|
② | 应用流配置区域 | 配置应用流中的各个节点。 |
③ | 应用流显示调整区域 | 包含应用流缩放、画布调整、添加节点(大模型、Python、条件分支等)等功能。 |
④ | 应用流运行区域 | 包含一些常用的操作按钮,如启动/查看/删除运行时、调试/运行应用流、应用流部署、应用流克隆、查看应用流历史等功能
|
基础开发流程如下:
(可选)添加节点:单击应用流节点输出端“+”或画布左下方的添加节点,然后在“+”位置进行首尾连线。
启动运行时:单击右上角启动运行时并进行配置。注:在进行Python节点解析或查看更多工具时,需要保证运行时已启动。运行时一旦启动即会产生费用,因此如果您暂不需要运行业务流,建议删除运行时,避免持续计费。
关键参数说明:
专有网络配置:请确保选择的VPC和应用流所用的连接(如大模型服务连接、数据库服务连接等)所在的VPC一致或两者网络已连通。
配置节点参数。
支持添加大模型、Python等类型的节点。当添加Python节点时,关键说明:
函数需要被
@tool
装饰,才可以被加载为一个节点。修改完代码后,会自动进行解析,函数的入参会被动态解析成节点的输入;函数的输出会被放到output字典中,可以被其他节点引用。
注:图中Python节点的入参input1是chat节点的输出,同时Python节点的输出作为应用流最终的输出字段answer的值。
函数支持的输入/输出类型:int、float、bool、str、dict、TypedDict、dataclass(只支持输出)、list。
调试/运行:单击右上角运行, 开始执行应用流。
查看链路/错误日志:单击生成答案下的查看链路或查看日志,查看链路(Trace详情、拓扑视图)或运行日志。
删除运行时。如果您暂不需要运行业务流,建议删除运行时,避免持续计费。
后续操作
应用流开发、调试完成后,您可以将应用流部署至模型在线服务PAI-EAS中供生产使用。
- 本页导读 (1)
- 前提条件
- 创建应用流
- 从模板新建
- 按类型新建
- 开发应用流
- 后续操作