运行时管理

运行时(Runtime)是 LangStudio开发阶段的运行环境,支持应用流、知识库等功能的开发与调试,同时允许多个应用流和知识库复用。您可以预先创建一个运行时,为后续开发提供运行环境。本文将介绍如何创建和管理运行时。

创建运行时

进入LangStudio,选择工作空间后,在运行时页签下单击新建运行时,进入运行时创建页面。

image

参数

描述

运行时名称

自定义运行时的名称。

运行时工作路径

请选择一个OSS路径用于运行时的配置、日志等存储。建议您选择工作空间的默认存储路径作为运行时的工作路径。

image

资源规格

选择机器规格,如ecs.g6.xlarge。

专有网络配置

应用流和知识库的开发与调试依赖于LLM模型服务、Embedding模型服务及向量数据库等。如果这些服务部署在您的VPC内,则在创建运行时时需要选择相应的VPC,以确保运行时能够访问相关服务。

挂载配置

按需选择挂载OSS和数据集。

单次运行最大时长

应用流在线调试的默认超时时间为5分钟。若运行耗时较长,建议根据实际需求调整超时时间,以免运行中断。

实例RAM角色

运行时容器内注入的RAM角色,详情参考:配置DSW实例RAM角色

运行时管理

您可以在运行时页签下,对运行时进行启动、停止和删除等操作。

image

后续操作

创建运行时后,您可以在创建应用流时选择运行时,或在应用流开发页面进行绑定与解绑操作。

image

image