运行时(Runtime)是 LangStudio开发阶段的运行环境,支持应用流、知识库等功能的开发与调试,同时允许多个应用流和知识库复用。您可以预先创建一个运行时,为后续开发提供运行环境。本文将介绍如何创建和管理运行时。
创建运行时
进入LangStudio,选择工作空间后,在运行时页签下单击新建运行时,进入运行时创建页面。
参数 | 描述 |
运行时名称 | 自定义运行时的名称。 |
运行时工作路径 | 请选择一个OSS路径用于运行时的配置、日志等存储。建议您选择工作空间的默认存储路径作为运行时的工作路径。 |
资源规格 | 选择机器规格,如ecs.g6.xlarge。 |
专有网络配置 | 应用流和知识库的开发与调试依赖于LLM模型服务、Embedding模型服务及向量数据库等。如果这些服务部署在您的VPC内,则在创建运行时时需要选择相应的VPC,以确保运行时能够访问相关服务。 |
挂载配置 | 按需选择挂载OSS和数据集。 |
单次运行最大时长 | 应用流在线调试的默认超时时间为5分钟。若运行耗时较长,建议根据实际需求调整超时时间,以免运行中断。 |
实例RAM角色 | 运行时容器内注入的RAM角色,详情参考:配置DSW实例RAM角色。 |
运行时管理
您可以在运行时页签下,对运行时进行启动、停止和删除等操作。
后续操作
创建运行时后,您可以在创建应用流时选择运行时,或在应用流开发页面进行绑定与解绑操作。
该文章对您有帮助吗?