服务连接配置

更新时间:2025-03-14 08:57:01

在进行应用流开发时,您需要为相关节点配置服务连接。因此,在此之前,您需要创建服务连接。服务连接用于存储访问LangStudio外部服务(如已部署的模型、向量数据库等)的信息。服务连接创建完成后,您可以在不同的应用流中重复使用这些连接,从而简化集成流程。

创建服务连接

进入LangStudio,选择工作空间后,在服务连接配置页签下创建服务连接。系统支持创建以下三种类型连接:

模型服务
数据库
自定义连接

模型服务连接用于管理LangStudio工作流中调用的各种模型服务,包括部署至PAI-EAS平台的模型服务、百炼大模型服务以及其他第三方模型服务。

image

连接类型

关键参数说明

通用LLM模型服务连接

配置已部署至EAS或第三方的LLM服务(更多部署详情请参见模型部署及训练)连接。

  • 模型名称:当通过Model Gallery进行模型部署(部署为EAS服务)时,可通过模型详情页(在Model Gallery页单击模型卡片)查看模型名称的获取方法:

    image

  • 服务提供方:

    • PAI-EAS模型服务:使用PAI-EAS模型服务。EAS服务选择已部署至EASLLM服务。选择之后,base_urlapi_key会自动填充,分别对应已部署LLMVPC访问地址和Token。

    • 第三方模型服务:使用第三方模型服务,例如当第三方为DeepSeek官方服务时,base_urlhttps://api.deepseek.com,api_key可从DeepSeek 官网获取。

通用Embedding模型服务连接

配置已部署至EAS或第三方的Embedding模型服务(更多部署详情请参见模型部署及训练)。配置方法同上述配置通用LLM模型服务连接相同。

百炼大模型服务连接

配置已部署至百炼平台的模型服务连接。关键参数说明:

api_key:访问百炼-我的API-KEY,创建或查询api_key。

DeepSeek模型服务

配置DeepSeek模型服务连接。关键参数说明:

api_key:访问DeepSeek 官网,创建或查询api_key。

数据库连接用于保存各种数据库的访问配置。支持的数据库类型包括实时数仓-Hologres、向量数据库-Milvus、向量数据库-DashVector、检索分析服务-Elasticsearch和阿里云RDS-MySQL。

image

连接类型

关键参数说明

实时数仓-Hologres

  • host/port:访问Hologres控制台,在目标实例详情页的网络信息区域获取指定VPChostport。

  • database:创建数据库时设置的数据库名称。

  • user/password:进入Hologres目标实例详情页面,在账号管理创建自定义用户

    其中,选择成员角色选择实例超级管理员(SuperUser)

向量数据库-Milvus

  • uri:Milvus实例的访问地址,格式为http://<Milvus内网访问地址>。例如http://c-b1c5222fba****-internal.milvus.aliyuncs.com。Milvus内网访问地址可通过访问Milvus控制台,在目标实例详情页的访问地址区域获取。

  • token:登录Milvus实例的用户名和密码,格式为<yourUsername>:<yourPassword>

  • database:数据库名称。创建Milvus实例时,系统会默认创建数据库default,您也可以手动创建新的数据库,具体操作,请参见管理Databases

向量数据库-DashVector

  • endpoint:访问DashVector控制台,在目标Cluster详情页的访问端口区域获取专有网络(VPC)的Endpoint。

  • api_key:获取api_key,请参见API-KEY管理

检索分析服务-Elasticsearch

  • url:Elasticsearch实例的访问地址,格式为http://<私网地址>:<私网端口>。私网地址和私网端口可通过访问Elasticsearch控制台,在目标Elasticsearch实例详情页的基本信息区域获取。

  • username/password:Elasticsearchusername默认为elastic,password是您在创建Elasticsearch实例时设置的登录密码。如果登录密码已忘记,可重置实例访问密码

阿里云RDS-MySQL

如果模型服务连接和数据库连接均不能满足需求,您可以通过键值对(key-value)创建自定义连接,如SerpApi连接。

image

后续操作

创建完服务连接后,您可以在应用流开发中配置该连接。

  • 本页导读 (1)
  • 创建服务连接
  • 后续操作
AI助理

点击开启售前

在线咨询服务

你好,我是AI助理

可以解答问题、推荐解决方案等