连接配置

更新时间:
复制为 MD 格式

应用流开发中需要访问外部服务(如模型、数据库等),通过创建可复用的连接来存储访问信息,在应用流节点直接选用。

模型服务连接

模型服务连接用于管理LangStudio工作流中调用的各种模型服务,您可以根据模型类型和服务提供方创建对应的连接配置。

配置方式:进入LangStudio > 连接>模型服务,单击新建连接,不同连接类型的参数配置说明如下。

连接类型

关键参数说明

通用LLM模型服务

配置兼容OpenAI协议的LLM服务。

  • 服务提供方

    • PAI-EAS模型服务:选择已部署至EASLLM服务,base_urlapi_key会自动填充,分别对应已部署服务的VPC访问地址和Token。

    • 第三方模型服务:使用兼容OpenAI协议的第三方服务,需手动填写base_urlapi_key。

  • 模型名称:OpenAI API请求中的model的参数值。

    当通过Model Gallery进行模型部署时,可通过模型详情页(在Model Gallery页单击模型卡片)查看模型名称的获取方法。
  • Tool Call:模型是否支持通过OpenAI APITool Call方式调用。使用Agent节点时,需要选择支持Tool Call的模型。

通用Embedding模型服务

配置已部署至EAS或第三方的Embedding模型服务。

通用多模态Embedding模型服务

配置已部署至EAS或第三方的多模态Embedding模型服务,支持图像、文本等多种模态数据的向量化。

百炼大模型服务

填写与base_url同地域的api_key,参见获取API Key

DeepSeek模型服务

api_key:访问DeepSeek 官网,创建或查询api_key。

AI搜索开放平台模型服务

需先开通服务,然后参见获取服务接入地址管理API Key配置endpointapi_key。

多模态VL智能标注模型

用于多模态数据智能打标。

通用Reranker模型服务

用于对嵌入模型返回的前k个文档重新排序,仅支持ModelGallery部署的模型服务。

数据库连接

数据库连接用于保存各种数据库的访问配置。

配置方式:进入LangStudio > 连接>数据库,单击新建连接,参数配置说明如下。

数据库

关键参数说明

Elasticsearch

  • uri:格式为http://<私网地址>:<私网端口>。登录Elasticsearch控制台,在目标Elasticsearch实例详情页的基本信息区域获取。

  • username/password:默认用户名elastic,密码为创建实例时设置的登录密码。如果登录密码已忘记,可重置实例访问密码

OpenSearch

  • uri:OpenSearch向量检索版实例的公网访问地址。

    说明

    需为OpenSearch向量检索版实例开通公网访问功能,并将EAS访问公网或内网资源添加为白名单。

  • username/password:创建OpenSearch向量检索版实例时,输入的用户名和密码。

Milvus

  • uri:格式为http://<Milvus内网访问地址>,登录Milvus控制台,在目标实例详情页的访问地址区域获取。

  • token:登录Milvus实例的用户名和密码。格式为<yourUsername>:<yourPassword>

  • database:数据库名称(默认为default)。

Hologres

  • host/port:访问Hologres控制台,在目标实例详情页的网络信息区域获取指定VPChostport。

  • database创建数据库时设置的数据库名称。

  • user/password:已创建的自定义用户账号和密码。参见创建自定义用户,其中,选择成员角色选择实例超级管理员(SuperUser)

RDS-MySQL

搜索服务连接

创建阿里云IQS-联网搜索的连接,为大模型应用提供实时联网搜索的能力。

前提条件

请确认已开通阿里云信息查询服务,详情请参见新用户使用指引

配置步骤

  1. 进入LangStudio,选择地域和工作空间。

  2. 切换到连接>搜索服务页签,单击新建连接

自定义连接

如果模型服务、数据库、搜索服务的连接均不能满足需求,您可以通过键值对(key-value)创建自定义连接。

例如:配置SerpApi连接。

  • 自定义键:填写api_key。

  • 自定义值:填写SerpApiAPI Key。

    可通过 SerpApi官网注册账号并获取API Key(免费版每月可提供100次搜索机会)。

后续操作

创建完连接后,您可以在工作流应用开发中使用。