通过 VPC 接入点访问私网服务

更新时间:
复制为 MD 格式

本文介绍如何配置 VPC 接入点,使 Flow 节点能够访问部署在 VPC 内的私有服务(如自托管 LLM 推理服务或内部 HTTP API)。

功能背景

Flow 低代码 Agent 平台中,以下节点支持配置外部 API 地址:

  • 访问外部大语言模型(LLM):LLM 节点、问题分类器节点、参数提取器节点、Agent 节点。

  • 访问外部 HTTP/HTTPS 接口:HTTP 节点。

需要访问部署在自己 VPC 内的 API 服务时(例如私有化部署的 LLM 推理服务或内部 HTTP API),可通过配置 VPC 接入点将 Flow 的访问流量转发至 VPC 内的目标地址。

基本概念

VPC 接入点

VPC 接入点代表 Flow 可访问的用户 VPC 内的一个(IP 地址,端口)组合。节点配置 VPC 接入点后,Flow 执行引擎发起的访问流量将被转发至该接入点指定的目标地址和端口,而非直接访问节点中填写的原始地址。

每个 VPC 接入点绑定一个特定的 VPC,并需要指定该 VPC 下的交换机(vSwitch)和安全组,以确保网络路由和访问控制的正确性。

使用说明

通过 VPC 接入点访问 VPC 内的模型服务

以下示例演示如何在 LLM 节点中使用 VPC 接入点,访问部署在 VPC 内的私有 LLM 推理服务(地址:http://192.168.1.13:8080)。

  1. 创建 VPC 接入点。

    登录 AgentRun 控制台,进入 Flow Agent 的 LLM 节点配置面板。您可在以下两种场景中访问该配置面板:

    • 新建 Flow Agent 时,在流程编排步骤中单击 LLM 节点(创建步骤详见低代码创建 Agent 快速入门);

    • 或进入已有 Flow Agent配置与调试页面,单击 LLM 节点。

    打开配置面板后,单击模型选择区域展开详细配置,开启通过 VPC 访问目标模型开关,然后单击 VPC 接入点下拉,选择添加接入点。弹出对话框后,填写以下参数:

    参数

    示例值

    名称

    LLM_API

    VPC

    VPC-01

    交换机

    选择 VPC 下的交换机

    安全组

    选择安全组

    访问 IP

    192.168.1.13

    访问端口

    8080

    填写完成后,单击确认完成接入点创建。

  2. VPC 接入点下拉中,选择刚刚创建的接入点(例如 LLM_API)完成配置。

配置完成后,Flow 执行引擎向该 LLM 节点发起的请求流量将被转发至 VPC 接入点指定的目标地址和端口,实现对 VPC 内私有模型服务的访问。

说明

问题分类器节点、参数提取器节点和 Agent 节点的配置方式与 LLM 节点相同,在对应节点的配置面板中选择 VPC 接入点即可。

通过 VPC 接入点访问 VPC 内的 HTTP 服务

HTTP 节点同样支持 VPC 接入点功能。打开 HTTP 节点的配置面板,找到 VPC 接入点配置项,选择已创建的 VPC 接入点。

配置完成后,HTTP 节点发起的请求流量将被转发至 VPC 接入点指定的 IP 地址和端口,实现对 VPC 内私有 HTTP 服务的访问。

注意事项

  • 仅支持 IP 地址,不支持域名。当前版本的 VPC 接入点仅支持指定 IP 地址,不支持通过域名访问 VPC 内的目标服务。指定域名功能即将开放。

  • 流量转发规则。配置 VPC 接入点后,实际请求将被转发至 protocol://host:port,其中 host 和 port 取自 VPC 接入点配置的 IP 地址和端口号。protocol 的来源因节点类型而异:

    • LLM 场景:protocol 取自录入模型访问信息时 Endpoint 中的协议(http 或 https)。

    • HTTP 场景:protocol 取自 HTTP 节点中配置的目标地址协议(http 或 https)。

  • HTTPS 场景的证书要求。使用 HTTPS 协议时,VPC 接入点不要求 VPC 内目标服务的 TLS 证书签名包含接入点的 IP 地址(host),无需为接入点的 IP 地址申请额外证书。