通过 PrivateLink 私网访问阿里云百炼

更新时间:
复制 MD 格式

1 场景描述

随着大模型技术进入规模化落地阶段,越来越多的企业在阿里云 VPC 中部署 AI Agent 应用,通过频繁调用阿里云百炼(DashScope)的模型或应用 API 完成推理、对话、Embedding 等能力。Agent 与百炼之间的调用具有请求密集、请求体大(Prompt 与多模态上下文)、时延敏感三大特征。

在传统公网接入模式下,Agent 需通过弹性公网 IP(EIP)或 NAT 网关加 EIP 访问百炼公网端点(dashscope.aliyuncs.com)。当日均调用量攀升到百万级时,公网出方向流量费用、公网链路时延波动与安全合规问题会同步放大。阿里云百炼已原生集成私网连接 PrivateLink(服务名称 com.aliyuncs.dashscope),Agent 应用可直接通过 VPC 内的接口终端节点私网访问百炼 API,流量全程在阿里云内部网络传输,不经过公网(详见 私网访问阿里云百炼模型或应用 API)。

阿里云百炼当前公共云支持华北 2(北京)与新加坡两个地域,Agent 部署地域与业务分布形态多样。为覆盖企业不同的组网现状,本方案提供三种可组合选用的接入拓扑:同地域直接接入、同境内或同境外跨地域接入、跨境跨地域接入。

2 解决方案

2.1 客户需求

  • Agent 应用部署在阿里云 VPC 内,需要频繁调用百炼 API 且对时延稳定性有较高要求

  • 数据传输须满足合规要求,避免 Prompt 与模型响应数据在公网上暴露

  • 希望以更低的网络成本承接大规模高并发调用,替代以公网出方向流量为主的接入模式

  • 需要跨可用区高可用部署,避免单点故障造成推理服务中断

  • Agent 与百炼可能不在同一地域或不在同一互通范围内,需覆盖同地域、同境内/同境外跨地域、境内与境外跨境三种组网形态

  • 需要精细化的访问控制,配合安全组、RAM 与终端节点策略实现最小化授权

2.2 方案架构

方案的核心是在 Agent 所在 VPC 或百炼所在地域的 VPC 内创建接口终端节点,通过私网连接 PrivateLink 已原生集成的百炼服务 com.aliyuncs.dashscope 建立到百炼的私网通路。三种拓扑按 Agent 与百炼的地域关系与是否跨境组合:

拓扑

适用条件

组合产品

核心机制

拓扑 A:同地域直接接入

Agent VPC 与百炼在同一地域

PrivateLink

在 Agent VPC 内创建接口终端节点,直接接入百炼服务

拓扑 B:同境内或同境外跨地域

Agent VPC 与百炼不在同一地域,但同属中国内地或同属境外

PrivateLink 跨地域端点

在 Agent VPC 所在地域创建接口终端节点,启用跨地域端点勾选百炼所在地域

拓扑 C:跨境跨地域

Agent VPC 与百炼分别位于中国内地与境外

PrivateLink + CEN

在百炼所在地域创建接口终端节点,通过 CEN 将 Agent VPC 与百炼所在地域 VPC 跨地域互通

拓扑选型地域示例矩阵

Agent 部署地域

百炼地域

该选拓扑

说明

华北 2 北京

华北 2 北京

A

同地域

新加坡

新加坡

A

同地域(境外)

华东 1 杭州

华北 2 北京

B

同境内跨地域

华南 1 深圳

华北 2 北京

B

同境内跨地域

马来西亚 吉隆坡

新加坡

B

同境外跨地域

华北 2 北京

新加坡

C

跨境跨地域

新加坡

华北 2 北京

C

跨境跨地域

2.2.1 拓扑 A:同地域直接接入

image

图例:虚线 = 控制平面(DNS 解析,仅首次查询域名时触发);粗实线 = 数据平面(业务流量实际路径)。

数据流说明:Agent 首先通过 DNS 将自定义/默认服务域名解析为本可用区 ENI 的私网 IP(步骤 1,一次性),之后所有请求直接发往 ENI IP → 经 PrivateLink 转发 → 到达百炼服务端(步骤 2-3),DNS 不参与后续数据转发。

架构要点:

  • Agent VPC 与百炼在同一地域,PrivateLink 在关联的多可用区交换机下自动创建 ENI,各可用区 IP 被聚合成默认服务域名

  • 默认服务域名由百炼作为服务方预置,仅支持 HTTP;HTTPS 场景须启用"自定义服务域名",域名形如 vpc-<region>.dashscope.aliyuncs.com,同样由百炼预置(用户仅需勾选启用,不能自行输入字符串),域名附带百炼签发的证书

  • 流量路径:Agent → 终端节点 ENI → PrivateLink 转发平面 → 百炼服务端,全程私网

2.2.2 拓扑 B:同境内或同境外跨地域

image

图例同上:虚线 = DNS 解析(控制平面);粗实线 = 数据平面。

数据流说明:Agent 在杭州 VPC 内解析默认服务域名获取本地域 ENI IP(步骤 1),随后请求直接发到 ENI → 经 PrivateLink 跨地域链路转发到北京百炼(步骤 2-3),响应原路返回。跨地域链路由 PrivateLink 内部承接,用户无需额外部署 CEN。

架构要点:

  • 在 Agent VPC 所在地域创建接口终端节点,勾选"启用跨地域端点"并选择百炼所在地域(华北 2 或新加坡)

  • 默认服务域名可在跨地域互联的 VPC 内直接被访问;自定义服务域名仅在终端节点所在地域 VPC 内直接生效,跨地域使用自定义域名需借助 PrivateZone

  • 中国内地互通默认支持 1000 Mbps 带宽,非中国内地互通默认支持 100 Mbps 带宽(来源:私网访问阿里云百炼模型或应用 API"跨地域配置");跨地域流量费由 CDT 结算

  • 仅适用于同境内跨地域或同境外跨地域(如华东 1 ↔ 华北 2、其他境外地域 ↔ 新加坡),中国内地与境外的跨境访问不支持此方式

2.2.3 拓扑 C:跨境跨地域

image

数据流说明:Agent 在北京 VPC 内通过 PrivateZone 解析目标域名获取新加坡接入 VPC 中 ENI 的私网 IP(步骤 1),请求发出后经 CEN 跨地域连接到达新加坡 TR → 进入接入 VPC → 到达终端节点 ENI → 经 PrivateLink 转发到百炼服务端(步骤 2-3),响应原路返回。DNS 不在数据转发链路上。

架构要点:

  • 终端节点须部署在百炼所在地域的 VPC 内,形成"接入 VPC"

  • Agent VPC 与接入 VPC 分别接入云企业网 CEN 的两地转发路由器 TR,配置跨地域连接

  • 中国内地与境外之间的跨地域连接须按控制台提示提交跨境审批,通常 1~2 个工作日

  • 默认服务域名在跨地域互联的 VPC 内可直接解析;如需在发起端使用自定义服务域名,通过 PrivateZone 创建同名内网权威域名,并使用 CNAME 记录指向默认服务域名(详见参考文档中"通过终端节点私网访问阿里云百炼模型或应用 API"一文的"跨地域场景下使用自定义服务域名"章节)

  • 两端 VPC 网段不可重叠,避免路由冲突

  • 跨地域连接须使用企业版 TR

2.3 客户价值

  • 网络成本可预期地下降:调用百炼产生的出方向流量从公网计费切换为 PrivateLink 私网流量处理费,同时消除 EIP 与 NAT 网关的公网侧费用,长期运行成本结构更清晰

  • 数据传输合规增强:Agent 到百炼的 Prompt、上下文与模型响应数据全程在阿里云私有网络内传输,不经过公网,规避链路窃听风险,满足金融、医疗、政务等行业的合规诉求

  • 时延稳定与并发承载:私网链路不受互联网拥塞影响,时延波动小;PrivateLink 支持大规模并发调用,避免公网出口成为瓶颈

  • 架构与运维简化:无需管理 EIP、NAT 网关或 SNAT 规则,Agent 通过域名直接访问百炼,代码零改造即可从公网接入切换至私网接入

  • 多可用区自动容灾:PrivateLink 多可用区 ENI 与 PrivateZone/默认域名解析结合,单可用区故障时业务无感切换

  • 组网灵活性:三种拓扑覆盖同地域、同境内/同境外跨地域、境内境外跨境三种业务分布形态,企业可按 Agent 部署地域按需选型

与公网接入方案的定性对比

维度

公网 EIP/NAT + 百炼公网域名

本方案(PrivateLink 私网)

出方向流量费

公网流量单价(GB 级流量随调用量线性增长,参见 EIP/CBWP 计费)

PrivateLink 流量处理费 0.07 元/GB(同地域)

链路组件

EIP + NAT 网关 + 安全组 + Anti-DDoS

终端节点 ENI + 安全组 + 终端节点策略

时延稳定性

受公网拥塞影响

走阿里云内部网络,时延稳定

数据链路合规

依赖 HTTPS 加密

全程私网传输 + HTTPS

攻击面

出方向公网 IP 暴露

无公网 IP 暴露

跨地域/跨境

依赖公网互联网

拓扑 B 跨地域端点 / 拓扑 C CEN 私网

精确的成本节省与 ROI 请结合实际调用量、平均请求体大小与 EIP/CBWP 计费档位建模测算,各项计费详情参见阿里云官方计费文档。

2.4 涉及产品与计费

产品

计费项

适用拓扑

参考文档

私网连接 PrivateLink(同地域)

接口终端节点实例费按可用区数 × 使用时长计费;流量处理费按 GB 计费

A / B / C 均涉及

详见 使用私网连接PVL(PrivateLink)跨VPC访问服务器

私网连接 PrivateLink(跨地域端点)

除实例费与流量处理费外,另计跨地域连接流量费(由 CDT 结算)

拓扑 B

私网访问阿里云百炼模型或应用 API、【202604】私网连接(PrivateLink)支持跨地域连接

云企业网 CEN + 转发路由器 TR

TR 连接费、TR 流量处理费;跨地域流量由 CDT 统一结算

拓扑 C

跨地域流量

云数据传输 CDT

跨地域、公网流量的统一计费

拓扑 B / C

计费概述

云解析 PrivateZone

按记录数与查询量计费

拓扑 A HTTPS / 拓扑 B/C 自定义域名

参见阿里云云解析 PrivateZone 官方计费页面

专有网络 VPC

VPC 本身免费;流日志等增值能力另计

全部

产品计费

大模型服务平台百炼

按模型/应用 API 的官方计费规则

全部

参见阿里云百炼产品定价页面

商务折扣或大客户报价请通过阿里云商务渠道咨询。

3 注意事项

3.1 通用注意事项

  • 服务地域支持:阿里云百炼私网接入当前公共云支持华北 2(北京)与新加坡,美国(弗吉尼亚)地域暂不支持

  • 协议与域名区分:默认服务域名仅支持 HTTP 协议;如需 HTTPS 访问,须在创建终端节点时开启"自定义服务域名"。自定义服务域名由百炼服务方预置为 vpc-<region>.dashscope.aliyuncs.com,用户不能自定义域名字符串

  • 默认服务域名格式以控制台实际返回为准:形如 ep-***.<服务标识>.<region>.privatelink.aliyuncs.com,其中 <服务标识> 段以控制台"基本信息 → 终端节点服务域名"字段实际值为准

  • 安全组入方向放行:终端节点关联的安全组必须放行入方向 80 端口(HTTP)与 443 端口(HTTPS),来源为发起端 Agent 所在网段

  • 跨可用区高可用:终端节点至少关联 2 个不同可用区的交换机,避免单可用区故障导致业务中断;NIS 巡检会将"单可用区接口终端节点"标记为风险项

  • SDK 版本要求:如使用 DashScope SDK 私网调用,须使用支持自定义 base_url / base_http_api_url 的版本;具体最低版本以 私网访问阿里云百炼模型或应用 API 的示例声明为准

  • 公网访问限制:接口终端节点仅面向阿里云内网,终端节点网卡不支持绑定 EIP,也不具备公网访问能力,跨云或本地办公场景访问须先接入 VPC

3.2 拓扑选型注意事项

  • 拓扑 A 同地域:优先选择,架构最简、成本最低

  • 拓扑 B 跨地域端点:仅适用于同境内跨地域或同境外跨地域,中国内地与境外之间不支持此方式;跨地域带宽默认为分级设置,业务超过默认带宽时须评估升级方案

  • 拓扑 C 跨境:适用于中国内地与境外之间的访问;须提前完成 CEN 跨境审批(通常 1~2 个工作日),审批未通过前跨境路径不可用;须使用企业版 TR

  • 终端节点地域:拓扑 A/B 的终端节点位于 Agent VPC 所在地域;拓扑 C 的终端节点必须位于百炼所在地域,通过 CEN 承接跨地域私网连接

  • PrivateZone 命名限制:内网域名与主机记录仅可使用字母、数字与短划线 -,禁止使用下划线 _,否则会导致 API 调用失败

  • 网段规划:拓扑 C 中 Agent VPC 与接入 VPC 网段不可重叠;同境内跨地域场景也建议提前规划避免与未来互通的 VPC 冲突

4 实施步骤

4.1 实施准备

  • 拓扑选型决策

    • Agent VPC 与百炼是否同地域 → 是则选拓扑 A

    • 是否同境内或同境外跨地域 → 是则选拓扑 B(启用跨地域端点)

    • 是否跨境跨地域 → 是则选拓扑 C(CEN + 同地域终端节点)

  • 环境预检清单

    • Agent 所在 VPC 已创建,且交换机 CIDR 有可用 IP 供终端节点 ENI 分配

    • 已在百炼控制台完成开通并获取 API Key(示例环境变量 DASHSCOPE_API_KEY)

    • 已按 PrivateLink 控制台指引开通私网连接服务,服务关联角色 AliyunServiceRoleForPrivateLink 已存在或授权自动创建

    • 终端节点关联的安全组已规划入方向规则(80、443)

    • 拓扑 C 场景:已确认拥有 CEN 企业版 TR 实例(或规划创建),Agent VPC 与接入 VPC 网段不冲突,已知悉跨境审批周期

  • 容量与高可用评估

    • 至少选择 2 个不同可用区的交换机

    • 拓扑 B:结合业务调用峰值评估默认带宽是否满足(中国内地互通 1000 Mbps、非中国内地互通 100 Mbps)

    • 拓扑 C:评估 CEN TR 连接费与跨地域流量费成本

4.2 快速部署路径(PoC / 验证)

以最短路径完成同地域拓扑 A 的功能验证,跨地域/跨境验证请直接使用 4.3 生产部署路径。

  1. 创建接口终端节点:终端节点控制台选择百炼地域,服务筛选 com.aliyuncs.dashscope,选择 Agent VPC 与至少一个交换机(PoC 阶段可先单可用区),关联允许 80 端口的安全组

  2. 获取默认服务域名:终端节点详情页读取"基本信息 → 终端节点服务域名"

  3. Agent 侧替换 base_url:将百炼 base_url 从公网端点替换为默认服务域名(HTTP)

  4. 基础验证:Agent VPC 内 ECS 执行一次典型调用(curl OpenAI 兼容模式),确认返回 HTTP 200

⚠️ 进入生产前必须重建为"自定义服务域名 + HTTPS"(4.3.1 起),并同步开放安全组 443 端口。

4.3 生产部署路径

三种拓扑分别按以下步骤执行,共享的高可用、安全、监控配置在 4.3.4 统一说明。

4.3.1 拓扑 A 同地域直接接入

  • 在 Agent VPC 所在地域(即百炼所在地域)创建接口终端节点,关联至少 2 个不同可用区的交换机

  • 创建时开启"自定义服务域名",Agent 侧统一使用自定义域名并通过 HTTPS 调用

  • Agent 应用替换 base_url 为自定义服务域名 https://vpc-<region>.dashscope.aliyuncs.com/compatible-mode/v1

4.3.2 拓扑 B 同境内或同境外跨地域

  • 在 Agent VPC 所在地域创建接口终端节点,选择"阿里云服务",勾选"启用跨地域端点"并选择百炼服务地域

  • 关联至少 2 个不同可用区的交换机与允许 80/443 入方向的安全组

  • Agent 侧使用返回的默认服务域名,直接在发起端 VPC 内解析访问;如需 HTTPS + 自定义域名,通过 PrivateZone 在发起端 VPC 创建同名内网域名并 CNAME 到默认服务域名

  • 跨地域带宽超过默认值时通过配额中心提交提升申请或联系客户经理协助扩容

4.3.3 拓扑 C 跨境跨地域

  • 在百炼所在地域的 VPC 内创建接口终端节点(配置同 4.3.1),获取默认服务域名

  • 将 Agent VPC 与接入 VPC 分别加入同一云企业网 CEN 实例,各自连接到本地域企业版 TR

  • 在 CEN 中创建两地 TR 之间的跨地域连接,按控制台提示提交跨境审批

  • 审批通过后,在 Agent 所在发起端 VPC 内通过 PrivateZone 创建与默认/自定义服务域名同名的内网权威域名,CNAME 记录指向接入 VPC 中的默认服务域名

  • Agent 侧替换 base_url 为该域名并通过 CEN 私网路径访问

4.3.4 公共配置(三种拓扑均适用)

  • 高可用:终端节点关联多可用区交换机;通过 NIS 巡检识别单可用区实例并整改

  • 安全:终端节点安全组入方向仅放行 Agent 网段的 80/443;按最小权限原则分配 PrivateLink 与百炼相关 RAM 策略;AliyunServiceRoleForPrivateLink 首次使用自动创建

  • 监控:接入云监控查看 PrivateLink 提供的关键指标(终端节点与终端节点服务两个监控对象,每个对象包含 8 个关键指标:正常/丢弃 × 入向/出向 × 带宽/包速率,详见 监控告警),配置阈值告警

  • 配额:通过配额中心或专有网络控制台管理终端节点数量、可用区数量与终端节点服务数量的配额,业务扩展前提前提额

4.4 验证与故障排查

验证检查清单

通用验证:

  • DNS 解析验证:dig 或 nslookup 目标域名,返回结果为终端节点 ENI 的 VPC 内 IP

  • 连通性验证:Agent VPC 内 ECS 调用百炼 /chat/completions,返回 HTTP 200

  • 高可用验证:临时关停其中一个可用区的 ENI 对应的安全组入方向规则,Agent 调用应自动切换到其他可用区

  • 安全策略验证:从非授权网段发起调用被安全组拒绝

  • 监控与告警验证:云监控出现 PrivateLink 的带宽与包速率指标;配置的告警规则可触发

拓扑 B 追加验证:

  • 在发起端 VPC 内解析默认服务域名,返回本地域 ENI IP

  • 跨地域调用时延与带宽符合 CDT 与 PrivateLink 默认带宽预期

拓扑 C 追加验证:

  • CEN 跨境审批已通过,跨地域连接状态为"已连接"

  • Agent VPC 内路由表已学习到接入 VPC 网段路由,指向本地域 TR

  • PrivateZone 自定义域名在发起端 VPC 内可解析,CNAME 到接入 VPC 的默认服务域名

常见问题与排查

症状

可能原因

排查步骤

适用拓扑

Agent 无法访问终端节点,连接超时

终端节点安全组未放行 80/443 入方向

检查终端节点关联安全组的入方向规则

A/B/C

Agent VPC 内 ECS 无法通过私网访问

ECS 所在 VPC 与终端节点 VPC 不一致

确认 ECS 所在 VPC

A

HTTPS 调用失败但 HTTP 正常

默认服务域名仅支持 HTTP

检查 Agent 使用的域名类型

A/B/C

自定义域名解析失败或调用报错

内网域名或主机记录包含下划线 _

检查 PrivateZone 记录

A/B/C

PrivateZone 自定义域名不生效

PrivateZone 未关联到发起端 VPC

在 PrivateZone 控制台确认关联 VPC 列表

B/C

跨地域调用不可达

跨地域端点未启用;带宽超限

确认终端节点勾选"启用跨地域端点",检查带宽用量

B

跨境调用不通

跨地域端点不支持跨境;CEN 跨境审批未通过

改用 CEN 方案;检查跨境审批状态

C

CEN 路由未学习

Agent VPC 未挂载到 TR,或路由策略过滤

检查 CEN TR 挂载与路由策略

C

调用返回 HTTP 401/403

API Key 无效或百炼模型未开通

校验 Authorization: Bearer $DASHSCOPE_API_KEY 与目标模型开通状态

A/B/C

终端节点连接状态 Pending/Disconnected

服务方需要手动接受连接

联系百炼侧确认,或在服务方控制台执行 Accept

A/B/C

CEN 跨地域链路带宽告警

带宽包配额不足或跨地域流量突增

检查 CEN 带宽包用量,扩容或限流

C

AliyunServiceRoleForPrivateLink 创建失败

RAM 策略拒绝创建服务关联角色

为当前操作用户授权 CreateServiceLinkedRole 或使用主账号完成首次创建

A/B/C

跨地域访问延迟异常

跨地域链路带宽拥塞

查看云监控 PrivateLink / CEN 带宽指标;申请带宽升级

B/C

单可用区故障导致业务中断

终端节点仅关联单可用区

增加其他可用区交换机

A/B/C

从公网/办公网访问终端节点失败

终端节点仅面向阿里云内网

通过 VPC/VPN/专线接入 VPC

A/B/C

5 回滚方案

如切换后出现严重故障或需要临时回退,按以下顺序执行:

  1. 域名回切:Agent 侧 base_url 恢复为百炼公网端点 https://dashscope.aliyuncs.com/compatible-mode/v1,恢复公网调用

  2. 确认公网出口可用:Agent VPC 侧公网出口(NAT/EIP)与安全组允许对外 443;如已完全关闭公网出口,需先临时恢复

  3. 可选:删除终端节点:确认业务无回切需求后,在私网连接控制台删除接口终端节点(不影响已运行的 Agent 应用)

  4. 拓扑 C 追加:如需解除 CEN 跨地域连接,先确认无其他业务依赖该链路,再在 CEN 控制台删除跨地域连接与 VPC 挂载

  5. PrivateZone 记录清理:删除方案期间创建的 PrivateZone 权威域名与关联 VPC 记录

6 参考文档