调用方式概览

更新时间:
复制 MD 格式

EAS提供多种接入方式与两种通信协议,您可以根据网络环境和性能需求灵活组合。

场景导航

服务部署后默认提供共享网关调用(HTTP 协议),无需额外配置。请根据您的实际场景,快速跳转相关内容:

  • 快速开始调用:服务已部署,希望通过默认提供的共享网关调用。参见通过网关调用

  • 需要其他接入方式:共享网关无法满足需求,希望了解专属网关、VPC 高速直连、NLB、Nacos 等其他接入方式的差异和配置方法。参见下文接入方式选择

  • 使用 gRPC 协议:服务已部署,使用 gRPC 二进制协议降低网络开销、提升推理性能。参见gRPC 调用 PAI-EAS 推理服务

调用流程

image

EAS 服务调用的整体数据流向如下:

  1. 客户端发起请求:您的应用程序向 EAS 服务入口(网关或直连地址)发送推理请求。

  2. 入口路由:请求经过您选择的调用方式(共享网关、专属网关、VPC 高速直连、NLB 或 Nacos)路由到后端服务实例。网关方式由网关层处理负载均衡和路由转发;直连方式由客户端自行选择目标实例。

  3. 服务实例处理:请求到达 EAS 服务实例后,由模型服务进程执行推理计算,将结果序列化为指定格式(JSON、ProtoBuf 等)返回。

  4. 客户端接收响应:客户端收到推理结果后,根据请求类型解析响应数据,继续后续业务逻辑。

接入方式选择

根据您的使用场景选择合适的接入方式。

场景

推荐接入方式

网络路径

配置成本

快速验证、小流量服务

共享网关

公网 / VPC 经共享网关

免费提供,配置简单

高安全、高稳定、大流量

专属网关

公网 / VPC 经专属网关

需先创建并配置网关,额外付费

低延迟、高并发场景,且调用方与EAS服务同 VPC

VPC 高速直连

同 VPC 直连实例,绕过网关

需配置 VPC

大流量 + 负载均衡

负载均衡 NLB

经 NLB 转发(NLB 与 EAS服务同 VPC)

需创建或关联 NLB

已有 Nacos 服务治理体系

服务发现 Nacos

经 Nacos 注册发现(Nacos 与 EAS服务同VPC)

需自备 Nacos 实例

重要

EAS 服务配置专有网络、交换机和安全组后:

  • 不受安全组规则限制:通过共享网关、专属网关访问 EAS 时,安全组规则不生效(专属网关可通过白名单设置访问规则)。

  • 受安全组规则限制:通过 NLB、Nacos 或 VPC 高速直连访问 EAS,以及所有 EAS 出流量,均受安全组规则限制。

通信协议支持

EAS 支持两种通信协议,具体可用协议取决于您部署的服务类型:

  • HTTP/JSON(默认):部署后自动启用,适用于大多数场景。

  • gRPC:高性能二进制协议,适用于性能敏感或流式推理场景。部署时需手动启用。

常见问题

跨地域访问与费用说明

Q:如何跨地域内网访问(通过网关的VPC地址)?

EAS服务与调用方处于跨地域VPC时,根据网关情况如下处理:

  • 共享网关:打通跨地域VPC后,仅支持通过服务实例 ip:port访问服务。由于服务重启或更新后IP会发生变化,建议使用专属网关。

  • 应用型专属网关(ALB):通过CEN、VPC对等连接或其他方式打通跨VPC网络即可,参见VPC互连

  • 全托管专属网关:除实现跨VPC网络互联外,还需在专属网关侧关联调用方的VPC。详情参见VPC访问全托管专属网关

Q:跨地域VPC内网访问需要支付流量费用吗?与公网访问相比有哪些优势?

需要。跨地域内网访问仍会产生流量费用(具体取决于使用的互连方式)。与公网访问相比,VPC内网访问具有以下优势:

  • 更安全:服务不暴露在公网上,降低安全风险。

  • 速度更快:内网链路质量稳定,延迟更低。

  • 流量成本更低:内网流量费用通常低于公网流量费用。

生产环境推荐优先使用VPC内网地址进行跨地域访问。

EAS容器内应用调用其他EAS服务

若应用部署在EAS容器中,需要调用其他EAS服务,请注意以下事项:

  • 认证要求:无论使用公网地址还是VPC内网地址,请求头中均需携带正确的Authorization Token。

  • 失败的常见原因:EAS服务默认无法访问公网,通过公网地址调用其他EAS服务会失败。请参见EAS访问公网或内网资源配置网络。出现401、502等错误码参见附录:服务状态码与常见报错进行排查。

  • 推荐做法:优先使用VPC内网地址进行EAS服务间调用,确保网络连通性和安全性。