调用方式概览

更新时间:
复制为 MD 格式

EAS提供多种接入方式与两种通信协议,您可以根据网络环境和性能需求灵活组合。

场景导航

服务部署后默认提供共享网关调用(HTTP 协议),无需额外配置。请根据您的实际场景,快速跳转相关内容:

  • 快速开始调用:服务已部署,希望通过默认提供的共享网关调用。参见通过网关调用

  • 需要其他接入方式:共享网关无法满足需求,希望了解专属网关、VPC 高速直连、NLB、Nacos 等其他接入方式的差异和配置方法。参见下文接入方式选择

  • 使用 gRPC 协议:服务已部署,使用 gRPC 二进制协议降低网络开销、提升推理性能。参见gRPC 调用 PAI-EAS 推理服务

调用流程

image

EAS 服务调用的整体数据流向如下:

  1. 客户端发起请求:您的应用程序向 EAS 服务入口(网关或直连地址)发送推理请求。

  2. 入口路由:请求经过您选择的调用方式(共享网关、专属网关、VPC 高速直连、NLB 或 Nacos)路由到后端服务实例。网关方式由网关层处理负载均衡和路由转发;直连方式由客户端自行选择目标实例。

  3. 服务实例处理:请求到达 EAS 服务实例后,由模型服务进程执行推理计算,将结果序列化为指定格式(JSON、ProtoBuf 等)返回。

  4. 客户端接收响应:客户端收到推理结果后,根据请求类型解析响应数据,继续后续业务逻辑。

接入方式选择

接入方式由您的网络环境决定。

接入方式

网络路径

配置成本

适用场景

共享网关

公网 / VPC 经共享网关

零配置

快速验证、小流量服务

专属网关

公网 / VPC 经专属网关(支持跨 VPC / 跨云)

需先创建,额外付费

高安全、高稳定、大流量

VPC 高速直连

同 VPC 直连实例,绕过网关

需配置 VPC

低延迟、高并发场景

负载均衡 NLB

同 VPC 经 NLB 转发

需创建或关联 NLB

大流量 + 负载均衡

服务发现 Nacos

同 VPC 经 Nacos 注册发现

需自备 Nacos 实例

已有 Nacos 服务治理体系

重要

EAS 服务配置专有网络、交换机和安全组后:

  • 不受安全组规则限制:通过共享网关、专属网关访问 EAS 时,安全组规则不生效(专属网关可通过白名单设置访问规则)。

  • 受安全组规则限制:通过 NLB、Nacos 或 VPC 高速直连访问 EAS,以及所有 EAS 出流量,均受安全组规则限制。

通信协议支持

EAS 支持两种通信协议,具体可用协议取决于您部署的服务类型:

  • HTTP/JSON(默认):部署后自动启用,适用于大多数场景。

  • gRPC:高性能二进制协议,适用于性能敏感或流式推理场景。部署时需手动启用。