EAS提供多种接入方式与两种通信协议,您可以根据网络环境和性能需求灵活组合。
场景导航
服务部署后默认提供共享网关调用(HTTP 协议),无需额外配置。请根据您的实际场景,快速跳转相关内容:
快速开始调用:服务已部署,希望通过默认提供的共享网关调用。参见通过网关调用。
需要其他接入方式:共享网关无法满足需求,希望了解专属网关、VPC 高速直连、NLB、Nacos 等其他接入方式的差异和配置方法。参见下文接入方式选择。
使用 gRPC 协议:服务已部署,使用 gRPC 二进制协议降低网络开销、提升推理性能。参见gRPC 调用 PAI-EAS 推理服务。
调用流程
EAS 服务调用的整体数据流向如下:
客户端发起请求:您的应用程序向 EAS 服务入口(网关或直连地址)发送推理请求。
入口路由:请求经过您选择的调用方式(共享网关、专属网关、VPC 高速直连、NLB 或 Nacos)路由到后端服务实例。网关方式由网关层处理负载均衡和路由转发;直连方式由客户端自行选择目标实例。
服务实例处理:请求到达 EAS 服务实例后,由模型服务进程执行推理计算,将结果序列化为指定格式(JSON、ProtoBuf 等)返回。
客户端接收响应:客户端收到推理结果后,根据请求类型解析响应数据,继续后续业务逻辑。
接入方式选择
接入方式由您的网络环境决定。
接入方式 | 网络路径 | 配置成本 | 适用场景 |
公网 / VPC 经共享网关 | 零配置 | 快速验证、小流量服务 | |
公网 / VPC 经专属网关(支持跨 VPC / 跨云) | 需先创建,额外付费 | 高安全、高稳定、大流量 | |
同 VPC 直连实例,绕过网关 | 需配置 VPC | 低延迟、高并发场景 | |
同 VPC 经 NLB 转发 | 需创建或关联 NLB | 大流量 + 负载均衡 | |
同 VPC 经 Nacos 注册发现 | 需自备 Nacos 实例 | 已有 Nacos 服务治理体系 |
EAS 服务配置专有网络、交换机和安全组后:
不受安全组规则限制:通过共享网关、专属网关访问 EAS 时,安全组规则不生效(专属网关可通过白名单设置访问规则)。
受安全组规则限制:通过 NLB、Nacos 或 VPC 高速直连访问 EAS,以及所有 EAS 出流量,均受安全组规则限制。
通信协议支持
EAS 支持两种通信协议,具体可用协议取决于您部署的服务类型:
HTTP/JSON(默认):部署后自动启用,适用于大多数场景。
gRPC:高性能二进制协议,适用于性能敏感或流式推理场景。部署时需手动启用。