EAS提供多种接入方式与两种通信协议,您可以根据网络环境和性能需求灵活组合。
场景导航
服务部署后默认提供共享网关调用(HTTP 协议),无需额外配置。请根据您的实际场景,快速跳转相关内容:
-
快速开始调用:服务已部署,希望通过默认提供的共享网关调用。参见通过网关调用。
-
需要其他接入方式:共享网关无法满足需求,希望了解专属网关、VPC 高速直连、NLB、Nacos 等其他接入方式的差异和配置方法。参见下文接入方式选择。
-
使用 gRPC 协议:服务已部署,使用 gRPC 二进制协议降低网络开销、提升推理性能。参见gRPC 调用 PAI-EAS 推理服务。
调用流程
EAS 服务调用的整体数据流向如下:
-
客户端发起请求:您的应用程序向 EAS 服务入口(网关或直连地址)发送推理请求。
-
入口路由:请求经过您选择的调用方式(共享网关、专属网关、VPC 高速直连、NLB 或 Nacos)路由到后端服务实例。网关方式由网关层处理负载均衡和路由转发;直连方式由客户端自行选择目标实例。
-
服务实例处理:请求到达 EAS 服务实例后,由模型服务进程执行推理计算,将结果序列化为指定格式(JSON、ProtoBuf 等)返回。
-
客户端接收响应:客户端收到推理结果后,根据请求类型解析响应数据,继续后续业务逻辑。
接入方式选择
根据您的使用场景选择合适的接入方式。
|
场景 |
推荐接入方式 |
网络路径 |
配置成本 |
|
快速验证、小流量服务 |
公网 / VPC 经共享网关 |
免费提供,配置简单 |
|
|
高安全、高稳定、大流量 |
公网 / VPC 经专属网关 |
需先创建并配置网关,额外付费 |
|
|
低延迟、高并发场景,且调用方与EAS服务同 VPC |
同 VPC 直连实例,绕过网关 |
需配置 VPC |
|
|
大流量 + 负载均衡 |
经 NLB 转发(NLB 与 EAS服务同 VPC) |
需创建或关联 NLB |
|
|
已有 Nacos 服务治理体系 |
经 Nacos 注册发现(Nacos 与 EAS服务同VPC) |
需自备 Nacos 实例 |
EAS 服务配置专有网络、交换机和安全组后:
-
不受安全组规则限制:通过共享网关、专属网关访问 EAS 时,安全组规则不生效(专属网关可通过白名单设置访问规则)。
-
受安全组规则限制:通过 NLB、Nacos 或 VPC 高速直连访问 EAS,以及所有 EAS 出流量,均受安全组规则限制。
通信协议支持
EAS 支持两种通信协议,具体可用协议取决于您部署的服务类型:
-
HTTP/JSON(默认):部署后自动启用,适用于大多数场景。
-
gRPC:高性能二进制协议,适用于性能敏感或流式推理场景。部署时需手动启用。
常见问题
跨地域访问与费用说明
Q:如何跨地域内网访问(通过网关的VPC地址)?
当EAS服务与调用方处于跨地域VPC时,根据网关情况如下处理:
-
应用型专属网关(ALB):通过CEN、VPC对等连接或其他方式打通跨VPC网络即可,参见VPC互连。
-
全托管专属网关:除实现跨VPC网络互联外,还需在专属网关侧关联调用方的VPC。详情参见跨VPC访问全托管专属网关。
Q:跨地域VPC内网访问需要支付流量费用吗?与公网访问相比有哪些优势?
需要。跨地域内网访问仍会产生流量费用(具体取决于使用的互连方式)。与公网访问相比,VPC内网访问具有以下优势:
-
更安全:服务不暴露在公网上,降低安全风险。
-
速度更快:内网链路质量稳定,延迟更低。
-
流量成本更低:内网流量费用通常低于公网流量费用。
生产环境推荐优先使用VPC内网地址进行跨地域访问。
EAS容器内应用调用其他EAS服务
若应用部署在EAS容器中,需要调用其他EAS服务,请注意以下事项:
-
认证要求:无论使用公网地址还是VPC内网地址,请求头中均需携带正确的Authorization Token。
-
失败的常见原因:EAS服务默认无法访问公网,通过公网地址调用其他EAS服务会失败。请参见EAS访问公网或内网资源配置网络。出现401、502等错误码参见附录:服务状态码与常见报错进行排查。
-
推荐做法:优先使用VPC内网地址进行EAS服务间调用,确保网络连通性和安全性。