在专属资源组中,PAI-EAS支持VPC高速直连功能。您购买专属资源组后,PAI-EAS会使用指定规格的服务器资源,构成该资源组,且该专属资源组归属于PAI-EAS的VPC环境。默认情况下,您不能在自己的VPC环境中直接访问该专属资源组,必须手动开通VPC高速直连功能。系统会将您VPC环境中的弹性网卡挂载至PAI-EAS服务器,从而实现两个VPC网络互通。

原理

实现VPC高速直连的原理包括网络连通和服务发现:
  • 网络连通

    为PAI-EAS授权后,系统会在您指定的交换机(VSwitch)和安全组(SecurityGroup)中创建弹性网卡(免费)。因为弹性网卡会占用交换机中的网段地址,所以请确保交换机的剩余网段IP充裕。对于专属资源组中的实例,PAI-EAS会为每个实例创建一张弹性网卡,并将其与该实例绑定,从而实现在您的VPC中访问PAI-EAS VPC中的实例。

  • 服务发现

    在专属资源组中部署服务后,系统会根据您申请的资源数量,为该服务创建对应的PAI-EAS实例(区别于专属资源组实例,可以理解为一个进程)。系统为每个PAI-EAS实例在专属资源组节点自动分配一个端口,您可以通过专属资源组节点挂载的弹性网卡IP和该端口号,直接访问服务进程。PAI-EAS提供服务发现机制,您可以定期查询或更新服务所对应的IP:PORT列表,详情请参见VPC高速直连调用

优势

开通VPC高速直连后,无需通过网关访问服务,避免了四层SLB和七层网络转发,您可以在VPC中直接访问PAI-EAS实例。同时,PAI-EAS预置的RPC实现了HTTP相关协议栈,对于高QPS(Queries Per Second)的大流量服务(例如图像服务),可以大幅度提高访问性能、降低访问延时。

劣势

相比于网关模式,VPC高速直连模式为了提升性能,绕过了四层SLB和七层网关转发,从而舍弃了服务端负载均衡和容错功能。您需要在客户端实现相关的负载均衡和重试算法,导致服务测试和调试的难度增加。PAI-EAS将提供相关的配置SDK,帮助您完成客户端访问。

开通VPC高速直连

开通VPC高速直连,需要为PAI-EAS授权相关权限(参见授权),并指定待连通VPC环境中的交换机(VSwitch)和安全组(SecurityGroup)。网络连通后,该VPC环境中的ECS服务器即可通过创建的弹性网卡访问PAI-EAS专属资源组内的服务器。

  1. 进入PAI EAS模型在线服务页面。
    1. 登录PAI控制台
    2. 在PAI控制台首页,选择模型部署 > EAS-模型在线服务
  2. PAI EAS模型在线服务页面,单击右上方的查看专属资源组列表
  3. 专属资源组列表页面,单击待查看专属资源组的资源组ID
  4. 在资源组详情页面,开通VPC高速直连。
    1. 打开VPC直连开关。VPC直连开关
    2. 开通VPC直连通道对话框,选择VPC交换机安全组名称
    3. 单击确认

调用服务

如果专属资源组开通了VPC高速直连,则可以通过VPC高速直连访问部署在该专属资源组的模型服务,详情请参见VPC高速直连调用