阿里云首页 弹性加速计算实例EAIS

产品优势

与常规的异构实例相比,阿里云弹性加速计算实例EAIS提供的异构实例具有解耦性、低成本、弹性和多适配性的优势。

解耦性

常规的GPU实例,其CPU、内存和GPU是部署在同一台物理机中。EAIS实例可以将CPU与GPU成功解耦,其CPU、内存和GPU可以存在于不同的物理机中。您可以根据对CPU和内存的需求选择一款ECS实例,然后再匹配一个EAIS实例,即可生成一款满足您需求的新规格GPU实例。

低成本

EAIS能够将推理成本降低多达50%。您可以单独制定所需的推理加速量级,无需超额预置GPU资源,选择最合适您应用的实例类型即可。

例如,您需要一个内存超过128GB,且只带一块GPU的实例用于推荐系统,那么在常规的GPU实例规格中,能刚好满足您需求的实例规格有如下几种选择:

实例规格

vCPU

内存(GiB)

GPU

GPU显存(GB)

ecs.gn6i-c24g1.12xlarge

48

186.0

T4*2

32

ecs.gn6v-c8g1.8xlarge

32

128.0

V100*4

64

ecs.gn6e-c12g1.12xlarge

48

368.0

V100*4

128

如果您使用EAIS,则仅需要购买如下计算资源:

产品

实例规格

指标数据

云服务器ECS

ecs.r6.6xlarge

24vCPU 192GB

弹性计算加速实例EAIS

eais.ei-a6.4xlarge

FP32 16TFlops 32GB

综上所述,如果您购买GPU实例,则只能在已有的固定规格中进行选择,并且您需要为该实例的全部资源付费。而使用EAIS,您只需选择刚好满足您业务场景的实例规格,更灵活地解决相同的问题场景,且成本降低优势明显。

弹性

EAIS可以准确获取您所需的资源,为您灵活匹配GPU资源。您可以轻松扩展和缩减推理加速量级以满足您的业务需求,不会过度投资预置资源。当ECS增加实例以满足不断增长的需求时,您可以为每个ECS实例扩展EAIS实例。当需求降低时,您也可以随时释放任意ECS实例连接的EAIS实例。这有助您为所需资源灵活付费。

多适配性

EAIS具有极强的适配性,能够支持GPU、NPU、FPGA多种异构硬件的适配,种类多样,适配性强。