产品优势
与常规的异构实例相比,阿里云弹性加速计算实例EAIS提供的异构实例具有解耦性、低成本、弹性和多适配性的优势。
解耦性
常规的GPU实例,其CPU、内存和GPU是部署在同一台物理机中。EAIS实例可以将CPU与GPU成功解耦,其CPU、内存和GPU可以存在于不同的物理机中。您可以根据对CPU和内存的需求选择一款ECS实例,然后再匹配一个EAIS实例,即可生成一款满足您需求的新规格GPU实例。
低成本
EAIS能够将推理成本降低多达50%。您可以单独制定所需的推理加速量级,无需超额预置GPU资源,选择最合适您应用的实例类型即可。
例如,您需要一个内存超过128 GiB,且只带一块GPU的实例用于推荐系统,那么在常规的GPU实例规格中,能刚好满足您需求的实例规格有如下几种选择:
实例规格 | vCPU | 内存(GiB) | GPU | GPU显存(GB) |
---|---|---|---|---|
ecs.gn6i-c24g1.12xlarge | 48 | 186.0 | T4*2 | 32 |
ecs.gn6v-c8g1.8xlarge | 32 | 128.0 | V100*4 | 64 |
ecs.gn6e-c12g1.12xlarge | 48 | 368.0 | V100*4 | 128 |
如果您使用EAIS,则仅需要购买如下计算资源:
产品 | 实例规格 | 指标数据 |
---|---|---|
云服务器ECS | ecs.r6.6xlarge | 24 vCPU 192 GiB |
弹性计算加速实例EAIS | eais.ei-a6.4xlarge | 16 TFLOPS/FP32,32 GB/显存 |
综上所述,如果您购买GPU实例,则只能在已有的固定规格中进行选择,并且您需要为该实例的全部资源付费。而使用EAIS,您只需选择刚好满足您业务场景的实例规格,更灵活地解决相同的问题场景,且成本降低优势明显。
弹性
EAIS可以准确获取您所需的资源,为您灵活匹配GPU资源。您可以轻松扩展和缩减推理加速量级以满足您的业务需求,不会过度投资预置资源。当ECS增加实例以满足不断增长的需求时,您可以为每个ECS实例扩展EAIS实例。当需求降低时,您也可以随时释放任意ECS实例连接的EAIS实例。这有助您为所需资源灵活付费。
多适配性
EAIS具有极强的适配性,能够支持GPU、NPU、FPGA多种异构硬件的适配,种类多样,适配性强。
高性能
EAIS可以为您提供模型推理加速功能。相较于常规的GPU实例,使用同等算力的EAIS进行推理能够获得更高的性能。