指定GPU规格创建实例

本文介绍如何指定ECS GPU规格创建一个ECI实例。

规格说明

GPU规格含有GPU计算卡,适用于深度学习、图像处理等场景。GPU对应的Docker镜像可以直接运行在ECI GPU实例上。实例内已预装NVIDIA显卡设备驱动,不同GPU规格支持安装的驱动和CUDA版本不同。

说明

下表中的gn8ia和gn8is目前仅支持海外等部分地域,如有需求,请联系阿里云销售人员。

规格类型

GPU规格族

驱动和CUDA版本

GPU虚拟化型实例规格族

sgn7i-vws

NVIDIA 470.161.03,CUDA 11.4

vgn7i-vws

vgn6i-vws

GPU计算型实例规格族

gn7e

  • NVIDIA 470.82.01,CUDA 11.4(默认安装)

  • NVIDIA 525.85.12,CUDA 12.0

  • NVIDIA 535.161.08,CUDA 12.2

gn7i

gn7s

gn7

gn6v

gn6e

gn6i

gn5i

gn5

gn8ia

NVIDIA 535.161.08,CUDA 12.2

gn8is

关于ECS规格的详细信息,请参见:

配置说明

创建GPU实例时,在指定GPU规格的基础上,容器内还需要指定GPU个数。

重要
  • 如果实例指定使用GPU规格,但容器内没有指定GPU个数,则实例启动会报错。

  • 默认情况下,多个容器可以共享使用GPU,配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。

OpenAPI

调用CreateContainerGroup接口创建ECI实例时,在通过InstanceType参数指定ECS GPU实例规格的基础上,必须通过容器属性中的GPU参数指定容器使用的GPU个数。相关参数说明如下表所示。更多信息,请参见CreateContainerGroup

名称

类型

示例值

描述

InstanceType

String

ecs.gn6v-c8g1.2xlarge

指定ECS GPU实例规格。

支持指定多个规格(单次最多5个),各规格之间用半角逗号(,)进行分隔。

Container.N.Gpu

Integer

1

指定容器使用的GPU个数。

说明

您也可以调用UpdateContainerGroup更新GPU实例中各容器使用的GPU个数。更多信息,请参见UpdateContainerGroup

默认情况下,ECI GPU实例会根据指定的GPU规格自动安装支持的驱动和CUDA版本。在一些场景中,您可能需要在不同的ECI GPU实例负载中依赖不同的驱动和CUDA版本,此时,您可以通过GpuDriverVersion参数来指定驱动版本。

名称

类型

示例值

描述

GpuDriverVersion

string

tesla=525.85.12

指定GPU驱动版本。取值范围:

  • (默认)tesla=470.82.01

  • tesla=525.85.12

说明

仅部分规格支持切换GPU驱动版本。具体请参见规格说明

控制台

通过弹性容器实例控制台创建GPU实例时,GPU相关配置如下:

  1. 容器组配置区域单击指定规格页签,然后选择GPU规格。

    指定GPU.png

  2. 在各个容器的高级配置中,设置容器使用的GPU个数。

    容器GPU.png