GPU计算型实例规格族

gn8is包括的实例规格及指标数据如下表所示。

gn7e的特点如下：

• 您可以根据需要选择不同数量的卡和不同CPU资源的规格，灵活适应其不同的AI业务需求。

• 依托第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 中小规模的AI训练业务

  • 使用CUDA进行加速的HPC业务

  • 对GPU处理能力或显存容量需求较高的AI推理业务

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

  重要

  在使用高通信负载的AI训练业务如Transformer等模型时，务必启用NVLink进行GPU间的数据通信，否则可能由于PCIe链路大规模数据传输引起非预期的故障，导致数据受损。如不确定您使用的训练通信链路拓扑，请提交工单由阿里云技术专家为您提供技术支持。

gn7e包括的实例规格及指标数据如下表所示。

gn7i的特点如下：

• 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升。

• 计算：

  • 采用NVIDIA A10 GPU卡

    • 创新的Ampere架构

    • 支持RTX、TensorRT等常用加速功能

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

  • 最大可提供752 GiB内存，相比gn6i大幅提升

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务

gn7i包括的实例规格及指标数据如下表所示。

gn7s的特点如下：

• 采用全新的Intel IceLake处理器，同时搭载Nvidia Ampere架构的NVIDIA A30 GPU卡，您可以根据需要选择不同卡数和不同CPU资源的规格，灵活适应不同的AI业务需求。

• 基于阿里云全新的第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 计算：

  • 采用NVIDIA A30 GPU卡

    • 创新的Nvidia Ampere架构

    • 支持MIG（Multi-Instance GPU）功能、加速功能（基于第二代Tensor Cores加速），提供多种业务支持。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

  • 容量内存相比上一代实例规格族大幅提升

• 存储：仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：配备高性能CPU、内存、GPU，可以处理更多并发AI推理业务需求，适用于图像识别、语音识别、行为识别业务。

gn7s包括的实例规格及指标数据如下表所示：

gn7的特点如下：

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn7包括的实例规格及指标数据如下表所示。

gn7r的特点如下：

• gn7r是阿里云推出的企业级ARM处理器+GPU的多功能规格族产品。以ARM架构为基础开发Android线上应用和云手机、云手游等业务，为其提供云原生底层资源平台。同时，其配备的NVIDIA A16 GPU具备多芯片硬件转码能力，可以作为高性价比的视频转码平台，将成本降低至ASIC类转码平台的水平。同时支持基于CUDA的计算架构，可在解码后直接在GPU上进行AI识别和分析。

• 基于第三代神龙架构，通过CIPU云处理器进行云端资源管理，提供稳定可预期的超高计算、存储和网络性能

• 采用NVIDIA A16 GPU计算加速器提供GPU加速能力，支持图形加速、硬件转码和AI业务

  说明

  每块NVIDIA A16卡包含4个GA 107处理芯片。

• 计算：

  • 处理器：3.0 GHz主频的Ampere ^® Altra ^® Max处理器，原生ARM计算平台为Android服务器提供高效的性能和优秀的App兼容性

• 存储：仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv4、IPv6

• 适用场景：基于Android提供APP远端服务，例如云业务在线待机、云手游和云手机、Android业务爬虫、视频业务转码、视频识别、审查、视频编辑等。

gn7r包括的实例规格及指标数据如下表所示：

gn6i的特点如下：

• 计算：

  • GPU加速器：T4

    • 创新的Turing架构

    • 单GPU显存16 GB（GPU显存带宽320 GB/s）

    • 单GPU 2560个CUDA Cores

    • 单GPU多达320个Turing Tensor Cores

    • 可变精度Tensor Cores支持65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

  • 处理器与内存配比约为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • AI（DL和ML）推理，适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统

  • 云游戏云端实时渲染

  • AR和VR的云端实时渲染

  • 重载图形计算或图形工作站

  • GPU加速数据库

  • 高性能计算

gn6i包括的实例规格及指标数据如下表所示。

gn6e的特点如下：

• 计算：

  • 采用NVIDIA V100（32 GB NVLink）GPU卡

  • GPU加速器：V100（SXM2封装）

    • 创新的Volta架构

    • 单GPU显存32 GB HBM2（GPU显存带宽900 GB/s）

    • 单GPU 5120个CUDA Cores

    • 单GPU 640个Tensor Cores

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Git/s，总带宽为6×25×2=300 Git/s

  • 处理器与内存配比约为1:8

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn6e包括的实例规格及指标数据如下表所示。

gn6v的特点如下：

• 计算：

  • 采用NVIDIA V100 GPU卡

  • GPU加速器：V100（SXM2封装）

    • 创新的Volta架构

    • 单GPU显存16 GB HBM2（GPU显存带宽900 GB/s）

    • 单GPU 5120个CUDA Cores

    • 单GPU 640个Tensor Cores

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Git/s，总带宽为6×25×2=300 Git/s

  • 处理器与内存配比约为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn6v包括的实例规格及指标数据如下表所示。

ebmgn8is包括的实例规格及指标数据如下表所示。

ebmgn7e的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• 计算：

  • 处理器：基于Intel ^® Xeon ^®Scalable计算平台，2.9 GHz主频，全核睿频3.5 GHz，支持PCIe 4.0接口

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 超高网络性能，2400万PPS网络收发包能力

• 适用场景：

  • 各类深度学习训练开发业务

  • HPC加速计算和仿真

  重要

  在使用高通信负载的AI训练业务如Transformer等模型时，务必启用NVLink进行GPU间的数据通信，否则可能由于PCIe链路大规模数据传输引起非预期的故障，导致数据受损。如不确定您使用的训练通信链路拓扑，请提交工单由阿里云技术专家为您提供技术支持。

ebmgn7e包括的实例规格及指标数据如下表所示。

ebmgn7i的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• 计算：

  • 采用NVIDIA A10 GPU计算卡

    • 创新的Ampere架构

    • 支持vGPU、RTX、TensorRT等常用加速功能

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^®可扩展处理器（Ice Lake），全核睿频3.5 GHz

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 超高网络性能，2400万PPS网络收发包能力

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务

  • 支持RTX功能，搭配高网络带宽和云盘带宽，适用于搭建高性能渲染农场

  • 配备多个GPU，搭配高网络带宽，适用于小规模深度学习训练业务

ebmgn7i包括的实例规格及指标数据如下表所示。

ebmgn7的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• 计算：

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8269CY（Cascade Lake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

ebmgn7包括的实例规格及指标数据如下表所示。

ebmgn6ia的特点如下：

• 依托第三代神龙架构，通过芯片快速路径加速手段，提供稳定可预期的超高计算、存储和网络性能

• 采用NVIDIA T4 GPU计算加速器提供GPU加速能力，助力图形和AI业务，搭配容器技术可以提供60路以上虚拟Android终端，并对每路终端显示进行硬件视频转码加速

• 计算：

  • 处理器与内存配比约为1:3

  • 处理器：2.8 GHz主频的Ampere^® Altra^®处理器，睿频3.0 GHz，原生ARM计算平台为Android服务器提供高效的性能和优秀的App兼容性

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

• 适用场景：

  • 基于Android提供App远端服务，例如云业务在线待机、云手游和云手机、Android业务爬虫

ebmgn6ia包括的实例规格及指标数据如下表所示。

ebmgn6e的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• 采用NVIDIA V100（32 GB NVLink） GPU计算卡

• GPU加速器：V100（SXM2封装）

  • 创新的Volta架构

  • 单GPU显存32 GB HBM2（GPU显存带宽900 GB/s）

  • 单GPU 5120个CUDA Cores

  • 单GPU 640个Tensor Cores

  • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 GB/s，总带宽为6×25×2=300 GB/s

• 计算：

  • 处理器与内存配比为1:8

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练以及推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

ebmgn6e包括的实例规格及指标数据如下表所示。

ebmgn6v的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• 采用NVIDIA V100 GPU计算卡

• GPU加速器：V100（SXM2封装）

  • 创新的Volta架构

  • 单GPU显存16 GB HBM2（GPU显存带宽900 GB/s）

  • 单GPU 5120个CUDA Cores

  • 单GPU 640个Tensor Cores

  • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 GB/s，总带宽为6×25×2=300 GB/s

• 计算：

  • 处理器与内存配比为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练以及推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

ebmgn6v包括的实例规格及指标数据如下表所示。

ebmgn6i的特点如下：

• 基于神龙架构，实现软件定义硬件计算，灵活弹性与强悍性能兼备

• GPU加速器：T4

  • 创新的Turing架构

  • 单GPU显存16 GB（GPU显存带宽320 GB/s）

  • 单GPU 2560个CUDA Cores

  • 单GPU多达320个Turing Tensor Cores

  • 可变精度Tensor Cores支持65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

• 计算：

  • 处理器与内存配比为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持ESSD、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • AI（DL/ML）推理，适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统

  • 云游戏云端实时渲染

  • AR/VR的云端实时渲染

  • 重载图形计算或图形工作站

  • GPU加速数据库

  • 高性能计算

ebmgn6i包括的实例规格及指标数据如下表所示。

sccgn7ex的特点如下：

• sccgn7ex是阿里云为了面对日益增长的大规模AI训练需求开发的高带宽超算集群实例。多台裸金属服务器之间采用第三代RDMA SCC网络互联，支持800 G的互联带宽。您可以根据训练需求弹性选择线上集群数量，快速满足大规模AI参数训练的需求。

• 计算：

  • 支持NVSwitch，算力高达312T（TF32）

  • 处理器与内存配比为1:8

  • 处理器：采用第三代Intel^® Xeon^® 8369可扩展处理器（Ice lake），基频2.9 GHz，全核睿频3.5 GHz，支持PCIe 4.0接口

• 存储：

  • I/O优化实例

  • 仅支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 仅支持专有网络VPC

  • 超高网络性能，2400万PPS网络收发包能力

  • sccgn7ex实例间支持800 Gbit/s的互联带宽（4 * 双口100 Gbit/s RDMA），支持GPUDirect，每颗GPU直连一个100 Gbit/s网口

• 适用场景：超大规模AI训练场景

sccgn7ex包括的实例规格及指标数据如下表所示。

gn5i的特点如下：

• 计算：

  • 采用NVIDIA P4 GPU卡

  • 处理器与内存配比为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）

• 存储：

  • I/O优化实例

  • 仅支持SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习推理

  • 多媒体编解码等服务器端GPU计算工作负载

gn5i包括的实例规格及指标数据如下：