GPU云服务器（gn/vgn/sgn系列）

• 规格族介绍：

  • 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升，可以更快地存储数据和加载模型。

  • 实例的CPU和网络资源采用共享模式提供，最大化利用底层资源。内存和GPU显存采用独享模式提供，为您提供数据隔离和性能保障。

    说明

    如果您需要独享的CPU资源，请选择vgn7i-vws。

  • 已包含NVIDIA GRID vWS的软件License，可以为各类专业CAD软件提供认证过的图形加速驱动能力，满足专业级图形设计的需求，也可以作为轻量级GPU计算型实例使用，降低小规模AI推理过程的使用成本。

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务。

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务。

  • 使用Ice Lake处理器，在影视动漫制作、云游戏、机械设计等领域进行3D建模时，效果更加出色。

• 计算：

  • 采用NVIDIA A10 GPU卡。

    • 创新的Ampere架构。

    • 支持vGPU、RTX、TensorRT等常用加速功能，提供多种业务支撑。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

sgn7i-vws包括的实例规格及指标数据如下表所示：

• 规格族介绍：

  • 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升，可以更快地存储数据和加载模型。

  • 已包含NVIDIA GRID vWS的软件License，可以为各类专业CAD软件提供认证过的图形加速驱动能力，满足专业级图形设计的需求，也可以作为轻量级GPU计算型实例使用，降低小规模AI推理过程的使用成本。

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务。

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务。

  • 使用Ice Lake处理器，在影视动漫制作、云游戏、机械设计等领域进行3D建模时，效果更加出色。

• 计算：

  • 采用NVIDIA A10 GPU卡。

    • 创新的Ampere架构。

    • 支持vGPU、RTX、TensorRT等常用加速功能，提供多种业务支撑。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

vgn7i-vws包括的实例规格及指标数据如下表所示：

• 适用场景：

  • 云游戏的云端实时渲染。

  • AR和VR的云端实时渲染。

  • AI（DL和ML）推理，适合弹性部署含有AI推理计算应用的互联网业务。

  • 深度学习的教学练习环境。

  • 深度学习的模型实验环境。

• 计算：

  • 采用NVIDIA T4 GPU计算加速器。

  • 实例包含分片虚拟化后的虚拟GPU。

    • 计算能力支持NVIDIA Tesla T4的1/4和1/2。

    • GPU显存支持4 GB和8 GB。

  • 处理器与内存配比约为1:5。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘、ESSD同城冗余云盘、SSD云盘和高效云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

vgn6i-vws包括的实例规格及指标数据如下表所示：

gn8is包括的实例规格及指标数据如下表所示：

gn7e的特点如下：

• 规格族介绍：

  • 您可以根据需要选择不同数量的卡和不同CPU资源的规格，灵活适应其不同的AI业务需求。

  • 依托第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 适用场景：

  • 中小规模的AI训练业务。

  • 使用CUDA进行加速的HPC业务。

  • 对GPU处理能力或显存容量需求较高的AI推理业务。

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用。

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等。

  重要

  在使用高通信负载的AI训练业务如Transformer等模型时，务必启用NVLink进行GPU间的数据通信，否则可能由于PCIe链路大规模数据传输引起非预期的故障，导致数据受损。如不确定您使用的训练通信链路拓扑，请提交工单由阿里云技术专家为您提供技术支持。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn7e包括的实例规格及指标数据如下表所示：

• 规格族介绍：依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升。

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务。

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务。

• 计算：

  • 采用NVIDIA A10 GPU卡。

    • 创新的Ampere架构。

    • 支持RTX、TensorRT等常用加速功能。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz。

  • 最大可提供752 GiB内存，相比gn6i大幅提升。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn7i包括的实例规格及指标数据如下表所示：

• 规格族介绍：

  • 采用全新的Intel IceLake处理器，同时搭载Nvidia Ampere架构的NVIDIA A30 GPU卡，您可以根据需要选择不同GPU卡数和不同CPU资源的规格，灵活适应不同的AI业务需求。

  • 基于阿里云全新的第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 适用场景：配备高性能CPU、内存、GPU，可以处理更多并发AI推理业务需求，适用于图像识别、语音识别、行为识别业务。

• 计算：

  • 采用NVIDIA A30 GPU卡。

    • 创新的Nvidia Ampere架构。

    • 支持MIG（Multi-Instance GPU）功能、加速功能（基于第二代Tensor Cores加速），提供多种业务支持。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz。

  • 容量内存相比上一代实例规格族大幅提升。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn7s包括的实例规格及指标数据如下表所示：

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用。

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn7包括的实例规格及指标数据如下表所示：

• 规格族介绍：

  • gn7r是阿里云推出的企业级ARM处理器+GPU的多功能规格族产品。以ARM架构为基础开发Android线上应用和云手机、云手游等业务，为其提供云原生底层资源平台。同时，其配备的NVIDIA A16 GPU具备多芯片硬件转码能力，可以作为高性价比的视频转码平台，将成本降低至ASIC类转码平台的水平。同时支持基于CUDA的计算架构，可在解码后直接在GPU上进行AI识别和分析。

  • 基于第三代神龙架构，通过CIPU云处理器进行云端资源管理，提供稳定可预期的超高计算、存储和网络性能。

  • 采用NVIDIA A16 GPU计算加速器提供GPU加速能力，支持图形加速、硬件转码和AI业务。

    说明

    每块NVIDIA A16卡包含4个GA 107处理芯片。

• 适用场景：基于Android提供APP远端服务，例如云业务在线待机、云手游和云手机、Android业务爬虫、视频业务转码、视频识别、审查、视频编辑等。

• 计算：

  • 处理器：3.0 GHz主频的Ampere ^® Altra ^® Max处理器，原生ARM计算平台为Android服务器提供高效的性能和优秀的App兼容性。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘和ESSD同城冗余云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

gn7r包括的实例规格及指标数据如下表所示：

• 适用场景：

  • AI（DL和ML）推理，适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统。

  • 云游戏云端实时渲染。

  • AR和VR的云端实时渲染。

  • 重载图形计算或图形工作站。

  • GPU加速数据库。

  • 高性能计算。

• 计算：

  • GPU加速器：T4。

    • 创新的Turing架构。

    • 单GPU显存16 GB（GPU显存带宽320 GB/s）。

    • 单GPU 2560个CUDA Cores。

    • 单GPU多达320个Turing Tensor Cores。

    • 可变精度Tensor Cores支持65 TFLOPS FP16、130 INT8 TOPS以及260 INT4 TOPS。

  • 处理器与内存配比约为1:4。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn6i包括的实例规格及指标数据如下表所示：

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用。

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等。

• 计算：

  • 采用NVIDIA V100（32 GB NVLink）GPU卡。

  • GPU加速器：V100（SXM2封装）。

    • 创新的Volta架构。

    • 单GPU显存32 GB HBM2（GPU显存带宽900 GB/s）。

    • 单GPU 5120个CUDA Cores。

    • 单GPU 640个Tensor Cores。

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Gbit/s，总带宽为6×25×2=300 Gbit/s。

  • 处理器与内存配比约为1:8。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘、ESSD同城冗余云盘、SSD云盘和高效云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn6e包括的实例规格及指标数据如下表所示：

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用。

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等。

• 计算：

  • 采用NVIDIA V100 GPU卡。

  • GPU加速器：V100（SXM2封装） 。

    • 创新的Volta架构。

    • 单GPU显存16 GB HBM2（GPU显存带宽900 GB/s）。

    • 单GPU 5120个CUDA Cores。

    • 单GPU 640个Tensor Cores。

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Git/s，总带宽为6×25×2=300 Git/s。

  • 处理器与内存配比约为1:4。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘。更多云盘信息，请参见块存储概述。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn6v包括的实例规格及指标数据如下表所示：

• 适用场景：

  • 深度学习。

  • 科学计算，例如计算流体动力学、计算金融学、基因组学研究、环境分析。

  • 高性能计算、渲染、多媒体编解码及其他服务器端GPU计算工作负载。

• 计算：

  • 采用NVIDIA P100 GPU卡。

  • 多种处理器与内存配比。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）。

• 存储：

  • 配备高性能NVMe SSD本地盘。

  • I/O优化实例。

  • 支持的云盘类型：SSD云盘和高效云盘。

• 网络：

  • 仅支持IPv4

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn5包括的实例规格及指标数据如下表所示：

• 适用场景： 深度学习推理、多媒体编解码等服务器端GPU计算工作负载。

• 计算：

  • 采用NVIDIA P4 GPU卡。

  • 处理器与内存配比为1:4。

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）。

• 存储：

  • I/O优化实例。

  • 支持的云盘类型：SSD云盘和高效云盘。

• 网络：

  • 支持IPv4、IPv6。关于IPv6通信，参见IPv6通信。

  • 实例网络性能与实例规格对应，规格越高网络性能越强。

gn5i包括的实例规格及指标数据如下表所示：