什么是Deepytorch Training（训练加速）

Deepytorch Training介绍

Deepytorch Training面向生成式AI和大模型场景，提供了训练加速能力。通过整合分布式通信和计算图编译的性能优化，在保障精度的前提下实现端到端训练性能的显著提升，为您带来更低的成本和更敏捷的迭代。同时Deepytorch Training具有无感适配和充分兼容开源生态等特点，使AI研发人员可以轻松集成并享受训练加速效果。

产品优势

• 训练性能显著提升

  Deepytorch Training通过整合分布式通信和计算图编译的性能特点，可以实现端到端训练性能的显著提升，使得模型训练迭代速度更快，不仅减少了资源的使用成本，还缩短了迭代的时间成本，为您带来低成本体验。

  例如，不同模型下的训练性能对比如下：

  说明

  相比较模型默认的训练工具，使用Deepytorch Training工具训练模型，其训练性能显著提升。

  模型	节点数 x GPU数	配置信息	端到端性能提升率
  stable diffusion v2.1（模型训练方法：dreambooth）	1 x 1	batch size=5 fp16	提升22%
  stable diffusion v2.1（模型训练方法：dreambooth）	1 x 1	batch size=5 fp16 8-bit optimizer	提升21%
  LLaMa-7B	2 x 8	ZeRO stage 1 micro batch size=4	提升15%
  LLaMa-13B	2 x 8	ZeRO stage 2 micro batch size=2	提升29%
  LLaMa-30B	2 x 8	ZeRO stage 3 micro batch size=4 activation recomputing	提升98%
  LLaMa-65B	2 x 8	ZeRO stage 3 micro batch size=8 activation recomputing params offload	提升30%

• 易用性好

  • Deepytorch Training具有充分兼容开源生态等特点，其兼容PyTorch主流版本，支持主流分布式训练框架。例如DeepSpeed、PyTorch FSDP或Megatron-LM等。

  • 使用Deepytorch Training时，仅需在Python训练代码中添加如下适配代码即可。

    • 导入Deepytorch Training库的示例代码：

      import deepytorch as dpt

    • 封装训练模型的示例代码：

      dpt.compile 

特性说明

Deepytorch Training在AI训练的通信和计算方面具有显著的加速效果，具体说明如下：

通信侧优化特性

• 单机优化

  单机内的优化主要针对不同硬件拓扑机型的通信优化。以PCIe互连的机型和NVLink互连的机型为例，具体说明如下：

  • PCIe互连拓扑优化：该机型的多GPU卡之间共享PCIe带宽，通信容易受限于物理带宽。针对PCIe互连拓扑的通信优化，可以采用基于流水线的PS（Parameters Server：参数服务器）模式梯度规约算法CPU-Reduce来降低通信耗时，该算法按照GPU到CPU再到GPU的顺序构建流水线，将梯度规约的计算分散到多个设备上运行，来减少通信瓶颈。

    例如，在通信数据量超过4 MB的场景下，PCIe互连拓扑优化方案相比NCCL原生在性能上提升了20%以上。

  • NVLink互连拓扑优化：NCCL默认使用的Binary-Tree算法在V100机型上并不能充分发挥多通道性能。针对NVLink互连拓扑的通信优化，可以通过扩展单机内部不同的N-Trees拓扑结构组合，实现拓扑调优并充分发挥多通道性能。

    例如，在通信数据量超过128 MB的场景下，NVLink互连拓扑优化方案相比NCCL原生在性能上提升了20%以上。

• 多机优化

  多机优化体现在通信算子编译优化、TCP多流优化、多机CPU-Reduce优化三个方面，具体说明如下：

  • 通信算子编译优化：针对阿里云上不同机型，以及网卡与GPU的不同拓扑连接等特点，相比较基于全局拓扑结构实现的Allreduce、Allgather或Reduce-scatter等算法，Hybrid+算法支持单机和多机的分层通信，充分利用单机内部高速带宽的同时降低了多机之间的通信量，通信算子编译优化方案相比NCCL原生在性能上提升了50%以上。

  • 通信多流优化：通常情况下，因网络带宽没有被充分利用，会导致上层集合通信算法的跨机性能无法达到最优。而采用基于TCP/IP的多流功能，提升分布式训练的并发通信能力，可以实现多机训练性能提升5%~20%。

  • 多机CPU-Reduce：该优化继承了单机内CPU-Reduce高效的异步流水线，并将跨机Socket通信也设计为流水线形态，实现多机通信全过程流水化，有效减少通信延迟，提高整体训练性能。

    例如，在通信量较大的Transformer-based模型的多机训练场景下，多机CPU-Reduce优化方案可将端到端性能进一步提升20%以上。

计算侧优化特性

Deepytorch Training针对Pytorch 2.x的编译优化组件进行了性能和鲁棒性方面的增强，其特性说明如下：

• 对TorchDynamo的字节码转换逻辑进行了鲁棒性方面的增强。如果Pytorch 2.x的编译优化组件无法成功处理字节转换，则会导致抓取的计算图被分割（即Graph Break），而使用Deepytorch Training能够有效避免该现象，并可以对Guard的性能进行优化。

• 对AOT Autograd进行了优化，显著地提升了Memory Format不一致场景下的训练性能。

• 对TorchInductor进行了优化，对部分算子（例如SDPA算子）带来额外的性能提升。

• 针对Stable Diffusion训练场景提供定制化的性能优化方案，能够在多种训练配置下无感地提升训练性能。

• 针对基于DeepSpeed ZeRO的LLM微调训练场景提供了定制化的性能优化方案，能够在多种ZeRO配置下无感地提升训练性能。

相关文档

• 相比模型默认的训练配置，使用Deepytorch Training工具对模型进行训练优化，能够显著提升训练性能。具体操作，请参见安装和使用Deepytorch Training。

• Deepnccl是一种用于多GPU互联的AI通信加速库，能够实现更高效的多GPU互联通信，无感地加速分布式训练或多卡推理等任务。更多信息，请参见什么是AI通信加速库Deepnccl。

• 使用Deepytorch Inference工具对Torch模型提供高性能的推理加速，通过即时编译技术对模型进行推理优化，从而实现高效、快速的推理加速效果。更多信息，请参见什么是Deepytorch Inference（推理加速）和安装和使用Deepytorch Inference。