文档

AIACC-AGSpeed性能数据

更新时间:

本文展示了AIACC-AGSpeed(简称AGSpeed)的部分性能数据,相比较通过PyTorch原生Eager模式训练模型后的性能数据,使用AGSpeed训练多个模型时,性能具有明显提升。

背景信息

本文通过测试不同场景下的模型,展示AGSpeed的不同性能提升效果。如果您想了解更多模型的性能测试效果,请联系我们

性能数据

本示例数据以hf_GPT2、hf_Bert、resnet50,timm_efficientnet等50多个模型为例,通过FP32精度和AMP混合精度两种场景进行训练,不同场景下各模型训练后的性能数据如下所示:

  • FP32精度训练场景FP32

  • AMP混合精度场景AMP

上述性能数据图中,横坐标和纵坐标的含义如下所示:

  • 横坐标:代表所有参加训练的模型。

  • 纵坐标:代表相比PyTorch原生Eager模式,模型使用AGSpeed训练后的加速比。加速比大于1.0表示性能提升有所提升。

性能效果

相比PyTorch原生的Eager模式,通过AGSpeed训练模型后,性能提升率如下所示。以吞吐量作为性能指标来展示AGSpeed的性能效果,性能提升率=(吞吐量(AGSpeed)-吞吐量(Eager))/吞吐量(Eager)。

说明

下图中的数据仅展示部分典型模型,如果您想了解更多模型的性能提升效果,请联系我们

模型

精度

吞吐量(Eager)

吞吐量(AGSpeed)

性能提升率

resnet50 v1.5

TF32

8195 images/s

9222 images/s

提升12.5%

AMP

17160 images/s

17592 images/s

提升2.5%

SSD

TF32

2282 images/s

2427 images/s

提升9.9%

AMP

3312 images/s

3679 images/s

提升11.1%

BERT

TF32

2464 sequences/s

2589 sequences/s

提升5.1%

AMP

4689 sequences/s

5031 sequences/s

提升7.3%

nnUnet3D

TF32

89.21 images/s

98.42 images/s

提升6.8%

AMP

151.27 images/s

161.52 images/s

提升6.8%

  • 本页导读 (1)
文档反馈