为了能够让用户更好地了解和使用通用推理优化工具,PAI-Blade提供了一个可以试用且容易验证的环境及若干模型,构成BBS(Blade Benchmark Suite)。

PAI-Blade BBS中共有8个不同类型的深度学习模型,涵盖图像分类、文字检测、自然语言处理等场景,TensorFlow、Caffe及ONNX等深度学习框架。

BBS分别对比了TensorFlow、TensorFlow XLA、TensorRT、Caffe及Caffe2等不同框架的性能表现,展示了FP32、FP16及INT8等不同精度的优化情况,详细的性能数据及说明请参见BBS性能数据